'AI 프로필' 대박 난 앱…지인 사진 넣자 반라 만들어놨다

조을선 기자 2023. 12. 8. 20:54
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

최근 인공지능 기술로 프로필 사진을 만들어주는 앱이 인기를 끌고 있습니다.

많은 시간을 들이지 않아도 금방 원하는 사진 여러 장을 얻을 수 있는데, 이런 앱을 이용했다가 선정적인 사진이 만들어졌다는 제보가 들어왔습니다.

외국인 친구 프로필 사진도 신청해서 묶음 사진 그대로 친구에게 보냈고, 친구는 또 직장 동료들과 공유했는데, 수십 장 가운데 반라의 몸으로 생성된 친구 사진이 포함돼 있었던 것입니다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

<앵커>

최근 인공지능 기술로 프로필 사진을 만들어주는 앱이 인기를 끌고 있습니다. 많은 시간을 들이지 않아도 금방 원하는 사진 여러 장을 얻을 수 있는데, 이런 앱을 이용했다가 선정적인 사진이 만들어졌다는 제보가 들어왔습니다.

보도에 조을선 기자입니다.

<기자>

SNS에는 AI가 만든 진짜 같은 프로필 사진들이 넘쳐납니다.

최근에는 1990년대 미국 졸업앨범 풍의 AI 사진이 유행했습니다.

유재석, 백종원 등 연예인들의 AI 사진도 화제가 됐습니다.

이 앱에 제 사진 8장을 입력하고 성별을 선택한 뒤 유료 결제를 하니 30분 만에 미국 복고풍의 졸업앨범 사진이 완성됐습니다.

네이버 계열사 스노우가 만든 이미지 생성 앱은 56개국 애플 앱스토어에서 1위를 기록했을 만큼 인기를 끌었습니다.

그런데 이 앱을 이용했다가 곤란한 일을 겪은 사람이 있습니다.

외국인 친구 프로필 사진도 신청해서 묶음 사진 그대로 친구에게 보냈고, 친구는 또 직장 동료들과 공유했는데, 수십 장 가운데 반라의 몸으로 생성된 친구 사진이 포함돼 있었던 것입니다.

[윤가비/서울시 송파구 : 친구가 좀 많이 창피했다고도 하더라고요. 그래서, 저도 약간 좀 민망하고 좀 미안했어요. 아이(학생)들도 이제 쉽게 접근할 수 있는 앱인데….]

스노우 측은 "개방형 이미지 생성 모델을 활용하면서 명령어를 통해 문제가 될 이미지를 제외하고 있는데 현재의 AI 기술 수준이 완벽하지 않다"고 설명했습니다.

실제 AI 기술의 한계로 선정적이거나 인종적 편견이 담긴 다양한 오류들이 보고되고 있습니다.

하지만 앱 업체의 서비스 관리에 허점이 있다는 지적은 피하기 어렵습니다.

[임종인/고려대 정보보호대학원 석좌교수 : AI가 우리의 미래를 크게 변화시킬 건 틀림없는데 그만큼 영향력이 크니까, AI의 책임 있는 사용과 관련된 여러 가지 조치들이….]

스노우 측은 "선정적이거나 혐오스러운 이미지를 걸러주는 기능을 고도화하고, 오류 발생 시 고객센터로 쉽게 연결될 수 있도록 하겠다"고 밝혔습니다.

(영상취재 : 박진호, 영상편집 : 전민규, VJ : 김영래)

조을선 기자 sunshine5@sbs.co.kr

Copyright © Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

이 기사에 대해 어떻게 생각하시나요?