“트럼프 얼굴·나치 문양도 가능”…오픈AI, 이미지 생성 규제 완화

에이피(AP) 연합뉴스

최근 일본 애니메이션 제작사 ‘스튜디오 지브리’의 그림체를 구현해 화제가 된 오픈에이아이(AI)가 민감 이미지 생성과 관련한 내부 정책을 완화했다. 그동안 생성이 제한됐던 유명인 얼굴과 혐오 상징물 등의 묘사가 가능해져 오남용에 대한 우려가 나온다.

조앤 장 오픈에이아이 모델 행동 총괄은 28일(현지시각) 자신의 엑스(X·옛 트위터) 등을 통해 최근 ‘챗지피티(ChatGPT)-포오(4o) 이미지 생성’ 모델 출시에 맞춰 변경된 정책과 그 이유를 소개했다.

장 총괄은 샘 올트먼 최고경영자(CEO)가 이번 모델을 “창의적 자유를 허용하는 데 있어 새로운 이정표”라고 강조한 점을 언급하며 “우리는 민감한 이미지의 생성을 일괄적으로 거부하는 방식에서 벗어나 실질적인 피해를 방지하는 데 초점을 맞추는 방향으로 정책을 전환하고 있다”고 밝혔다.

새 정책에 따라 오픈에이아이의 모델은 도널드 트럼프 미국 대통령이나 정부효율부(DOGE) 수장인 일론 머스크 테슬라 최고경영자 등 유명인의 이미지를 생성할 수 있다. 대신 오픈에이아이는 유명인이 챗지피티에서 자신의 이미지가 생성되는 걸 원하지 않을 경우 당사자가 직접 이를 선택할 수 있는 옵트아웃제를 운영하기로 했다. 또 ‘아시아인의 눈’이나 ‘뚱뚱한 사람’처럼 기존에 인종 차별 우려 등으로 묘사가 제한됐던 이미지도 작업이 가능해졌다.

아울러 2차 대전 당시 독일 나치당의 상징인 ‘갈고리 십자가’(하켄크로이츠) 문양 등 혐오 상징물의 생성도 제한이 풀렸다. 장 총괄은 “이런 이미지는 교육적·문화적 맥락에서도 나타나며, (생성을) 완전히 금지하면 의미 있는 대화와 지적 탐구가 사라질 수 있다”며 “대신 유해한 오남용 사례를 더 정확히 식별하고 거부할 수 있는 기술적 방법을 개선하고 있다”고 설명했다.

미국 아이티(IT) 전문매체인 테크크런치는 오픈에이아이의 새 정책을 두고 “주목할 점은 (이미지 생성의) 무분별한 오남용까지 허용하는 것은 아니란 점”이라며 “이제 인공지능 콘텐츠 관리를 둘러싼 문화 전쟁이 본격화될 조짐”이라고 평가했다.

선담은 기자 sun@hani.co.kr