구글, 이미지 생성 AI ‘이마젠3’ 출시… “유명인사 ‘딥페이크’ 차단”

유해 콘텐츠 출력 가능성 줄여
오픈AI 등 안전장치 마련 동참

구글이 텍스트를 입력하면 이미지를 생성하는 인공지능(AI) 도구 최신 버전을 출시했다. 딥페이크 생성을 막는 안전장치를 마련한 것이 특징이다.

18일(현지 시간) 정보기술(IT) 전문 매체 벤처비트 등에 따르면 구글은 15일 ‘이마젠3’를 미국에서 출시했다. 이용자가 복잡한 기술 없이도 원하는 이미지를 자연스러운 언어로 설명하면 그에 맞는 이미지를 생성한다.

구글은 이번에 ‘안전’에 방점을 찍었다. 유해한 이미지 생성을 사전에 차단하겠다는 것이다. 생성된 이미지에는 디지털 워터마크가 표시된다. 또 미국 민주당 대선 후보인 카멀라 해리스 부통령, 테일러 스위프트 등을 비롯한 유명 인사들의 이미지는 생성하지 않는다. 구글 측은 “광범위한 데이터 라벨링 등을 통해 유해한 콘텐츠 출력 가능성을 줄이고 레드팀을 구성해 관련 평가를 수행했다”고 설명했다.

구글이 새로운 생성형 AI를 선보이면서 안전을 중시하자 다른 기업들도 동참하는 분위기다. 챗GPT 개발사인 오픈AI의 ‘달리3’, 이미지 생성 AI 개발 업체인 미드저니의 ‘V6’ 등도 안전장치를 두고 있다.

반면 일론 머스크 테슬라 최고경영자(CEO)가 설립한 xAI가 13일 출시한 AI 챗봇 ‘그록2’는 유명 인사의 딥페이크와 폭력적 이미지를 제한 없이 생성해 논란이 되고 있다.

장은지 기자 jej@donga.com