‘가짜 AI 이미지’에 칼 뽑은 구글, 안전장치 강화

딥페이크 범죄 대비 ‘이마젠3’ 선봬
워터마크 표시·유명인 생성은 제외
이미지 생성 AI 경쟁속 우위 선점

구글 홈페이지 캡처

구글이 텍스트를 입력하면 이미지가 생성되는 인공지능(AI) 도구의 최신 버전을 출시했다. 생성된 이미지에 디지털 워터마크를 표시하는 등 딥페이크(합성 이미지) 범죄에 대비해 안전장치를 강화했다. 최근 미 국회에서 AI로 특정인의 얼굴·음성을 재현하는 행위를 불법으로 규정하는 내용의 법안까지 발의되면서 정보통신(IT) 업계의 AI 윤리 기준은 더욱 강화할 것으로 전망된다.

18일(현지시간) 정보기술(IT) 전문 매체 벤처비트 등에 따르면 구글은 지난 15일 ‘이마젠3’를 미국에서 출시했다. 이마젠3는 텍스트를 입력하면 이미지를 생성하는 AI 도구다. 구글 딥마인드는 이 도구에 대해 “텍스트 투 이미지(text-to-image) 생성을 위한 최고 성능의 모델”이라고 소개했다.

딥마인드에 따르면 이 모델은 과거 버전보다 더 세밀한 이미지를 생성한다. 이용자가 복잡한 기술을 사용하지 않아도 원하는 이미지를 언어로만 설명하면 이에 부합하는 결과물이 생성된다. AI 이미지의 오남용 문제를 고려해 안전장치도 마련했다. 이마젠3로 제작된 이미지에는 디지털 워터마크가 표시되고, 유명 인사의 이미지는 제작되지 않는다.

이마젠3 출시에 앞서 일론 머스크 테슬라 최고경영자(CEO)의 AI 기업 xAI는 지난 13일 엑스(X·옛 트위터)에 그록2 베타 버전을 출시한다고 밝혔다. 하지만 그록2는 출시 초기부터 생성된 이미지의 폭력성과 선정성 때문에 많은 논란이 일었다. 카밀라 해리스 부통령과 도널드 트럼프 전 대통령, 버락 오바마 전 대통령 등 주로 유명인사가 딥페이크의 대상이 됐다.

그동안 미국에서는 AI를 이용한 가짜 이미지와 영상 제작이 사회 문제로 떠올랐는데, 최근 피해 범위가 유명인에서 일반인까지 확대됐다. 관련 문제를 심각하게 받아들인 미 국회 상원의원들은 이달 초 개인 음성 및 신체가 당사자의 동의 없이 AI로 구현됐을 때 손해배상 청구가 가능한 일명 ‘가짜 금지법’을 발의했다. 법안에 따르면 개인이나 기업이 당사자 동의 없이 AI 등으로 디지털 복제물을 제작 및 공유할 경우 이에 대해 책임져야 한다.

이마젠3 출시로 이미지 생성 도구인 오픈AI의 ‘달리3’, 머스크의 ‘그록2’, 미드저니의 ‘V6’ 모델 간 경쟁이 격화할 것으로 예상된다. 업계 관계자는 “딥페이크 문제가 사회적으로 심각해진 상황에서 가장 적극적으로 안전장치를 마련한 구글이 시장에서 앞서나갈 확률이 커졌다”고 말했다.

나경연 기자 contest@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지