구글, AI 이미지에 인식표 붙이기로...가짜뉴스 차단

구글, AI 이미지 업체들과 협력해 AI 이미지 제작부터 인식표 심기로
올해 말부터 이미지 검색하면 부가정보에 표시

지난 3월 트위터 등 온라인에서 유행했던 도널드 트럼프 전 대통령의 체포 이미지. 해당 이미지는 영국 언론인 엘리엇 히긴스가 생성형 인공지능(AI)인 미드저니를 이용해 합성한 가짜 사진이다.사진=엘리엇 히긴스 트위터 캡쳐

[파이낸셜뉴스] 세계 최대 인터넷 검색엔진인 구글이 생성형 인공지능(AI)으로 만든 이미지에 인식표를 심어 AI가 만들었다는 정보를 표시할 계획이다. 이는 최근 범람하는 AI 이미지가 가짜뉴스에 사용되는 등 사회적 물의를 빚는 상황을 막기 위한 조치다.

미국 경제매체 CNBC에 따르면 구글은 10일(현지시간) 제품 업데이트 공지를 통해 올해 말부터 검색 엔진에서 검색된 이미지에 추가 정보를 제공하겠다고 밝혔다. 이날 구글은 미 캘리포니아주 마운틴뷰에서 '구글 연례 개발자 회의(I/O)'를 열고 신제품들을 공개했다.

구글에 따르면 사용자들은 앞으로 검색된 이미지에 부가 정보 버튼을 누르면 해당 이미지의 추가 정보를 볼 수 있다. AI로 제작된 이미지에는 “AI가 제작했다고 자체 분류된 이미지”라는 설명이 붙는다. 동시에 이미지가 온라인에 최초 등록된 날짜나 뉴스에 인용됐는지 여부도 표시된다. 구글은 셔터스톡, 미드저니 같은 AI 이미지 생성 업체들과 협력해 AI가 이미지를 생성하는 순간, 사람 눈에는 보이지 않지만 소프트웨어가 인식할 수 있는 표식을 붙이겠다고 밝혔다. 이어 검색 엔진이 해당 표식을 읽는 동시에 검색 엔진의 AI가 이러한 이미지를 분류할 수 있도록 훈련시킬 계획이다. 구글은 앞으로 몇 개월 안에 다른 생성형 AI 업체들과 협력을 늘릴 계획이다.

CNBC는 이번 조치에 대해 갈수록 AI 합성 이미지를 구분하기 힘들어지는 가운데 대기업이 규제에 나선 가장 중요한 사례라고 지적했다. 현재 AI가 합성한 이미지는 세부적으로 화면이 일그러지거나 사람의 손가락을 제대로 표현하지 못하는 특징이 있지만 이를 공식적으로 걸러내는 방법은 없는 상황이다. 지난 3월 미국에서는 도널드 트럼프 전 대통령이 체포되어 끌려가는 사진이 온라인에 급속도로 퍼졌으나 이는 미드저니로 합성한 AI 이미지로 밝혀졌다. 같은달 프란치스코 교황이 흰색 패딩을 입고 있는 사진도 온라인에서 화제가 되었으며 이 역시 미드저니로 합성한 이미지였다.