AI 생성이미지 올리자 3초만에 “경고”… 50초뒤 “확실”

딥페이크 감지 ‘트루미디어’ 써보니
“기하급수적 증가 허위뉴스 대응”
언론-비영리단체 등에 무료 제공
사진 ‘포토샵 조작’엔 오류 드러내

비영리단체 트루미디어가 2일 공개한 도널드 트럼프 전 미국 대통령의 딥페이크 사진. 탐지도구에 이미지를 업로드하자 “매우 의심스럽다”고 판단했다. 사진 출처 트루미디어 홈페이지

“초기 탐지결과: 매우 의심스러움(Highly Suspicious).”

도널드 트럼프 전 미국 대통령이 흑인 청년들에게 둘러싸인 채 환하게 미소를 짓는 한 장의 사진. 하지만 비영리단체 ‘트루미디어’ 웹사이트에 이 이미지를 업로드하자, 3초 만에 선명한 붉은색 테두리가 생기며 경고 문구가 떴다. 해당 사진이 생성형 인공지능(AI) 도구로 만들어진 ‘가짜’일 가능성이 짙다는 뜻이다.

11월 미 대선을 7개월가량 앞둔 상황에서 트루미디어가 최근 논란이 뜨거운 AI 딥페이크를 판별할 수 있는 서비스를 무료로 홈페이지에 2일 공개했다. 현재는 상업적 목적이 없는 정부기관이나 비영리단체, 언론 등에 이용을 승인하고 있다.

트루미디어는 트럼프 전 대통령 사진을 가짜로 판별하고 약 50초 뒤엔 그렇게 평가한 근거 8가지도 알려줬다. ‘AI 이미지 생성 도구 활용 가능성’ 항목은 “100% 확실”, ‘명도·색상 정보로 분석한 조작 가능성’ 항목은 “88% 확실” 등이다.

트루미디어를 이끄는 이는 미국 AI 연구의 선구자로 꼽히는 앨런AI연구소 창립자 오렌 에치오니 워싱턴대 교수다. 그는 “언론사의 인력은 줄어들고 제작 시간은 갈수록 촉박해지고 있는데, 허위정보는 기하급수적으로 증가하고 있다”며 개발 이유를 설명했다.

동아일보 기자가 사용 승인을 받아 실험해본 결과 트루미디어 서비스는 AI로 만들어진 사진은 물론 영상들도 잘 판별해냈다. 인종은 물론 언어도 별다른 장애물이 되지 않았다.

예를 들어, 2022년 한국 대선을 앞두고 국민의힘이 홍보용으로 제작했던 ‘AI 윤석열’ 영상은 3초 만에 “매우 의심스러움”이라는 초기 탐지결과를 내놓았다. ‘고급 음성 합성’ 항목에선 93%, ‘얼굴 합성’ 항목에선 79%의 가능성으로 만들어진 영상이라고 알아맞혔다.

반면 윤석열 대통령의 공식 인스타그램 계정에 2일 게시된 충남 공주시 공주의료원 방문 사진을 올렸더니, 연두색 테두리와 함께 “AI 조작 가능성 희박”이라는 결과가 나왔다. ‘조작 이미지 빅데이터로 학습한 AI 탐지’ 항목에선 32% 확률로 ‘불분명’하다고 판단했지만, 나머지 7개 항목은 모두 ‘조작증거 없음’이라고 했다.

반면 영국 케이트 미들턴 왕세자빈의 포토샵 조작 사진은 “AI 조작 가능성 희박”이란 결과가 나왔다. 사진 출처 트루미디어 홈페이지

트루미디어는 해당 서비스의 정확도가 90%에 이른다고 보고 있다. 하지만 약점도 분명했다. 생성형 AI 도구로 제작하지 않고, 실제 촬영한 사진을 편집 프로그램으로 조작한 경우엔 오류가 드러나기도 했다. 최근 포토샵 조작이 밝혀졌던 영국 케이트 미들턴 왕세자빈의 가족 사진으로 실험했더니 “AI 조작 가능성 희박”이라고 나왔다. AI를 이용하지 않았단 건 맞지만, 조작을 잡아내진 못한 것이다.

에치오니 교수는 2일 뉴욕타임스(NYT) 인터뷰에서 한계를 인정하면서도 “아무리 최고의 도구라도 100% 확실하게 답할 순 없다”며 “선거를 앞두고 잘못된 정보의 쓰나미를 보게 될 가능성이 높아 겁이 난다”고 했다. 허위 정보를 막으려면 규제당국과 기술기업들의 협력이 갈수록 필요하단 점도 강조했다.

홍정수 기자 hong@donga.com