'뽀뽀하는 트럼프, 가짜 푸틴'…인공지능, 선거 시기 골칫거리 되나
지난 13일 열린 대만 총통 선거를 시작으로 한국의 총선, 미국 대통령 선거 등 지구촌 곳곳에서 굵직한 선거가 이어지는 가운데 선거철 생성형AI의 악용을 막아야 한다는 목소리가 높아지고 있다. 생성형AI를 이용해 만든 가짜 이미지가 선거 유세에 활용하는 사례들이 나타나면서 유권자의 올바른 판단을 돕기 위해서라도 AI 기업과 당국이 나서야 한다는 것이다. 챗GPT를 서비스하는 오픈AI, '바드'를 선보인 구글 등은 생성형AI 악용을 방지하기 위한 방안을 내놨다.
● '파우치는 가짜' 헐뜯던 트럼프가 파우치에게 '뽀뽀'를?
지난 6월 로이터통신에 따르면 미국 플로리다주 주지사 론 드산티스의 SNS 계정에 뜻밖의 사진이 등장했다. 도널드 트럼프 전 미국 대통령이 신종 코로나바이러스 감염증(코로나19) 팬데믹 대응을 이끌던 앤서니 파우치 전 미국 국립보건원(NIH) 산하 국립알레르기감염병연구소(NIAID) 소장을 포옹하는 사진이었다. 다른 버전에는 트럼프 전 대통령이 파우치 소장의 코에 입을 맞추고 있었다.
트럼프 전 대통령과 파우치 소장은 코로나19 대응책을 두고 날선 각을 세우던 관계다. 트럼프 전 대통령은 '파우치는 멍청이, 가짜'라며 공개 석상에서 독설을 퍼붓기도 했다. 파우치 소장을 향한 트럼프 열렬 지지자의 공격이 거세지자 미 복지부는 경호 강화에 나서기도 했다.
사실 이 사진들은 드 산티스 주지사 선거캠프 측에서 허위로 만들어낸 사진이었다. 이는 트럼프 전 대통령과 드 산티스 주지사가 공화당 대통령 후보 자리를 두고 경쟁하면서 드 산티스 주지자 측이 트럼프 전 대통령 측을 견제하기 위해 만든 것으로 알려졌다. 당시 CNN 보도에 따르면 트럼프 전 대통령 선거캠프도 드 산티스 주지사와 특정 동물을 합성한 사진을 SNS에 게재하는 등 가짜 이미지를 만든 바 있다.
국내에서는 지난 2021년 문재인 전 대통령의 신년 기자회견 당시 프롬프터 화면을 조작한 사진이 온라인에서 떠돌았다.
SNS를 통해 빠르게 확산된 이 사진에는 문 전 대통령 맞은편에 설치된 프롬프터에 '대통령님, 말문 막히시면 원론적인 답변부터 하시면서 시간을 끌어보십시오'라는 문구가 적혀있었다. 이 역시 조작된 사진이었다. 실제 원본 사진에는 기자들의 즉문즉답에 대답하기 위한 질문 정보가 실려있었다. 사진 촬영 시점도 2021년이 아닌 2020년이었던 것으로 드러났다. 생성형AI가 아닌 간단한 편집툴로도 조작할 수 있는 이미지이지만 사실관계를 확인할 새 없이 순식간에 화제가 됐다.
러시아에서는 '가짜 푸틴'이 공식 석상에 등장했다. 지난해 12월 14일 모스크바 크렘린궁에서 열린 연례 기자회견에 참석한 블라디미르 푸틴 러시아 대통령은 국민들과 화상 질의응답 시간을 가졌다. 이 가운데 푸틴의 외모와 목소리를 똑같이 따라한 '딥페이크 푸틴'이 화면에 나타났다.
딥페이크 푸틴은 실제 푸틴 대통령의 표정이나 제스처를 똑같이 따라하며 푸틴 대통령에게 질문을 던졌다. 외신은 푸틴 대통령의 건강이 악화되며 대역을 쓰고 있다는 소문이 돌자 그 소문을 일축시키기 위해 일부러 딥페이크 영상을 노출시켰다고 해석했다.
● 허위정보 막을 대안 내놓는 기업들… 효과는 '글쎄'
생성형AI로 만든 가짜 정보에 대한 우려가 본격적인 선거철에 접어들면서 점점 커지자 챗GPT를 운영하는 오픈AI는 15일(현지시간) 블로그를 통해 선거철 생성형AI 악용을 방지하기 위한 대책을 내놨다.
오픈AI는 선거 기간 챗GPT를 이용해 선거 유세에 활용되는 애플리케이션을 만들 수 없게 한다. 후보자나 지역 지관과 1:1로 대화할 수 있는 챗봇을 만드는 행위도 금지된다. 투표 장소, 투표권, 투표 방식 등에 대한 허위 정보를 퍼뜨리거나 투표 참여를 저지하기 위한 애플리케이션도 만들 수 없다.
이미지 생성 프로그램인 '달리3(DALL·E 3)'에는 달리3으로 생성한 이미지임을 확인할 수 있는 검증 기술을 도입한다. 해당 이미지가 AI로 생성됐음을 확인할 수 있는 워터마크가 내장된다. 달리3으로 생성한 이미지를 검출하는 기능도 언론, 연구자 등을 통한 내부 테스트 후 공개될 예정이다.
앞서 생성형AI '바드(Bard)'를 보유한 구글, 포토샵 프로그램을 운영하는 어도비 등도 규제에 나섰다. 생성된 이미지에 워터마크를 내장해 AI 사용 사실을 확인할 수 있게 했다. 바드는 AI 검색 기능에서 선거 관련 질문을 제한한다. 페이스북, 인스타그램을 운영하는 메타는 정치 광고 게재시 AI 사용 여부를 명시하도록 했다.
AI 기업이 내놓은 대책에 실효성이 부족하다는 지적도 있다. 15일(현지시간) 미국 일간지 워싱턴포스트(WP)는 오픈AI가 챗GPT 등 자사 생성형AI에서 허위정보 단속안을 공표했음에도 지난 8월 WP 확인 결과 서비스에 실제 적용되지는 않았다고 밝혔다. 또 이미지에 명시된 워터마크는 사용자가 임의로 잘라낼 수 있는데다 내장형 워터마크의 경우에도 이미지의 명도나 색상을 조절하는 방식으로 숨길 수 있다는 지적이다.
한편 중앙선거관리위원회는 4월 총선을 앞두고 이달 11일부터 AI모니터링 전담요원, AI감별반 등을 확대 편성하는 등 딥페이크 콘텐츠 단속에 나선다. SNS에서도 허위정보로 판별된 콘텐츠를 신속히 삭제하는 등 선거철 모니터링을 강화하겠다는 방침을 밝혔다.
[박건희 기자 wissen@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.