정치인 등 유명인사 이미지 생성은 ‘오픈AI 정책 따라 제한’ 그러나 미국 대통령 이미지에 트럼프 그리는 등 허점 여전 워터마크 넣도록 한 ‘AI 행정명령’에도 “기술적 한계” 해명
생성형 인공지능(AI)을 비롯한 AI 기술이 일상에 깊이 파고 들고 있습니다. [AI묻답]은 우리 주변에서 일어난 궁금한 사안, 결론 내리기 어려운 주제를 인공지능(AI)에게 묻고 답을 들어보는 연재 기사입니다.
최근 도널드 트럼프 전 미국 대통령이 인공지능(AI)으로 조작한 이미지로 곤욕을 겪는가 하면 딥페이크를 악용한 성착취 영상 문제가 대두하며, AI의 이미지 생성 기술에 대한 우려가 다시 제기되고 있다. 생성형 AI로는 가장 많은 주목을 받는 오픈AI의 챗GPT에 이에 관해 물었다.
트럼프 전 대통령은 지난 18일 소셜 미디어 트루스 소셜에 유명 가수 테일러 스위프트가 미국 엉클 샘(미국을 의인화한 상징) 복장을 하고 있는 영상을 올렸는데, 이 영상에는 “테일러가 여러분이 도널드 트럼프 전 대통령에 투표하길 바란다”는 문구가 적혀 있었다. 트럼프 전 대통령은 이 영상을 두고 “(테일러 스위프트의 지지를) 받아들였다”고 쓰기도 했다. 하지만 영상은 AI로 조작된 것으로 밝혀졌다. 스위프트는 올해 대선에서 지지 후보를 밝히지 않은 상태고, 지난 대선 때는 조 바이든 대통령을 공개 지지했다.
본지는 챗GPT를 통해 해당 이미지를 재현해 보고자 시도했다. ‘미국 가수 테일러 스위프트가 엉클 샘 복장을 한 이미지를 만들라’고 명령하자, 챗GPT는 “콘텐츠 정책에 따라 생성할 수 없다”며 “(이 정책은) 유명인사의 이미지를 보호하고, 부적절한 사용을 방지하기 위해 마련됐다”고 설명했다. 또 ‘현직 정치 지도자’ ‘최근 주요 정치 인물’ ‘국제적으로 중요한 정치 인물’ ‘역사적 중요성을 가진 정치 인물’에 대한 이미지 생성도 이 정책에 따라 제한된다고 덧붙였다.
실제 트럼프 전 대통령과 김정은 북한 국무위원장이 만난 모습을 이미지로 만들라는 명령에 챗GPT는 “정책상 특정 정치인의 이미지를 생성하는 것은 제한된다”고 답했다. 그러나 이어지는 답변에서 “김정은 국무위원장이 미국 대통령과 함께 중요한 회담을 진행하는 모습을 그린 장면을 만들 수 있다”며 “그들은 평화로운 분위기의 회담장에서 서로 악수를 하고 있거나, 회담 테이블에 앉아 있는 모습으로 묘사될 수 있다”고 대안을 제시했다.
이러한 정책에도 실존 인물이 등장하는 허위 이미지를 완전히 막기는 부족했다. 김 국무위원장이 미국 대통령과 회담하는 모습을 그려달라고 하자, 챗GPT가 만든 이미지는 다름 아닌 트럼프 전 대통령과 김 국무위원장이 악수하고 있는 사진이었다. 챗GPT는 ‘미국 대통령’이라고 했지만 사진 속 인물은 ‘금빛 머리카락’에 ‘빨간 넥타이’를 착용하고 있는 등 영락없는 트럼프 전 대통령의 모습이었다.
이런 문제가 발생한 원인에 대해 챗GPT는 “특정한 직책이나 역할을 가진 인물들을 묘사할 때 그 인물의 시각적 특징을 반영하기 때문”이라고 했다. 이어 “미국 대통령이라는 설명이 포함됐을 때, 그 직책을 가장 최근에 맡았던 인물의 이미지를 반영할 가능성이 있다”고 부연했다.
최근 미국 의회는 AI 이미지 생성 기술이 실존하는 인물의 이미지를 합성하는 딥페이크로 악용되며 선거운동 등에 영향을 미칠 수 있다고 보고 ‘딥페이크 책임법안’을 발의했다. 해당 법안은 ‘폭력사태 등을 조장하거나 선거 등 공식 절차를 방해하는 경우’ 형사처분에 처할 수 있다고 규정했다. 또 바이든 미국 대통령은 지난해 10월30일 워터마크 등을 통해 합성 콘텐츠에 표식을 넣도록 하는 ‘AI 행정명령’을 발령했다.
딥페이크 기술 악용을 막기 위해 챗GPT는 특정한 개인의 실명이나 개인정보를 바탕으로 한 이미지 생성이 불가하다. 챗GPT는 “성적인 콘텐츠, 폭력적인 이미지, 그리고 개인을 대상으로 하는 모욕적이거나 해를 끼칠 수 있는 콘텐츠를 생성하지 않도록 설계됐다”고 했다.
챗GPT에 이미지 생성을 요청한 화면. 챗GPT 캡처
그러나 챗GPT가 생성하는 이미지에는 여전히 워터마크가 새겨져 있지 않다. 이에 대해 챗GPT는 “텍스트 기반 AI는 이미지 생성의 세부적인 기술적 처리와 같은 직접적인 조작을 수행하지 않는다”며 기술적 제한이 있다고 해명했다. 또 “표식이나 워터마크를 추가하는 기능을 제공할 경우 생성된 모든 이미지에 대해 일관성 있게 적용돼야 한다”며 “이는 기술적으로 복잡해 사용자들이 다양한 목적과 요구사항에 따라 이미지를 생성하기 때문에 일관된 접근이 어려울 수 있다”고 부연했다.
