[광화문에서/정양환]AI 성 착취물과의 전쟁… 더 늦으면 재앙 맞는다

정양환 국제부 차장

“거짓과 싸우는 가장 간명한 길은 진실과 함께(with the truth)하는 거죠.”

근사하면서도 씁쓸했다. 11일(현지 시간) 현존하는 ‘원톱’ 팝스타 테일러 스위프트가 카멀라 해리스 미국 민주당 대선 후보를 지지하며 올린 인스타그램 게시물은 끝내줬다. 딱 하나, 인공지능(AI) 딥페이크로 만든 자신의 가짜 사진에 대한 언급은 뒷맛이 개운치 않았다. 진실로 거짓과 맞서자. 분명 옳은 말인데, 거대한 벽에 부딪힌 현실이 떠올랐다.

최근 국내에서도 논란인 AI 딥페이크 성 착취물이 무서운 건 이런 ‘진위(眞僞)의 경계’를 무너뜨리고 있단 점이다. AI 편집기술로 다른 이 얼굴을 합성해 음란물을 만드는 순간, 참인지 아닌지 상관없이 누군가는 끔찍한 피해를 본다. 이미 퍼진 뒤 사실이 밝혀진들 그 상처를 어찌 보상할까. 영국 인디펜던트는 이런 AI의 악용을 두고 “어느 여염집에나 있는 토스터가 핵폭탄을 만드는 가공할 병기창(arsenal)이 되는 셈”이라 했다.

설마 그 정도일까. 지난달 독일의 한 정보기술(IT) 웹진에 따르면 AI 딥페이크 성 착취물 제작은 범죄에 쓰일까 봐 구체적 방법은 기술하지 않는 게 민망할 정도다. 누구나 접근 가능한 오픈 소프(Open Source) AI 모델만 컴퓨터에 깐 뒤 ‘적당한’ 문구를 입력하면 끝이다. 결과물을 살펴본 IT 전문가는 “어색한 점도 있으나 꼼꼼히 살펴야 알 정도”라며 “별다른 전문지식 없이도(without specialized knowledge) 만들 수 있다는 게 충격적”이라 했다.

최근 미국에서 AI 성 착취물 제작 혐의로 붙잡힌 이들 면면을 봐도 그렇다. 펜타곤에서 근무하는 군인부터 한적한 시골 현직 교사, 10대 초반 중학생까지…. 그저 방구석에 앉아 키보드만 두드려 악질 범죄자가 됐다. 미국 시카고트리뷴은 “그들은 일상에서 인사 건네던 주변 사람부터 일면식도 없는 해외 인플루언서까지 상대를 가리지 않았다”고 전했다.

상황이 심각해지자 서구 정부나 입법기관 등은 총력전에 나서는 모양새다. 미 캘리포니아 주의회는 이달 초 AI 딥페이크로 아동 성 착취물을 제작·배포·소지한 이들을 모두 처벌할 수 있는 법안을 통과시켰다. 마이크로소프트(MS)와 오픈AI 등은 11일 백악관에서 딥페이크 성 착취물 방지를 위해 AI 학습데이터에서 나체(nude) 이미지를 제거하기로 서약했다. 유럽연합(EU)도 최근 개발된 AI 모델들이 성 착취물을 양산해 개인 보호 규정을 어겼는지 전면 조사에 착수했다. 미 워싱턴포스트는 “규제가 기술을 쫓아가지 못하는 현실을 고려하면 늦은 감이 있지만, 전방위적 노력 없인 AI가 심각한 재앙 덩어리가 될 것”이라며 규제를 지지했다.

만시지탄(晩時之歎)이지만 한국도 반가운 소식이 들렸다. 19일 아동, 청소년 대상 AI 딥페이크 성 착취물 등과 관련된 범죄 처벌을 강화하고 피해자를 지원하는 법안들이 여야 합의로 국회 상임위 소위를 통과했다. 실은 지난해 거의 동일한 법안이 발의됐으나 관심을 받지 못한 채 폐기된 걸 떠올리면 이런 늑장 대응이 없다. 하지만 늦었다고 포기할 순 없다. 미 NBC뉴스는 백악관 서약식을 보도하며 “AI 딥페이크 성 착취물 전쟁은 인간의 존엄성(dignity)이 달린 문제”라고 했다. 세금으로 운영되는 국가기관들이 국민 존엄을 위해 싸우지 않는다면 굳이 존재할 이유가 있을까.

정양환 국제부 차장 ray@donga.com