“스위프트 딥페이크 사태 막아야”···오픈AI, AI 이미지에 라벨 부착

테일러 스위프트가 4일(현지시간) 미국 로스앤젤레스의 크립토닷컴 아레나에서 열린 66회 그래미상 시상식에서 익살스러운 표정을 짓고 있다. 로이터·연합뉴스

[서울경제]

페이스북 모회사인 메타가 이용자들이 인공지능(AI)으로 생성된 이미지임을 식별할 수 있게 하는 정책을 시행한다고 예고한 데 이어 챗GPT 개발사 오픈AI도 자사의 AI로 생성된 이미지에 라벨(label·꼬리표)을 부착하기로 했다. 지난달 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산해 논란이 되자 대책 마련에 나선 것으로 보인다.

오픈AI는 '달리3'가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획이라고 7일(현지시간) 밝혔다. 이용자들이 AI로 생성된 이미지를 식별할 수 있도록 하기 위해서다.

C2PA는 미디어 출처와 관련 정보 확인을 위한 개방형 기술 표준으로, 마이크로소프트와 어도비, 인텔 등의 기업이 주도하고 있다.

디지털 워터마크는 메타데이터(데이터의 구조·속성 등을 표현한 자료) 형태로 이미지에서는 볼 수 없고, 콘텐츠 자격증명 인증(Content Credentials Verify)과 같은 사이트에서 AI가 이미지를 생성했는지 여부를 확인할 수 있다.

오픈AI는 웹 버전에서 '달리3'로 생성된 이미지 메타데이터에는 이미 C2PA가 들어가 있으며, 12일까지 이를 모바일 사용자에게도 확대할 계획이라고 밝혔다.

오픈AI는 다만 “워터마크는 쉽게 제거될 수 있다”며 “이것이 완벽한 해결책은 아니다”라고 덧붙였다.

오픈AI의 이번 발표는 최근 미국에서 AI가 생성한 딥페이크(Deep fake·AI로 만든 영상, 이미지, 음성 조작물) 이미지에 규제가 필요하다는 목소리가 높아지고 있는 가운데 나왔다.

앞서 페이스북 모회사 메타는 지난 6일 자체 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 외부 AI 도구로 만든 콘텐츠에도 '이매진드 위드 AI'(Imagined with AI)라는 라벨(label·꼬리표)을 붙이겠다고 밝힌 바 있다.

구글도 지난 1일 자사 AI 챗봇 서비스인 바드에 이미지 생성 기능을 추가하면서 구글 딥마인드가 개발한 워터마크를 적용하기로 했다.

황수민 인턴기자 sum@sedaily.com