오픈AI, AI 생성 이미지에 라벨 부착···딥페이크 대응 합류

챗GPT 개발사인 오픈AI가 자사 이미지 생성 인공지능(AI) 도구 '달리3'가 만든 이미지에 디지털 워터마크를 부착한다.

오픈AI는 달리3가 만든 이미지에 콘텐츠 출처·진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획이고, 디지털 정보 신뢰를 높이는데 도움이 될 것이라고 밝혔다.

C2PA는 미디어 출처와 관련 정보 확인을 위한 개방형 기술 표준이다. 마이크로소프트와 어도비, 인텔 등 기업이 주도하고 있다.

디지털 워터마크는 메타데이터(데이터 구조·속성 등을 표현한 자료) 형태다. 이미지에서는 볼 수 없고, 콘텐츠 자격증명 인증 같은 사이트에서 AI가 생성한 것인지 확인할 수 있다.

다만 오픈AI는 “워터마크는 쉽게 제거될 수 있다”며 “이것이 완벽한 해결책은 아니다”라고 덧붙였다.

이번 오픈AI 발표는 미국에서 AI가 생성한 딥페이크(AI로 만든 영상·이미지·음성 조작물) 규제 목소리가 커진 직후 나왔다. 지난 달 팝스타 테일러 스위프트를 합성한 딥페이크 음란 이미지가 소셜미디어 X(구 트위터)를 통해 확산한 것이 불을 당겼다.

논란 이후 페이스북 모회사 메타는 지난 6일 자체 AI 도구 '메타 AI'를 사용해 만든 이미지와 외부 AI 도구로 만든 콘텐츠에 라벨(꼬리표)을 붙이겠다고 밝혔다.

구글은 지난 1일 자사 AI 챗봇 서비스 '바드'에 이미지 생성 기능을 추가하고, 구글 딥마인드가 개발한 워터마크를 적용하기로 했다.

류태웅 기자 bigheroryu@etnews.com

전자신문