딥페이크 이미지까지 만든다고? 일론 머스크의 AI 챗봇 '그록' 논란 [영상]

인공지능(AI) 챗봇 '그록'이 성적 딥페이크 생성 논란으로 세계 각국의 표적이 됐다. EU 집행위원회는 26일(현지시간) 그록과 엑스(X·옛 트위터)를 상대로 디지털서비스법 위반 여부 조사에 공식 착수했다고 밝혔다. 그록과 X는 일론 머스크 테슬라 최고경영자(CEO)의 AI 업체 xAI가 모기업이다. 지난해 X는 그록이 사용자 요청에 따라 사진을 바꿔주는 기능을 도입했는데, 여성, 어린아이 사진을 성적인 딥페이크 이미지로 합성하는 데 악용되면서 논란이 됐다. 조사 결과 X가 성착취물 생성 위험에 적절히 대응하지 않은 점이 드러나면, X는 전 세계 연간 매출의 최대 6%까지 과징금을 물 수 있다. 이미 인도네시아, 말레이시아, 필리핀 등은 그록 접속을 일시 차단했다. 국내에서는 방송미디어통신위원회가 14일 X 측에 청소년 접근 제한 및 관리 조치 등 보호 계획을 수립해 결과를 회신해달라고 통보했다. 영국과 미국 캘리포니아주 당국 역시 그록의 아동 보호 의무 위반 여부를 들여다보고 있다.

인공지능(AI) 챗봇 '그록'이 성적 딥페이크 생성 논란으로 세계 각국의 표적이 됐다.

서현정 기자 hyunjung@hankookilbo.com
이수연 PD leesuyun@hankookilbo.com