총선 앞두고 딥페이크·유해정보 뿌리뽑는다

방통위 허위정보 근절대책
AI 역기능 차단에 집중
생성·유포 단계별로 구체화
'AI 이용자 보호법' 제정 추진
플랫폼에 자율규제 강조
"뉴미디어 책임 강화해야"

4·10 총선을 앞두고 방송통신위원회가 21일 윤석열 대통령에게 보고한 '2024년 업무계획' 핵심 내용은 인공지능(AI) 부작용 방지에 초점이 맞춰져 있다. AI 대중화 시대를 맞아 전 세계적으로 '딥페이크(Deepfake)' 등 부작용에 대한 문제점이 속속 나타나고 있기 때문이다. 딥러닝(Deep Learning)과 페이크(Fake)의 합성어인 '딥페이크'는 AI를 기반으로 영상이나 이미지를 학습시킨 뒤 조작된 영상을 만들어내는 인간 이미지 합성 기술이다. 조 바이든 미국 대통령을 흉내낸 공화당 예비선거 불참을 권하는 자동 녹음 전화와 미국 유명가수 테일러 스위프트의 딥페이크 음란 사진이 유포된 지 하루도 안돼 7000만명 이상이 조회하는 등 새로운 유형의 허위 조작 정보, 불법 유해 정보가 플랫폼을 통해 생성되고 빠르게 유통되는 것이 현실이다.

이러한 문제점으로 인해 전 세계 각 국은 속속 대책을 마련하고 있다. 미국은 지난해 10월 AI 생성 콘텐츠의 워터마크 표시 등 AI에 대한 행정명령을 공개했다. 유럽연합(EU)의 경우 실존 인물 등과 유사하게 생성·조작된 정보는 별도로 표시하도록 의무화했다. 방통위가 이날 발표한 'AI 서비스 이용자 보호에 관한 법률' 제정추진은 이러한 흐름과 같은 맥락이다. AI로 생성한 콘텐츠를 게시할 경우 'AI 생성물' 표시를 의무화하고, AI 관련 피해 구제를 위한 신고 전담 창구를 설치하도록 해 부작용을 막겠다는 것이다. 방통위는 생성·유포 단계별 대책 등 허위 조작 정보 근절 종합대책을 마련한다는 계획이다.

딥페이크 생성·확산의 주된 경로가 되고 있는 플랫폼에 대해선 자율규제를 우선 활성화한다는 방침이다. 법률 제·개정까지는 시간이 많이 걸리기 때문에 현실적으로 실행 가능한 자율규제부터 추진하겠다는 설명이다.

각국의 이러한 대응책과 맞물려 빅테크들도 '액션'에 나서고 있다. 전 세계 AI 산업을 주도하는 기술 기업 23곳이 정보 조작 가능성이 있는 딥페이크 확산 방지를 위해 글로벌 공동전선을 구축했다. 오픈AI, 마이크로소프트(MS), 구글, 메타, 엑스(X), 틱톡, 앤스로픽, 어도비 등 23개사는 딥페이크에 대응하기 위해 일종의 협의체인 'AI 선거협정(AI Elections Accord)'에 참여하고 있다. 한국에선 LG AI연구원이 유일하게 포함됐다. 이와 관련해 구글이 지난 18일부터 유튜브에 AI를 이용해 만들어진 콘텐츠에 '생성·합성 여부'를 표시하는 라벨링을 적용하기 시작했다.

한 플랫폼 업계 관계자는 "딥페이크 등 AI 기술의 발전과 확산에 따라 새로운 유형의 불법 유해 정보가 온라인 공간에서 무분별하게 유통되고 있는 상황에서 미디어의 사회적 책임을 강화하는 정부의 정책 기조에 대해선 긍정적으로 평가한다"면서도 "자칫 관리감독 강화에 따른 산업 생태계 위축으로 이어지지 않도록 사업자의 현장 목소리도 정책에 반영되길 바란다"고 말했다.

한편 방통위는 AI 대중화 시대를 맞아 미디어 산업 육성을 유도하는 법제를 개편한다. 우선 방송법, IPTV법, 전기통신사업법 등 개별법에 분산된 미디어 규율체계를 정비해 전통 미디어와 신유형 플랫폼을 아우르는 '통합미디어법안'의 입법을 추진할 계획이다.

방통위 관계자는 "동일 서비스에는 동일 규제를 적용한다는 원칙을 기반으로 미디어 사업자 간 공정 경쟁 촉진과 미디어 산업 진흥을 위한 법 제도 정비에 나설 것"이라고 설명했다.

아울러 스트림플레이션(스트리밍+인플레이션) 등 외국산 온라인동영상서비스(OTT) 플랫폼 문제점에 대해 대응에 나서면서 토종 OTT를 육성할 계획이다. 지난해 말 요금을 올린 OTT 사업자들의 법률 위반 여부를 살피기 위해 사실조사를 실시하고, 플랫폼 서비스의 가입·이용 시 불편 사항을 점검할 예정이다.

[김대기 기자]