딥페이크 성착취 이미지 생성·유포하면 정보통신망법상 명예훼손

방미통위 'AI 사업자 위한 이용자 보호 관련 통신관계 법령 안내서' 발간
AI 서비스 적용 가능 법령 분석…새로운 피해 대응 부족, 제도적 보완 필요

[미디어오늘 윤유경 기자]

▲ 모바일을 이용한 AI 챗봇과의 대화를 구현한 이미지. 사진=Getty Images Bank

급속히 발전하는 인공지능(AI) 서비스를 기존 통신 관련 법으로 규제할 수 있을까?

방송미디어통신위원회(이하 방미통위)는 20일 AI 기술 발전에 따라 발생하는 법적 불확실성을 해소하고자 통신 관계 법령을 분석한 'AI 서비스 사업자를 위한 이용자 보호 관련 통신 관계 법령 안내서'를 공개했다.

주로 온라인·모바일 환경에서 제공되는 AI 서비스는 대부분 통신망을 이용해 전달되기에 통신서비스 관련 법의 적용 대상이 될 수 있지만, 기존 통신서비스와의 차이로 법 적용에 있어 혼란이 발생할 수 있다. 가령, 정보통신망을 통해 제공되는 AI 서비스의 경우 '전기통신사업법' 상 부가통신서비스와 '정보통신망법'의 정보통신서비스로 포섭될 수 있지만, 서비스 형태와 제공 방식이 복잡하고 다양해 각 법령의 적용 여부가 불확실하다.

이에 안내서는 '이용자 보호'를 중심으로 AI 서비스 관련 법적 쟁점에 대해 기존 통신관계 법령이 어느 범위에서 적용될 수 있는지 분석했다. 방미통위는 지난해 3월부터 정보통신정책연구원(KISDI)과 AI 법률 전문가로 구성된 연구반, 외부 자문을 통해 국내·외 이용 및 법제 사례 등을 검토해 이번 안내서를 마련했다.

AI 서비스에 적용 가능한 현행 법령은?

안내서에는 '전기통신사업법' 상 금지행위, 이용자 보호 및 손해배상 조문과 '정보통신망법' 상 불법유해정보 유통 방지, 아동·청소년 보호 조문 등 현재 제공되고 있는 AI 서비스의 이용자 보호 관련 조문들을 중심으로 검토한 내용이 담겼다.

안내서에 따르면, AI 서비스 사업자는 부가통신사업자로서 전기통신사업법 상 금지행위로 규정된 '이용자 이익 저해 행위', '중요 사항 미고지 행위' 등을 해서는 안 된다. 가령, 이용자의 사전 동의 없이 AI 서비스 유료 구독 시점에서 안내한 요금과 다르게 요금을 부당하게 청구하면, 사업자는 전기통신사업법상 '부당한 요금청구 관련 행위'로 규율될 수 있다. 또한 이용자가 접하는 이미지, 음성, 영상 등이 AI에 의해 생성됐다는 사실은 '중요한 사항'에 해당한다고 볼 수 있어 고지하지 않았을 경우 '중요 사항 미고지 행위'로 분류될 가능성이 있다.

정보통신망법 관련해선 AI로 생성된 불법 유해 정보 유통 규제가 핵심이다. 가령, 딥페이크 성착취 이미지를 생성해 유포한 경우, 이용자는 정보통신망법 상 명예훼손죄에 해당할 수 있고 개별법상 형사처벌의 대상이 될 수 있다.

정보통신망을 매개로 정보를 제공하는 AI 서비스는 정보통신망법 상 정보통신서비스 제공자의 범위에 포함되므로, 해당 AI 서비스 사업자도 법의 적용을 받을 수 있다. AI 서비스 사업자라도 본인이 운영하는 정보통신망에 타인의 권리 침해 정보가 공개돼 유통되지 않도록 노력할 의무가 있는 것이다.

AI로 인한 새로운 피해 대응 부족…제도적 보완 필요

일부 한계도 있다. 가령, 전기통신사업법 상 '이용자 이익 침해 금지' 조항은 '이익'을 계약 관계에 따른 직접적인 금전적 이익이나 명시적 권리로 한정하면 무료 AI 서비스의 불공정 행위나 알고리즘 차별 등 새로운 행태의 피해에 대응하기 어렵다. '중요 사항 고지 의무'의 경우 AI 서비스의 다양한 계약 형태와 복잡한 기술적 특성을 고려할 때 무엇이 '중요사항'인지 명확하지 않고, 사회적 합의도 부족해 현행법만으로는 이용자의 알 권리를 온전히 보장하기 어렵다.

정보통신망법은 정보의 '유통'과 '공개'를 전제로 설계돼 있어 정보 '생성'을 주요 목적으로 하는 생성형 AI 서비스를 규율하는 데 부족한 부분이 있다. 다양한 경로의 급속한 정보 확산 속도와 비밀통신환경 등을 제어하는 데도 한계가 있다. AI의 불투명성으로 인한 피해 입증의 어려움, 단순 삭제로는 해결되지 않는 구조적 문제 등의 규제 공백도 있다.

▲방송미디어통신위원회(이하 방미통위)는 20일 AI 기술 발전에 따라 발생하는 법적 불확실성을 해소하고자 통신 관계 법령을 분석한 'AI 서비스 사업자를 위한 이용자 보호 관련 통신 관계 법령 안내서'를 공개했다. 사진 출처=방미통위.

이에 안내서는 현행 법령의 탄력적 해석을 통해 AI 서비스 관련 이슈에 대응할 수 있는 구체적 방안을 제시한다. 법 해석만으로 해결하기 어려운 근본적 한계에 대해선 현행법 개정, 새로운 법률 제정 등 제도적 보완의 필요성을 제기했다. 이용자가 AI를 활용해 타인의 권리를 침해하는 정보를 생성하려는 경우, 사업자가 이를 사전에 차단하거나 필터링 단계를 두는 조치를 취하도록 하는 의무를 정보통신망법 개정 또는 별도법 제정을 통해 도입하자는 식이다.

특히 안내서는 생성형 AI를 통해 만들어진 불법정보의 파급력을 고려했을 때, 정보의 '생성' 단계부터 '유통' 과정까지를 포괄하는 법령 체계의 재정비가 필요하다고 했다. 영국 미디어 규제기관 오프콤(Ofcom)은 2024년 11월 자국의 '온라인 안전법'의 규율 대상에 생성형 AI서비스가 포함될 수 있다는 뜻을 공개서한 형식으로 밝혔고, 같은 해 호주는 '온라인 안전법' 개정을 통해 16세 미만 아동·청소년의 소셜미디어 플랫폼 사용을 금지했다.

미국은 지난해 AI와 딥페이크 기술을 이용한 비동의 성적 이미지의 온라인 유포를 강하게 규제하는 '딥페이크 삭제 의무화법'(Take it Down Act)을 제정했다. 안내서는 “주요국들이 AI 서비스로 인한 불법정보 문제에 적극 대응하고 있는 추세를 참고할 필요가 있다”고 했다.

아울러 안내서는 “AI 서비스의 고유한 특성을 반영한 규율 체계 구축, 기술 발전과 이용자 보호의 균형을 고려한 합리적 규율 방안, 사업자 자율규제와 정부 규제의 조화로운 운용 등이 중요한 과제”라고 짚었다.

방미통위는 안내서를 기반으로 AI 생태계 변화에 따라 발생하는 이용자 보호 이슈에 적절하고 합리적인 정책을 추진함과 동시에 사업자에게는 규제 대응의 안정성을 제공하고, 이용자에게는 서비스 이용의 신뢰성을 제고하겠다는 방침이다. 안내서는 방미통위 홈페이지에서 내려받을 수 있다.