시험대 오른 AI 기본법… 한국은 그록 딥페이크 막을 수 있나

시행 앞두고 그록 딥페이크 사태
딥페이크 예방이 핵심 취지인데
해외 사업자 대리인 역할 모호해
유예 끝나도 과태료 부과 그칠 듯
"강제력 약해... 다른 법 활용을"

일론 머스크 테슬라 최고경영자(CEO)와 그가 세운 인공지능(AI) 스타트업 xAI, xAI가 개발한 AI 모델 '그록'의 로고. AFP 연합뉴스

일론 머스크 테슬라 최고경영자(CEO)의 인공지능(AI) 기업 xAI가 딥페이크 이미지 확산 논란을 불러일으킨 상황에서, 세계 첫 시행을 일주일 앞둔 한국의 AI 기본법이 적극적인 역할을 할 수 있을지 주목되고 있다. 하지만 현재로선 xAI의 딥페이크 생성 서비스 차단이나 접속 제한은 현실적으로 어려울 거란 예상이 많아 법의 실효성을 두고 비판이 적지 않을 전망이다.

13일 업계에 따르면, xAI가 개발한 AI 모델 '그록'은 이 회사가 운영하는 사회관계망서비스(SNS) '엑스'(X·옛 트위터)에 탑재돼 일상 사진을 선정적 딥페이크 이미지로 바꾸는 기능을 계속해서 서비스하고 있다. 말레이시아와 인도네시아가 자국 내 X 접속을 제한하고, 다른 나라들도 잇따라 법적 조사에 착수하면서 xAI는 해당 기능을 유료 구독자 대상으로 제한했지만, 우려는 수그러들지 않고 있다.

국내에서 이달 22일 시행되는 AI 기본법은 AI 사업자의 책임을 강화해 AI 사회의 신뢰 기반을 조성한다는 취지로 제정됐다. 특히 딥페이크 범죄 예방은 핵심 기능으로 거론돼왔다. 이를 위해 AI 기본법은 해외 사업자도 규제 대상으로 보고, 국내 대리인을 지정해 법적 의무와 책임을 이행하게 규정했다. 하지만 정작 딥페이크 여부를 표시하는 투명성 의무는 국내 대리인의 역할 범위에 구체적으로 포함돼 있지 않다. 모호한 역할에 대해 당국이 해외 사업자와 소통하는 과정에서 피해 예방이나 대응이 늦어질 가능성이 있는 것이다.

법은 대신 AI 생성물에 대한 표시 의무를 규정하고 있다. 실제와 구분하기 어려운 딥페이크에는 이용자가 인지할 수 있게 워터마크를 표시하라는 것이다. 이 의무를 위반하면 정부가 시정 명령을 내리고, 이를 이행하지 않으면 최대 3,000만 원의 과태료를 부과한다. 이대로라면 그록이 생성한 딥페이크 이미지엔 워터마크 표시가 들어가야 한다. 그러나 기본법 자체가 최소 1년 유예 기간이 적용될 예정이라 표시를 당장 강제하기 어렵다.

유예 기간이 종료된다 해도 해외 AI 서비스를 직접 차단 또는 제한하는 건 쉽지 않을 거란 분석이 우세하다. 자칫 통상 마찰로 번질 가능성을 감안하지 않을 수 없기 때문이다. 정창우 법무법인 광장 변호사는 "현행법에선 xAI 같은 해외 기업이 자발적으로 협조하지 않으면 과태료를 매기는 것 외에 다른 조치를 하기 어렵다"고 설명했다.

전문가들은 AI 기본법의 실효성이 갖춰지기 전까진 정보통신망법이나 개인정보보호법 같은 기존 다른 법들을 토대로 딥페이크 사례를 명확히 규율할 필요가 있다고 조언했다. 여현동 법무법인 화우 변호사는 "AI 기본법 단독으로 갖는 강제력은 약하다"면서 "기존 법과 함께 AI 관련 개별 위반 사항을 제재하는 식으로 규제를 보완해가야 한다"고 강조했다.

정부는 일정 기간 지켜보며 최소 규율부터 적용하겠다는 입장이다. 과학기술정보통신부 관계자는 "AI 기술이 시행착오를 겪으면서 발전하는 단계인 만큼 자정 작용을 할 수 있도록 현 단계에선 지켜보겠다"고 말했다.

김태연 기자 tykim@hankookilbo.com