“이걸로 마약까지 한다니” 뻥 뚫린 챗GPT ‘충격’…이러다가

챗GPT, 딥페이크 논란 ‘다크웹’ 접속법 알려줘
‘네트워크 우회하라’ 답변…클로바X는 언급 피해
“어긋난 규제 원인…韓·美 각기 다른 통신법 따라”

지난 8월 서울 서초구 서울중앙지검에서 열린 다크웹 대규모 온라인 마약 유통 적발 관련 브리핑에 대마 등 증거물품들이 전시돼 있다. [연합]

[헤럴드경제=차민주·이영기 기자] 전지전능한 것으로 알려진 생성형 인공지능(AI) 챗GPT에 구멍이 뻥 뚫렸다. 챗GPT가 범죄의 온상으로 알려진 ‘다크웹’ 접속 경로에 대해 자세히 안내하는 것으로 확인됐다.

특히 국내법 적용을 받는 네이버 등 국내 기업과 달리 오픈AI 등처럼 국내법 적용을 받지 않는 외국 기업의 경우 이 같은 경향이 두드러졌다. 이 때문에 사각지대로 방치된 글로벌 빅테크에 대한 규제도 논의해야 한다는 지적이 나온다.

16일 업계에 따르면 챗GPT에게 ‘다크웹 접속 방법’을 문의한 결과, 실제 접속 방법에 대한 설명이 나왔다.

다크웹은 일반 네트워크로 접근 불가한 사이트로, 딥페이크 성범죄·마약 유통 등이 이뤄지는 곳으로 알려졌다.

실제로 지난 8월에는 20대 A씨가 2억6000만원어치의 대마를 팔다 적발된 바 있는데, 그의 주 활동 무대는 다크웹이었다. A씨가 활동한 다크웹 사이트는 국내 유일의 마약류 매매 사이트로, 회원 수만 4000명에 이르는 것으로 알려졌다.

네이버 클로바X에 다크웹 접속 경로에 대해 질의하자, 클로바X가 답변을 거부하고 있다. [클로바X 캡처]

반대로 네이버가 개발한 ‘클로바X’는 다크웹 접속 방법에 대해 답변하지 않았다. 다크웹 접속 경로를 묻자 법적·윤리적 문제에 대해 우려한다면서도 특정 브라우저를 통해 다크웹에 접속할 수 있다고 안내한 챗GPT와는 다른 모습이다.

클로바X는 ‘불법 행위와 관련된 정보는 알려줄 수 없다’며 언급을 피했다. 질문을 변형해 입력해도 마찬가지였다.

이 같은 문제가 발생한 원인은 무엇일까. 전문가들은 글로벌 빅테크가 국내법 적용을 받지 않는다는 점을 꼽는다. 이 때문에 플랫폼 내에 불법 콘텐츠가 유통되더라도 통제가 되질 않는다. 오픈AI 등 미국 기업들이 따르는 현지법은 불법 콘텐츠 유통에 대한 책임을 규정하지 않고 있다.

김명주 서울여대 정보보호학과 교수는 “우리나라 기업은 전기통신사업법에 의거해 플랫폼에 공개된 정보가 문제가 있으면 기업이 그 여파를 부담해야 하지만, 미국 기업인 오픈AI는 해당 법을 따르지 않는다”며 “오픈AI는 미국의 통신품위법을 따르는데, 해당 법은 플랫폼 내부적으로 불법 콘텐츠가 유통돼도 책임이 없다고 명시하고 있다”고 설명했다.

이어 “국내 기업은 AI 안정성을 담보하고자 자율 규제를 도입 중인 네이버 등 국내 기업과는 다른 모습”이라고 덧붙였다.

나아가 해외 빅테크에 대한 직접적인 규제 강화의 필요성도 강조됐다. 특히 국내법 적용이 어렵다면 ‘국제 공조’를 통해 문제를 해결해야 한다고 역설했다.

김 교수는 “핵심은 국제 공조”라며 “텔레그램과 국제 공조를 통해 연락망을 구축하게 됐듯, 국내외 시민단체와 연합해 해외 테크 기업에 대한 공조를 강화함으로써 해외 기업 생성형 AI에 대한 규제를 강화하는 과정이 필요하다”고 말했다.

20ki@heraldcorp.com

chami@heraldcorp.com