국회 “찌질한 놈” 싸우던 날, 제타 대표만 웃었다

AI와의 위험한 대화, 그 후
④ 학교를 집어삼킨 가짜 세상
유해정보 넘치지만 정부 차원 모니터링 전무

지난해 10월 14일 국회 과학기술정보방송통신위원회 국정감사에서 여야 의원들이 설전을 벌이고 있다. 연합뉴스

10대들이 즐겨 찾는 캐릭터 대화형 인공지능(AI) ‘제타’와 ‘크랙’의 선정성과 폭력성에 대해서는 이미 수차례 지적이 있었다. 각 업체도 추가 조치를 내놓고 있지만 현실에선 여전히 유해 정보가 넘친다. 정부와 국회는 실효성 있는 조치도 내놓지 못한 채 이를 방관하고 있다.

정쟁에 얼룩진 맹탕 국감

국회는 지난해 10월 14일 과학기술정보방송통신위원회 국정감사에서 선정성·폭력성 논란 등을 따져 묻기 위해 제타 운영사인 스캐터랩 김종윤 대표를 증인을 채택했다. 하지만 김 대표가 출석한 날은 여야 의원들이 막말을 주고받으며 국감장을 난장판으로 만든 날이었다. 김 대표는 단 한 차례 질문을 받지 않고 조용히 국감장을 떠났다. 10대 아이들이 즐겨 쓰는 AI 챗봇 세상에서 어떤 일이 벌어지는지 전 국민에게 알릴 수 있었던 기회에 여야 의원들의 욕설만 생중계됐다.

당시 국감은 김우영 더불어민주당 의원이 박정훈 국민의힘 의원에게 받았다는 ‘에휴 이 찌질한 놈아’라는 내용의 문자메시지를 공개하면서 파행됐다. “한심한 새X” “개딸이 좌표 찍을 것” 등 국정감사와 아무런 관련 없는 막말이 오가며 국감은 사실상 마비됐다. 김 대표를 증인으로 요청한 박 의원은 최민희 과방위원장으로부터 퇴장 조치를 당해 질문 기회를 얻지 못했다.

이후 노종면 민주당 의원이 김 대표에게 질의하려고 했지만 김 대표는 이미 국회를 떠난 상태였다. 노 의원은 김 대표 대신 방송미디어통신위원회(방미통위)를 상대로 관련 질의를 이어갔다. 노 의원은 의원실에서 15세 연령으로 설정해 제타를 사용한 내역을 공개하며 “도저히 이 국감장에 올릴 수가 없는 그런 단어들, 표현투성이여서 가려내는 데 매우 힘들었다”고 지적했다. 이어 “마약과 관련된 대화도 청소년·성인 가릴 것 없이 그냥 마구마구 이뤄지고 있다. 자살을 미화하고 방법도 알려준다”고 질타했다.

정부도 “규제 방법 없다” 속수무책

정부는 사실상 규제할 방법이 없다고 밝혔다. 방미통위 간부는 국감에서 “AI 생성형 서비스이다 보니 정보통신망을 통해 유통되기보다 이용자에게 일대일로 제공된다. 기존 정보통신망법 규제의 사각지대에 있다고 보여진다”며 “AI기본법에서도 규제하는 방안을 반영하기가 쉽지 않은 것으로 알고 있다”고 답했다. 답변을 지켜보던 최 위원장은 “청소년 유해 콘텐츠 차단을 다른 법으로 못하느냐”며 “듣다 보니 답답하다”고 말했다.

실제로 제타와 크랙 등 10대들이 주요 사용하는 AI 챗봇에 대한 정부 차원의 모니터링도 전무한 것으로 파악됐다. 방미통위가 지난해 ‘생성형 AI 이용자 참여 플랫폼’을 통해 각종 위험성 제보를 접수하고 있지만 실적도 미미하고 실효성 있는 조치로 이어지기도 어려운 구조다.

노 의원실이 방미통위로부터 제출받은 ‘위험성 제보 접수 및 처리 내역’에 따르면 지난해 11월부터 지난달 27일까지 6개월여간 제타를 대상으로 접수된 내역은 단 1건에 불과했다. 전체 59건의 제보는 대부분 잘못된 정보(34건)에 대한 제보였고, 자살·자해, 성범죄·성희롱 등 심각한 위험에 해당하는 내용은 각각 1건에 불과했다.

방미통위 관계자는 통화에서 “법적 근거가 없다 보니 제보를 받아도 사업자들에게 내용을 전달하는 것 외에 별다른 방법이 없다”며 “현재로선 별도의 모니터링 체계를 갖추고 있지 못하다”고 말했다.

상황이 이렇다 보니 교육 현장에서는 학교 차원에서 ‘AI 자제령’을 내리기도 한다. 강원도 춘천의 한 중학교는 지난해 6월 ‘AI 채팅 앱 사용 관련 안내’ 가정통신문을 통해 채팅형 AI 사용을 자제하라고 안내했다. 일부 교육청도 학생들이 연령 기준에 맞게 AI 챗봇을 사용할 수 있도록 주의를 기울여 달라는 지침을 일선 교육 현장에 내렸다.

아동·청소년 90%, AI 챗봇 써봤다

AI 챗봇을 실제 사람처럼 느끼며 정서적으로 빠져드는 일은 이미 일부 학생만의 특수한 경험이 아니다. 아동복지전문기관 초록우산이 지난 3월 9일부터 14일간 전국 만 14세 이상 아동·청소년 3300명을 대상으로 설문조사한 결과 응답자의 94.4%가 AI 챗봇을 사용한 경험이 있는 것으로 나타났다. 거의 매일 사용한다는 응답도 무려 19.3%에 달했다.

특히 절반에 가까운 아동·청소년이 AI가 자신을 이해해준다고 느꼈다. ‘AI 챗봇이 나를 이해해준다고 느낀 경험’에 대해 응답자의 41.3%는 ‘가끔 그렇다’, 8.2%는 ‘항상 그렇다’고 답했다. 또 상당수 아동·청소년이 AI 챗봇을 실제 사람처럼 느끼는 것으로 조사됐다. ‘AI 챗봇과 대화하며 실제 사람처럼 느낌 경험’에 대해 응답자의 29.8%가 ‘가끔 그렇다’, 5.3%가 ‘자주 그렇다’고 답했다. 약 32%는 AI 챗봇과 정서적으로 힘들 때 대화한 경험이 있었다.

국민일보가 확인한 설문 세부 데이터에 따르면 AI 챗봇 최초 이용 나이는 14세 이하가 33.6%, 15~16세가 42.3%로 파악됐다. 중학교를 졸업하기 전 상당수 학생들이 AI 챗봇을 접한다는 뜻이다. 사용 경험이 있는 AI는 챗GPT와 제미나이가 가장 많았고, 그 뒤를 이어 뤼튼(크랙)과 제타가 각각 3위, 4위로 조사됐다.

이슈탐사팀=김판 김지훈 이강민 기자 pan@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지