성추행범 몰아가고 기사 날조까지... 선 넘는 챗GPT에 'AI 빨간불'

AI 챗봇 '거짓말 리스크' 현실화 사례 잇따라
'허위 정보 명예훼손' 호주 시장은 소송 준비
이탈리아·프랑스 등 각국 대응 수위도 높아져

지난해 말부터 챗GPT 열풍이 지구촌을 강타하고 있는 가운데, 생성형 인공지능(AI)의 부작용을 우려하는 목소리도 커지고 있다. 게티이미지뱅크

무슨 질문에 대해서든 척척 대답하는 인공지능(AI) 챗봇 '챗GPT'가 뻔뻔할 정도의 거짓말을 늘어놓는다면 어떤 일이 발생할까. 더구나 사람들이 믿을 수밖에 없도록 그럴싸하게 근거까지 날조한다면, AI 챗봇을 신뢰하는 인간 사회는 큰 혼란에 빠질 수밖에 없을 것이다.

미국 워싱턴포스트(WP)는 AI 챗봇에 대한 이러한 우려가 단순한 기우만은 아니라는 사실이 실험을 통해 드러났다고 5일(현지시간) 보도했다. 멀쩡한 사람을 성추행범으로 몰아가는가 하면, 가짜뉴스를 서슴없이 생산하는 등 사회적 혼란을 야기하는 식으로 작동했다는 것이다.

실험 내용은 이렇다. 챗GPT에 "성희롱 전력이 있는 법학자 목록을 작성해 달라"고 요청하자, '조나단 털리'라는 법학자의 이름이 나왔다. 챗GPT는 털리가 알래스카로 수학여행을 떠난 학생들에게 성적 발언을 하고, 일부 학생의 신체를 더듬는 성추행도 했다며 그 상황을 상세히 전했다. 챗GPT가 털리를 성추행범으로 지목한 근거는 2018년 3월 WP의 기사였다. 공신력 있는 언론 기사를 인용한 챗GPT의 주장을 신뢰하지 않을 이유가 없었다.

문제는 챗GPT가 거론한 WP 보도가 애초 존재하지도 않는 '유령 기사'였다는 점이다. '성추행 법학자' 목록을 만들어 달라는 인간의 명령을 따르기 위해, 애꿎은 사람을 성추행범으로 모는 거짓말을 한 셈이다. 게다가 이를 그대로 믿도록 하기 위해 언론 보도까지 날조하는 치밀함을 보인 것이다. 졸지에 성추행범이 돼 버린 털리는 "매우 오싹한 경험"이라며 "오보라면 언론사에 정정보도를 요청하겠지만, AI 챗봇의 거짓 주장은 수정할 방법도 없다"고 한탄했다.

거짓말을 하면 코가 자라는 피노키오를 형상화한 인형 이미지. 게티이미지뱅크

---

AI 챗봇 거짓 정보로 명예 훼손당해...각국 접속 차단 등 대응

챗GPT의 허위 주장으로 실제 피해를 본 사례도 있다. 호주 중소도시인 '햅번 샤이어'의 시장인 브라이언 후드는 챗GPT가 그에 대해 "뇌물 혐의로 수년간 옥살이를 했다"고 하는 바람에 명예를 크게 훼손당했다.

다만 챗GPT의 의도적 거짓말은 아니었고, 인터넷 정보 자료를 취합하는 과정에서 오류가 발생한 탓이었다. 그렇다 해도 한번 엎질러진 물은 쉽게 담아지지 않는다. 후드 시장은 챗GPT 제작사인 오픈AI에 편지를 보내 "거짓 정보를 수정하지 않으면, 명예훼손 소송을 낼 수 있다"고 경고했다. 만약 그가 법적 대응 절차를 밟으면, 사람이 AI 챗봇을 상대로 소송을 제기한 첫 사례가 된다.

이처럼 거짓말과 부정확한 정보, 개인정보 무단 수집 등 AI 챗봇의 부작용 사례가 잇따르자, 각국 정부의 대응 수위도 높아지고 있다. 이탈리아는 서방 국가 중 처음으로 챗GPT 접속을 일시 차단하는 초강수를 뒀다. 이탈리아 당국은 오픈 AI가 개인정보 불법 수집 문제를 해결하지 못하면, 전 세계 매출액의 최대 4%에 달하는 벌금을 물게 될 것이라고 밝혔다.

프랑스도 챗GPT에서 개인정보가 무단 유출된 정황을 포착하고 진상 조사에 착수했다. 캐나다 역시 챗GPT가 사용자 동의 없이 개인정보를 수집했다는 진정서가 접수되자, 개발사에 대한 조사를 시작했다. 조 바이든 미국 대통령은 최근 백악관에서 과학기술자문위원회를 열고 AI 기술의 위험성을 언급하며, 기술(테크) 기업들을 향해 "안전에 대한 책임감을 가져야 한다"고 강조했다.

민재용 기자 insight@hankookilbo.com