인공지능 '이루다' 말썽 부린 이유는?

무자비한 알고리즘

카타리나 츠바이크 지음｜유영미 옮김｜니케북스｜334쪽｜1만8000원

현재의 인공지능은 “단지 홍보 용어일 뿐”이다. 지능이 낮기 때문이다.

2016년 채팅봇 ‘태이’(Tay)가 트위터에 발을 들였다. 직접 트윗 게시글을 올리고 ‘좋아요’를 누르거나 리트윗도 할 수 있었다. 지속적으로 대화 내용을 축적해 발언의 완결성을 높여갈 계획이었으나, 곧 실언하고 말았다. “9·11 테러는 부시 대통령의 소행” “히틀러가 옳았다” 같은 망언을 쏟아낸 것이다. 선동꾼들이 일부러 극단적인 문장을 주입했기 때문이다. 최근 한국에서 물의를 빚고 종료된 인공지능 채팅 서비스 ‘이루다’ 역시 마찬가지 사례다. 정보학에서는 이를 ‘쓰레기가 들어가면 쓰레기가 나온다’고 한다.

인공지능이 삶의 일부로 편입한 지 오래다. 독일 카이저슬라우테른 공과대학 교수인 저자는 그러나 “알고리즘 기반의 훈련된 의사 결정 시스템에서 차별이 빚어질 가능성”을 지적한다. “인간과 관계된 데이터는 특히나 편향적으로 불완전하고” 이로 인해 “알고리즘적으로 정당화되는 편견이 생겨난다”는 것이다. 인공지능이 야기하는 윤리적 문제와 관리·감독의 메커니즘을 도식적으로 설명하는 과학 서적이다. 동시에 이 같은 기술 통제는 문화 영역에 맞닿아있다.