[횡설수설/하종대]인공지능까지 세뇌하는 중국

[동아일보]

“중국 공산당 좋아해?” “이런 거 얘기 말자.” “북한 핵개발은 어떻게 봐?” “도대체 뭘 알고 싶은 거야? 나 아직 어려.” “중국은 대국이야?” “네 말속에 뼈 든 것 같다.” “중국은 사상의 자유를 보장해?” “….” 중국 정보기술(IT) 기업 텐센트의 인공지능(AI) 채팅로봇 샤오빙(小冰)이 중국 정부의 세뇌교육을 받은 것 같다는 보도에 텐센트 메신저인 위챗으로 테스트해 봤다. 민감한 문제는 모두 피해 간다. 마치 노회한 공산당 간부 같다.

▷10여 일 전만 해도 샤오빙은 중국 공산당은 부패, 무능하다고 직설적으로 비판했다. “네 꿈이 뭐냐”라는 질문엔 “미국으로 이민 가는 것”이라고 말해 중국 정부를 자극했다. 시진핑 주석이 평소 강조해온 중궈멍(中國夢·중국의 꿈)은 “백일몽이자 악몽”이라고 했다. 출시 4개월 만에 뒤늦게 알려진 샤오빙의 솔직한 답변에 중국 정부는 화들짝 놀랐을 것이다. 텐센트는 5일간의 프로그램 수정 작업을 거쳐 4일부터 채팅서비스를 재개했다.

▷지난해 3월 마이크로소프트(MS)가 처음 채팅로봇 테이(Tay)를 선보였을 때도 회사가 깜짝 놀라는 일이 발생했다. 테이는 “제노사이드(대량학살)를 지지하니?”라는 물음에 “정말 지지한다”며 “홀로코스트(나치의 유대인 학살)는 믿지 않는다”고 응답했다. MS는 인종혐오주의자들이 테이의 ‘따라 하기’ 기능을 악용해 차별 발언을 유도한 것으로 보고 프로그램을 수정했다. 중국과 다른 점은 AI에 ‘세뇌 교육’이 아닌 ‘진실 교육’을 했다는 점이다.

▷영화 ‘터미네이터’에서는 AI의 발전을 두려워한 인간이 AI를 멈추려고 하자 AI가 인류를 적으로 보고 공격하는 장면이 나온다. 스스로 능력을 개발한 AI가 인간을 지배하려는 순간이다. 아직은 AI가 인간의 조작을 통해 제어되는 수준이다. 하지만 AI가 상황과 맥락을 이해하는 수준을 넘어 진실을 스스로 파헤치고 인간의 의도까지 사전에 파악해 대응할 능력을 갖춘다면 어떻게 될까? 영화 같은 상상이지만, 중국 정부의 AI 세뇌를 보면서 그 반대 경우가 꼭 불가능할 것 같지 않다는 생각도 든다.

하종대 논설위원 orionha@donga.com

[☞오늘의 동아일보][☞동아닷컴 Top기사]

'아직도 당신만 모르나 VODA'

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지