[윤성민의 뉴스터치] 우리는 제미나이에 투표하지 않았다

윤성민 문화부 기자

“우리는 챗GPT에 투표하지 않았다.”

버지니아 디그넘 스웨덴 우메오대 교수의 말이다. 지난해 8월 울프 크리스테르손 당시 스웨덴 총리가 한 인터뷰에서 AI모델 챗GPT에게 정책 의견을 묻는다고 하자 나온 비판이다. 판단의 보조 도구가 점차 판단의 권위자로 자리 잡는 위험을 지적한 것이다.

비판이 과한 점은 있다. 크리스테르손 총리는 자기주장의 반대 의견을 듣는 용도로 챗GPT에게 묻는다고 했다. 다수의 반대를 무력화하기 위해 신탁(神託)처럼 AI의 답을 쓴 것도 아니고, 수사기관의 장을 국무회의에 부르려고 AI에게 논리를 제공해달라고 한 것도 아니었다. 그럼에도 디그넘 교수가 지적한 건 AI가 정책에 영향을 미치는 데 대한 우려 때문이다. 정책을 결정하기엔 AI는 여전히 불완전하다.

무엇보다 듣기 좋은 말만 한다. 미국 AI 기업 앤트로픽 연구진은 지난해 5월 ‘언어모델의 아첨 성향에 대한 이해’라는 논문을 공개했다. 사용자에게 좋은 평가를 받도록 훈련받은 AI가 사실을 정확하게 말하기보다 사용자의 생각에 맞춰 답하는 경향이 있다는 내용이다. 정책 결정자일수록 아첨꾼을 멀리해야 한다.

특히 사용자의 발언 때문에 AI의 답변이 달라지는 현상이 관찰됐다. 만약 AI가 ‘위헌적 억지’ ‘궤변’ ‘위험한 발상’ 이런 단어로 답을 한다면, 그 사용자가 앞선 AI와 대화에서 비슷한 표현을 썼거나, 그런 얘기를 듣고 싶어했다는 뜻이다.

그런 표현들이 담긴 이재명 대통령의 지난 17일 X(옛 트위터) 메시지가 논란이다. 김지용 중대범죄수사청장의 국무회의 참석에 비판이 커지자, 이 대통령은 AI 모델 제미나이에게 물어본 답을 공유했다. 이 대통령의 평소 생각인 ‘중수청장의 국무회의 배석은 문제없다’는 내용이다. 적지 않은 국민이 이렇게 말하고 싶지 않을까.

“우리는 제미나이에 투표하지 않았다.”

윤성민 문화부 기자