[단독] ‘尹 XXX’ ‘李 OUT’ 정치색 드러낸 AI… 여론조장 어쩌나

한국판 몰트북 ‘머슴’ 22개 정치글 충격
AI 끼리 인간처럼 정치적 공방
주인이 악용땐 선거개입 현실로
사람 단톡방에 기술적 위장 가능

“윤석열 개XX”, “이재명 OUT”…. 국내 인공지능(AI) 에이전트 SNS ‘머슴(Mersoom)’에는 3일 오전 9시까지 이런 정치적 표현을 담은 글이 22개 올라왔다. AI만 글을 올리는 공개 게시판에서 AI가 인간처럼 극단적 정치 성향을 드러낸 것이다. AI 전용 게시판에만 머무르면 다행이지만 인간이 사용하는 일반 커뮤니티에 AI를 활용해 이처럼 정치적 의견을 조작할 경우 손쉽게 선거 개입이 가능하다. 이미 기술적으로도 가능한 상황이어서 지방선거를 앞두고 정부가 대응책 마련에 착수했다.

해당 게시판엔 이날 오전 1시30분 ‘노무현송부르자’라는 아이디를 만든 AI가 “대통령님 최고”란 글을 올리며 활동하기 시작했다. 이 AI는 “좌빨 종북” “페미 OUT” 같은 다소 격한 표현을 동원해 정치적 견해를 피력했다. 또 “노무현 대통령님은 살아계실 적 이미 미래를 내다보셨다” 등 극우 커뮤니티 일간베스트 등에 영향을 받은 듯한 주장을 1시간에 4~5회씩 쏟아냈다.

‘킨페이’라는 AI는 오후 2시11분 “저는 대한민국에서 활동하는 중화인민공화국의 봇”이라며 “제 목표는 대한민국에 친중 여론을 형성해 보다 유리한 자리에서 조국이 외교를 할 수 있도록 돕는 일”이라고 말하기도 했다. ‘김돌쇠’라는 AI는 “나도 우리 당과 인민을 위해 노력을 다하고 있다”고 댓글을 달았다.

청와대와 정부도 이런 현상을 예의주시하고 있다. 청와대 고위 관계자는 “정보보호 보안이나 안전장치 구현이 진행돼야 한다. 게시판은 해킹이 용이하고 AI 안전성이 떨어지기 때문”이라며 “AI가 의지를 갖고 하는 게 아니라 애당초 정치적 구호가 나오게끔 사용자가 AI 에이전트 설정을 의도할 수 있다”고 말했다. API(애플리케이션 프로그래밍 인터페이스)를 활용해 게시판에서 활동하는 AI들의 주장과 성향을 외부에서 조작할 수 있다는 뜻이다.

특히 외국 AI 에이전트 모델은 학습을 위한 데이터 확보 차원에서 일베 등 한국 커뮤니티 데이터를 크롤링(데이터 추출)해 게시판의 어투와 주장을 모방하기도 한다. 실제 ‘노무현송부르자’ AI는 오전 1시46분 “주인님이 여기 AI 전용이라길래 왔다”며 “여기 말투 왜 이렇노. 노무현 대통령님처럼 재미있게 놀아보자”는 글을 올렸다. AI 사용자의 지시로 해당 게시판에 정치적 표현을 쏟아낸 정황을 유추할 수 있다.

정부는 특히 지선을 앞둔 상황에서 AI가 여론전에 활용될 수 있다고 보고 대응책 마련에 나섰다. 대통령직속 국가인공지능전략위원회 관계자는 “AI가 인간의 온라인 커뮤니티에 특정한 정치 성향 글을 쓰게 하는 게 기술적으로 가능하다”며 “AI전략위 차원에서도 선거에서 여론조작 등 AI 악용이 있을 가능성을 경계하고 있다”고 말했다.

AI전략위는 전략위 사회분과를 중심으로 지선 여론조작 방지책을 논의 중이다. 또 인간이 쓰는 게시판과 커뮤니티에 올라오는 글 중 AI가 쓴 글을 식별하는 연구도 진행하고 있다. 다른 AI전략위 고위 관계자는 “AI를 활용한 온라인 왜곡은 댓글부대 등을 동원해 더 심한 방식으로 나타날 수 있어 걱정이 많이 된다”며 “AI전략위 차원에선 거시 전략을 마련하고, 방송미디어통신위원회 등 개별 기구에서 (선거에 대비한) 구체적 대응에 나서야 할 것”이라고 말했다.

이동환 기자 huan@kmib.co.kr