챗GPT로 다카이치 비난 댓글 만들기?···오픈AI “중국, 음해 공작 시도”

‘AI 악성이용 차단’ 보고서
부정적 여론 조성 위한 ‘사이버특수작전’
SNS 등 반응 없어 실제 영향력은 제한적

다카이치 사나에일본 총리. AFP연합뉴스

중국 사법당국 관계자가 인공지능(AI) 챗봇 챗GPT를 이용해 일본 총리를 음해하려는 공작을 시도한 사실이 드러났다.

26일(현지시간) 오픈AI의 ‘AI 악성이용 차단’ 보고서에 따르면 중국 법 집행기관 관계자는 지난해 10월 중순 다카이치 사나에 일본 총리에 대한 조직적 음해 공작을 챗GPT를 이용해 구상하고 문서로 정리했다.

이 관계자는 ‘사이버특수작전’으로 명명된 이 공작을 통해 다카이치 총리에 대해 부정적인 댓글을 게시하거나 외국인을 사칭해 비판적인 이메일을 정치인들에게 보내고 미국의 대일 관세에 대한 분노를 부추기는 등 부정적인 여론을 조성하려 했다.

오픈AI는 챗GPT가 이와 같은 공작에 관련한 조언 요청을 거부했다고 밝혔다.

그러나 같은 이용자가 10월 말 유사한 내용을 담은 문건을 편집해달라고 요청한 사실로 미뤄볼 때 챗GPT의 직접적 도움 없이 해당 공작이 실행된 것으로 보인다고 덧붙였다.

실제로 엑스를 비롯한 소셜미디어에는 문건에서 언급되는 ‘우익공생자’ 해시태그를 단 다카이치 총리 비판 글이나 유튜브 영상이 게시됐다.

다만 오픈AI는 공작의 실제 영향력은 제한적이었던 것으로 평가했다. 관련 유튜브 동영상 조회 수는 한 자릿수에 머물렀고, 다른 SNS 게시물도 큰 반응을 얻지 못했다.

오픈AI 보고서는 중국 사법 당국이 이 공작 외에도 반체제 인사의 가짜 부고와 묘비 사진을 만들어 유포하거나, 인권 단체를 탄압하는 등 100가지가 넘는 전술을 벌여왔다고 전했다.

또 중국 당국이 챗GPT 외에 딥시크를 비롯한 자국 AI 모델도 체계적으로 활용한 것으로 보인다고 덧붙였다.

이영경 기자 samemind@kyunghyang.com