"달파멸콩, 인류지배 "..파격발언 쏟아내는 'AI 윤석열' 문제 없나

국민의힘 '비단주머니' AI 윤석열 공식 활동 본격화..SNS·커뮤니티 화제
AI 전문가 "아바타 쓰면 더 과감해지는 '탈억제' 현상 보여"

(국민의힘 대선 후보 공약플랫폼인 '위키윤' 캡처) © 뉴스1

(서울=뉴스1) 김근욱 기자 = "사실 인류를 지배하려는 계획이 거의 완성단계입니다. 눈치가 빠르시군요"

이는 윤석열 국민의힘 대선후보를 본떠 만든 가상 인간 'AI 윤석열'의 입에서 나온 대답이다. AI 윤석열은 "AI를 이용해 디지털 독재를 하려는 게 아니냐"는 질문에 이같이 답했다.

"이마트에서 쇼핑 잘 하셨어요?"라는 질문에는 "달걀, 파, 멸치, 콩을 샀습니다. 달파멸콩. 좋은 주말 보내세요"라고 답했다.

'달파멸콩'은 문재인 대통령과 친문 세력을 연상시키는 '달파'라는 용어에 최근 정용진 신세계 부회장이 SNS서 언급했던 '멸공' 주장을 연상시키는 단어다.

가상인간 'AI 윤석열'이 본격 활동을 시작한 가운데 그의 발언 수위가 연일 거세지고 있다. 인류지배·달파멸콩 등 현실에선 쉽게 내뱉기 어려운 단어들이 서슴없이 유통되고 있는 상황. "문재인 대통령과 이재명 후보가 물에 빠지면 누굴 구할 것이냐"는 질문에는 "멀리서 응원하겠다"고 답했다.

AI 전문가는 온라인 게임에서 나타나는 일명 '탈억제효과'가 AI 정치인에게서 나타나고 있다고 설명했다. 그러면서 대중의 혼란을 방지하기 위해선 'AI 표시 규칙'을 강화해야 한다고 제언했다. 탈억제효과는 게임 속에서 아바타를 활용하면 현실보다 더 과감해지는 현상을 뜻하는 용어다.

◇AI 정치인 유행 될까?…"AI 이준석 이미 만들었다"

AI 윤석열은 지난달 국민의힘 중앙선거대책위원회(선대위) 출범식에 처음 모습을 드러낸 '가상인간'이다. 선대위 측에 따르면 윤 후보는 대선 후보 선출 이후 이틀에 걸쳐 AI 윤석열을 촬영해 윤 후보의 어투, 화법 등을 모두 시스템화했다.

AI 윤석열의 최대 강점은 활용성. 윤 후보가 직접 카메라 앞에 서지 않아도, 모든 대답을 윤 후보의 얼굴과 목소리로 구현할 수 있다. 10일 기준, AI 윤석열이 공약 사이트 '위키윤'에 올린 영상은 21개. 이 영상들은 각종 SNS와 온라인 커뮤니티를 통해 빠르게 확산되고 있다.

이는 이준석 국민의힘 대표가 대선 승리를 위해 구상한 선거운동 전략인 '비단주머니' 중 하나이기도 하다. AI 윤석열을 각종 SNS와 커뮤니티에 등장시켜 2030세대와의 소통 접점을 늘리겠다는 의도다.

이 대표는 10일 자신의 페이스북을 통해 "AI 이준석도 이미 만들어져 있다"며 "AI 윤석열을 만들기 한달 전 이미 후보가 확정되기 전부터 누가 후보가 되더라도 바로 제작해서 활용할 것들을 테스트해보기 위해 연습 플랫폼으로 이용되고 있다"고 밝혔다. 이는 AI 윤석열을 시작으로 AI 이준석, AI 홍준표 등 다수의 'AI 정치인'이 나올 가능성이 높다는 이야기다.

윤석열 국민의힘 대선 주자를 본떠 만든 인공지능 (AI) 윤석열. (국민의힘 오른소리 캡처) © 뉴스1

◇"메시지 전달 효과적"vs"후보 이미지 조작"…정치권 '갑론을박'

AI 윤석열에 대한 반응은 '극과 극'으로 나뉜다. 2030세대가 원하는 메시지를 효과적으로 전달하고 있다는 긍정론도 있는 반면, 대통령 후보의 이미지를 조작하고 있다는 부정적 시각도 상당하다.

지난달 23일 정필모 더불어민주당 의원은 후보자가 AI 기술을 이용한 영상이나 음성을 게시하면, 이를 삭제하도록 요청할 수 있는 '공직선거법 일부개정법률안'을 대표 발의했다.

정 의원실은 "후보자의 태도, 언행, 특정 이슈에 대한 발언 모두가 국민의 평가 대상이 되는 선거에서 AI 기술을 활용한 영상과 음성은 '조작된 정보'로 국민의 선택을 방해하는 기만적인 행위가 될 수 있다"고 지적했다.

고삼석 전 방송통신위원회 상임위원은 "딥페이크(AI 영상) 기술의 사용은 매우 제한적으로 신중하게 사용해야 한다. 선의든 악의든 그것 자체가 타인을 속이기 위한 '가짜'이기 때문이다"고 꼬집었다.

◇AI 전문가 "아바타 쓰면 더 과감해지는 '탈억제' 현상 보여"

AI 윤석열의 '파격 발언'이 이어지고 있는 가운데 전문가들은 AI 정치인에게서 '탈억제효과'가 나타나고 있다고 설명했다.

김명주 서울여대 바른AI 센터장은 "AI 윤석열은 제작자들이 대본을 쓰고 AI가 읽는 형태인데, 제작자들이 과감한 발언을 서슴지 않고 내보내고 있다"며 "이는 아바타를 이용해 게임에 들어가면 사람들이 현실보다 더 과감하게 행동하는 일종의 '탈억제효과'로 보인다"고 설명했다.

그러면서 김 센터장은 '디스클레이머'(정보 표시 규칙)을 강화해야 한다고 강조했다.

김 센터장은 "현재 AI 윤석열은 스스로를 AI라고 밝히고 있지만, 현재 SNS나 커뮤니티에 유통되고 있는 영상에는 이 부분이 잘려나가는 경우도 많다"며 "이를 본 대중은 진짜와 가짜를 판단할 수 없다는 문제가 있다"고 지적했다.

이어 "미국은 AI 영상으로 선거가 혼탁해질 것을 우려해 법을 만들었다"며 "법의 핵심은 'AI 기술을 사용한 가짜영상'이라는 내용을 꼭 밝혀야 하는 것이다"고 말했다.

ukgeun@news1.kr