돈만 내면 AI가 자동댓글 … 총선 '여론 조작' 비상

생성형 AI에 매크로 결합해
사람이 쓴것처럼 댓글 작성
250만원에 프로그램 제작도
유튜브·인스타서 버젓이 광고
AI 댓글 작성 규제 마련 시급

"장기적인 시각으로 매수 시기를 결정하고 개발 가능성이 높은 지역에 투자하는 것이 중요한 것 같습니다."

"카페에서 시원한 복숭아 음료와 함께 여유로운 분위기를 즐길 수 있다니 저도 가보고 싶네요!"

게시판에 올라온 글에 사람이 손수 단 댓글처럼 보이지만 위 문장들은 생성형 인공지능(AI) 댓글 생성 프로그램이 게시글에 달아놓은 것들이다. AI 기술이 진화하면서 댓글마저 사람을 대신해 감쪽같이 달아주고 있다. 생성형 AI에 명령을 자동 반복하는 매크로 프로그램이 결합해 가짜 댓글을 만들어내는 방식이다. 단순히 공감 횟수를 높이고 같은 문장을 되풀이하는 수준을 넘어 댓글을 정교하게 만들어낼 수 있게 된 것이다. 이 같은 기술이 올해 4월 열리는 21대 국회의원 총선거를 앞두고 AI 댓글 생성 프로그램을 이용한 댓글 조작을 통해 여론몰이에 악용될 수 있다는 우려가 나오고 있다.

9일 매일경제 취재를 종합하면 온라인에서 생성형 AI를 활용해 댓글을 자동으로 달 수 있도록 설계한 프로그램 판매가 곳곳에서 이뤄지고 있었다. 네이버 카페 등 주요 커뮤니티와 유튜브, 인스타그램 등 주요 사회관계망서비스(SNS)에 자동으로 게시글이나 댓글을 올리는 프로그램을 홍보하는 글이 버젓이 올라와 있다. 한 업체는 "단순한 댓글이 아닌 진짜 소통하는 댓글을 작성한다. 기존 복사하기·붙여넣기 식의 프로그램과 다르다"고 강조했다.

'AI 댓글 자동화 프로그램'을 판매하는 A사의 홍보 영상에 따르면 매달 일정 금액을 내고 프로그램을 구독하면 간단한 설정만으로 블로그 댓글 조작이 가능하다. 이 업체 관계자는 "챗GPT가 블로그 글 내용을 요약해서 자연스러운 댓글을 작성하도록 코딩이 돼 있고 하루 400개까지 작성할 수 있다"고 설명했다.

B사 역시 '블로그 댓글 자동등록기'라는 이름의 프로그램을 판매하고 있다. 이 프로그램에 특정 키워드를 입력하면 키워드 관련 게시글에만 선별적으로 댓글과 이미지를 자동으로 등록할 수 있게 설계됐다. C사는 홈페이지에 "키워드와 주제를 입력하면 챗GPT 기반 로직을 통해 사람이 쓴 듯이 매끄러운 글을 생성한 후 원하는 카페에 자동으로 게시글을 등록한다"고 설명했다.

문제는 자동 댓글 프로그램이 여론 조작에 쓰일 수 있다는 점이다. 특정 정당 지지자들이 정치적 성향에 따라 원하는 글과 이미지를 확산시켜 지배적인 여론인 것처럼 꾸밀 가능성이 있다. AI를 활용해 뉴스에 자동으로 댓글을 다는 프로그램까지 등장할 경우 사회적 혼란이 가중될 것으로 보인다. 한 업체 대표는 "포털이나 언론사 홈페이지 뉴스에 자동으로 댓글을 다는 프로그램은 만드는 데 13일이면 충분하다. 비용은 250만원"이라고 귀띔했다.

이 같은 가짜 댓글을 막는 것은 현실적으로 어려운 상태다. 국내 최대 포털인 네이버 관계자는 "생성형 AI가 작성한 댓글로 의심되더라도 당사자가 직접 썼다고 부인하면 적절한 조치를 취하기 힘들다"며 "가짜 댓글을 걸러내는 것은 현실적으로 어렵다"고 말했다. 그는 이어 "다만 특정 시간내 동일한 댓글이 작성되거나 특정 사용자가 일정 수 이상의 댓글을 작성하는 등 비정상적인 이용 패턴에 대해서는 자동적으로 탐지해 조치하고 있다"며 "이와 별개로 댓글 내용에 허위, 광고성, 불쾌한 표현, 폭력성 등이 포함된 경우에는 이용약관에 의거해 처리하고 사용자 신고에 기반해 제재 조치하고 있다"고 설명했다.

전문가들은 가짜 댓글 확산을 막기 위한 대책을 마련해야 한다고 했다. 정일권 광운대 미디어커뮤니케이션학부 교수는 "사실관계가 확인되지 않은 생성형 AI발 가짜 정보가 확산되면서 여론이 왜곡될 우려가 있다"며 "총선을 앞두고 매크로 프로그램을 통한 가짜 정보 확산을 막기 위한 대책이 필요하다"고 말했다.

[진영화 기자]