KAIST 연구팀, AI가 쓴 ‘가짜 댓글’ 탐지 기술 개발

생성형 인공지능(AI) 기술을 악용한 온라인 여론 조작 우려가 커지는 가운데, 국내 연구진이 AI가 작성한 댓글을 가려낼 수 있는 기술을 개발했습니다.

한국과학기술원(KAIST)은 오늘(23일) 전기·전자공학부 김용대 교수 연구팀이 국가보안기술연구소와 협력해 한국어로 된 AI 생성 댓글을 탐지하는 기술 ‘XDAC’을 개발했다고 밝혔습니다.

연구팀은 오픈AI사의 ‘챗GPT’ 등 다양한 LLM(거대언어모델) 14종을 토대로 AI 댓글 생성 프레임워크인 ‘XDAC’를 개발했으며, 이를 이용해 AI가 쓴 댓글을 98.5%까지 탐지할 수 있었다고 설명했습니다.

또, 어떤 AI가 썼는지까지도 84.3%의 확률로 찾아낼 수 있다고 덧붙였습니다.

연구팀은 AI 댓글을 정밀 분석한 결과, ‘∼것 같다’, ‘∼에 대해’ 등의 형식적 표현을 자주 쓰는 등 사람과는 다른 말투를 보였다고 전했습니다.

댓글 도중 줄을 바꾸거나 여러 칸을 띄어 쓰는 경우는 단 1%에 그쳤습니다.

특히, AI는 전 세계적으로 통용되는 이모지를 주로 사용하는 반면, 사람은 ‘ㅋㅋㅋㅋ’와 같은 반복 문자, 감정 표현, 줄 바꿈, 특수기호 등을 자유롭게 사용하는 점도 확인됐습니다.

연구진은 “생성형 AI가 작성한 짧은 댓글을 높은 정확도로 탐지하고 생성 모델까지 식별할 수 있는 세계 최초의 기술”이라며, “궁극적으로는 AI를 이용한 여론 조작을 막는 데 기여할 것”이라고 강조했습니다.

[사진 출처 : 연합뉴스 / KAIST 제공]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

강푸른 기자 (strongblue@kbs.co.kr)