日야후재팬에 악플 쓰면 AI가 “고운말로 바꾸세요”

야후재팬 뉴스가 댓글 작성자에게 '고운 말'을 쓰도록 제안하는 AI를 도입한다. 라인야후는 "불쾌함을 느낄 가능성이 있는 표현의 정정을 제안하는 독자 AI"의 도입을 개시한다고 설명하고 있다. /라인야후

일본 최대 포털 사이트인 야후재팬이 AI(인공지능)를 활용한 ‘악플’ 방지 기능을 도입한다. 이용자가 뉴스 기사 페이지에 댓글을 쓰고 등록 버튼을 누르면, AI가 불쾌감을 줄 수 있는 표현을 자동으로 감지하고 ‘고운 말 표현을 재검토하시겠습니까’라고 제안하는 팝업창을 띄우는 식이다.

9일 교도통신 등은 라인야후가 뉴스 포털인 ‘야후재팬 뉴스’에 AI를 활용한 댓글 지적 기능을 도입한다고 전했다. 이미 게시된 댓글을 강제로 삭제하거나 가리기보다는, 이용자가 스스로 자신의 댓글에 대해 돌아보게 함으로써 자발적으로 악플을 달지 않도록 하겠다는 것이다.

꼭 직접적인 욕설이 아니더라도 불쾌감을 줄 수 있는 표현이라면 광범위하게 수정을 권유한다는 점이 특징이다. 라인야후 측은 예시 댓글을 제시하고 ‘이놈, 저놈’ 등의 표현부터 ‘쓸데없다’는 단어에 대해서까지 경고문이 뜬다고 설명했다. 이용자가 원하면 AI의 지적을 무시하고 그대로 댓글을 등록할 수 있다. 다만 개인에 대한 인신 공격이나 괴롭힘, 욕설이 포함된 댓글은 새로운 AI 기능과 무관하게 삭제된다.

라인야후 측은 “이용자가 댓글을 게시하기 전에 표현을 스스로 수정할 수 있도록 할 것”이라면서 “앞으로도 댓글 수정 모델 개선을 지속적으로 검토해 나가겠다”고 밝혔다.

라인야후가 AI를 활용한 악플 방지 기능을 도입한 건 처음이 아니다. 댓글을 24시간 모니터링해 비방성 댓글을 자동으로 삭제하고, ‘대댓글’ 창에서 비교적 건전한 댓글을 선별해 댓글창 상단에 정렬하는 기능은 이미 적용해서 운영하고 있다.

🌎조선일보 국제부가 픽한 글로벌 이슈! 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/275739

🌎국제퀴즈 풀고 선물도 받으세요! ☞ https://www.chosun.com/members-event/?mec=n_quiz