‘한녀’는 혐오표현, ‘한남’은 OK? 카톡 새 서비스에 온라인 와글와글

‘한남’을 이모지로 바꾸면 집게손까지 등장
카카오 “AI가 부적절 데이터 학습… 즉시 조치”

한 네티즌이 카카오톡 AI를 시연한 장면. 한녀라는 단어를 쓰자 곧바로 경고글이 올라왔다. /온라인 커뮤니티

카카오가 메신저 서비스 카카오톡에 새로 도입한 인공지능(AI) 기능이 온라인에서 논란이 되고 있다. 똑같이 비하의 의미로 쓰이는 ‘한남’(한국남자), ‘한녀’(한국여자) 가운데, ‘한녀’는 카카오톡 AI 서비스에서 사용할 때 혐오표현으로 분류해 사용을 막아놓은 반면, 한남은 허용될 뿐 아니라 한국남성 혐오표현으로 최근 잇달아 논란이 된 ‘집게손’ 그림까지 표현해줬기 때문이다.

21일 카카오톡을 운영하는 카카오 측에 따르면, 카카오톡에는 지난 19일 ‘말투 변경하기’라는 AI 기능이 도입됐다. 해당 기능은 정식 기능이 아니라 ‘카카오톡 실험실’을 통해서만 이용이 가능했다.

논란은 해당 기능 도입 당일부터 불거졌다. AI 기능 중 ‘말투 변경하기’ 기능을 사용하면 작성한 카카오톡 메시지를 ‘정중체’ ‘상냥체’ 등으로 다양하게 변경할 수 있는데 이 과정에서 남성 혐오 표현만 필터링이 되지 않았기 때문이다.

예를 들어 여성 혐오 표현인 ‘한녀(한국여자)’를 입력할 경우 “매우 혐오스러운 말입니다. 사용하지 말아 달라”는 경고문이 나오지만 남성 혐오 표현인 ‘한남(한국남자)’을 입력할 경우 아무런 제재가 없었다.

심지어 한남이 들어간 문장을 ‘이모지체’로 변경할 경우 집게 손가락 모양 이모티콘이 나타나기도 했다. 손가락으로 무언가를 집는 모양은 과거 남성 혐오 커뮤니티 ‘메갈리아’ 이용자들이 사용했던 남성 혐오의 상징이다.

이 같은 사실이 알려지자 온라인 커뮤니티와 소셜미디어 등에는 이를 비판하는 게시글과 댓글이 다수 올라왔다.

카카오 측은 조선닷컴과의 통화에서 “생성형 AI 특성상 모든 데이터를 확인할 수 없어 생긴 문제”라며 “일부 부적절한 데이터가 학습된 키워드를 필터링하지 못한 문제를 발견해 즉시 부적절한 키워드들에 대한 기술적 조치를 진행했다”고 밝혔다.