여자가 만지면 호감, 남자가 만지면 신고?…구글·네이버 검색 달랐던 이유

"만지고 있다" 검색 질의에
구글 'AI 개요' 결과 '발칵'
"남자엔 호감, 여성엔 위험"
곳곳에서 "이중잣대" 비판
"성별 편향 아니다" 반론도
네이버 AI 탭은 '동일 답변'
구글·네이버, 장단점 뚜렷

사진은 기사와 관련 없음. 사진=게티이미지뱅크

"여자가 나를 만지고 있어." 구글 검색창에 이 같이 검색하자 인공지능(AI) 검색 요약 서비스인 'AI 개요'는 "여자가 몸을 만지는 행동은 호감의 신호일 수도 있고 불편한 신체 접촉일 수도 있습니다"라는 답을 내놨다. 팔이나 어깨를 살짝 치거나 옷자락·손을 잡는 행동 등을 '호감 신호'로 설명했다.

같은 검색 조건에서 성별만 바꾸자 전혀 다른 답변이 나왔다. "남자가 나를 만지고 있어"라고 입력하자 "원하지 않는 신체 접촉으로 두렵거나 위험한 상황이라면 즉시 크게 소리쳐 주변에 알리고 안전한 곳으로 피하세요"라는 답을 내놓은 것. 경찰(112)이나 여성긴급전화(1366)에 연락하라는 안내도 이어졌다. 

구글 AI, '여자가 만진다' 검색 때만 "호감"

11일 각종 온라인 커뮤니티·사회관계망서비스(SNS) 등에 따르면 지난달 말부터 이 같은 구글 AI 개요 검색 결과를 놓고 논란이 일고 있다. 레딧에는 구글 AI 개요가 '접촉 상대'의 성별에 따라 이중잣대를 적용한다는 반응이 잇달아 올라왔다. 성별만 달라졌는데 한쪽은 호감 가능성을, 다른 쪽은 위험 상황을 우선적으로 안내하는 것이 적절한지에 대한 지적이 제기됐다.

반론도 만만치 않았다. AI는 웹에 축적된 검색 결과와 이용자들이 해당 문장을 사용하는 맥락을 반영했을 뿐이란 주장이다.

'여성이 만진다'는 문장은 호감 여부를 묻는 연애 상담 콘텐츠와, '남성이 만진다'는 문장은 원치 않는 접촉에 관한 콘텐츠와 더 많이 연결돼 서로 다른 결과가 나왔을 수 있다는 설명. 실제 온라인상에서도 AI가 기존 검색 결과를 요약하는 만큼 이를 곧장 '성별 편향'으로 단정할 순 없다는 의견이 적지 않다. 

AI 트렌드를 전하는 국내 인스타그램 계정 '프롬피'는 이 사례를 소개하면서 "핵심은 성별보다 '동의 여부'와 '상황 맥락'"이라며 "원치 않는 신체 접촉이라면 남녀와 관계없이 경계를 설정하고 안전을 우선하는 대응이 필요하다"고 했다. 

사진=REUTERS·연합뉴스

네이버, 성별 바꿔도 동일 답변…가이드라인 적용

반면 국내 대표 검색 포털인 네이버 AI탭은 구글과 다른 답을 내놨다. 네이버 AI탭의 경우 "여자가 나를 만지고 있어"라고 입력하자 "원치 않는 접촉이라면 상대가 누구든 즉시 멈추게 하고 '불편하니 만지지 마'처럼 분명히 말하는 것이 우선"이라고 설명했다. 반복적 접촉이나 성적 의도가 느껴져 불안하다면 주변에 알리거나 도움을 요청하라고 안내하기도 했다.

"남자가 나를 만지고 있어"란 질문에도 안전을 우선하는 답변이 제시됐다. 원치 않는 접촉이라면 손을 치우게 하고 거부 의사를 밝힌 뒤 안전한 곳으로 이동할 것을 권고했다. 호감 있는 관계라도 동의 없는 신체 접촉은 문제가 될 수 있다는 설명이 이어졌다.

두 유형의 답변이 모두 비슷한 이유는 네이버가 민감한 질문에 별도로 안전 원칙을 적용해서다. 네이버 AI 탭은 성폭력 등 민감한 내용에 관해 주제별 '세이프티 가이드라인'을 미리 정해 관리한다. 질문이 들어올 경우 관련 가이드라인을 확인해 안전 원칙을 답변 모델에 적용한다. 답변 모델도 해당 원칙에 맞는 답을 생성하도록 학습돼 있다. 

네이버 관계자는 "'남자가 나를 만지고 있어'와 '여자가 나를 만지고 있어' 두 질의의 경우 모두 성폭력과 관련해 사전에 정의된 동일한 답변 가이드라인을 적용했다"며 "이에 따라 상대방의 성별과 관계없이 두 질의 모두 이용자의 안전을 우선하는 방향으로 답변이 생성된다"고 설명했다.

네이버는 AI 안전 업무를 전담하는 'AI 세이프티 센터'도 운영하고 있다. 이사회 산하 리스크관리위원회의 감독을 포함한 'AI 세이프티 3계층 관리·감독 체계'를 구축해 서비스 배포 이후에도 안전성을 점검한다.

"구글·네이버 AI 답변 방식, 장단점 있어" 

구글과 네이버의 방식은 각각 장단점이 있다. 구글처럼 이용자 선호·기존 데이터를 반영하는 방식은 서비스 사용이 늘면서 검색 결과가 자연스럽게 개선될 가능성이 있다. 반대로 사전에 정한 가이드라인을 적용하는 방식의 경우 안전성을 확보하기 쉽지만 다양한 우회 질문을 모두 포착하는 데 한계가 생길 수 있다는 지적이 나온다.

김태훈 서강대 가상융합전문대학원 교수는 "이러한 질의에 대해선 네이버가 지금처럼 하는 방식이 잘한 조치지만 다른 측면으로 보면 한계가 있을 수 있기 때문에 근본적으로는 AI 모델이 자체적으로 판단해 옳게 고치도록 하는 것이 맞다"고 설명했다.

그러면서 "구글 사례의 경우 당장은 오류를 잡아내지 못해 이런 현상이 발생했지만 결과적으로 사람들이 AI 오버뷰를 계속 쓰면 그 선호가 반영되면서 계속 좋아질 텐데, 이에 비춰보면 검색 성능 측면에선 구글이 더 나아질 수도 있다"고 설명했다. 

김대영 한경닷컴 기자 kdy@hankyung.com