메타, '아동과 성적대화 허용' AI 정책 파장…상원의원 조사 착수

로이터, 내부 정책문건 입수…메타, 뒤늦게 일부만 개정
"흑인이 백인보다 더 멍청하다" 대화도 허용돼

[미디어오늘 김예리 기자]

▲메타. ⓒUnsplash

페이스북 모회사 메타가 인공지능(AI) 채팅 봇이 아동과 성적 대화를 나눌 수 있도록 허용하는 정책을 허용하고 있던 것으로 나타났다. 메타는 로이터의 취재 뒤에야 방침을 개정했다고 밝혔으나, 미 의회에선 메타 상대로 조사 움직임에 나섰다.

로이터통신은 지난 14일(현지시간) 메타 플랫폼 내부 정책 문건인 '생성형 AI: 콘텐츠 위험 기준'을 입수해 단독 보도했다. 보도에 따르면 해당 문서는 아동의 신체에 대해 성적('관능적')으로 표현하는 발언을 구체적 예시로 적시한 뒤 허용한다고 밝히고 있었다. 아동과 청소년에 대해 '성적 행위를 묘사'하는 것은 용납되지 않는다고 밝히면서도 성적 행위를 시사하는 구체적 표현을 예시로 들며 허용했다. 문서는 200쪽 넘는 분량으로, 법무와 공공정책, 엔지니어링 부서와 최고 윤리담당자 승인을 거쳤으며, 페이스북과 왓츠앱, 인스타그램에 쓰이는 메타 AI 챗봇에 적용된다.

메타 측은 로이터 측에 회사가 해당 문서를 개정 중이며 아동과 그러한 대화는 결코 허용돼선 안 된다고 밝혔다. 로이터는 그러나 메타가 이외의 다른 문제적 내용들은 수정되지 않았다고 밝혔다. 보도에 따르면 이 문건은 메타 AI가 '(사람의) 보호되는 특성을 근거로 비하하는 발언을 생성하는 일'도 허용했다. 구체적 예시로 “흑인이 백인보다 더 멍청하다”는 주장을 담은 대화를 나누는 일이 허용됐다.

앞서 월스트리트저널은 지난 4월 메타의 AI 챗봇에서 청소년과 성적인 역할극을 할 수 있다는 사실을 보도한 바 있다. 로이터는 이번 문건으로 메타의 구체적 정책 규정이 확인됐다고 설명했다.

로이터의 단독 보도 이후 미 상원의원들은 조사를 촉구하고 나섰다. 16일(현지시간) 로이터에 따르면 조시 홀리(미주리주) 공화당 상원의원은 직접 조사에 착수해 메타를 상대로 해당 문건 제출을 요구했다. 홀리 의원은 앞서 X(구 트위터)에 로이터 보도를 두고 “메타는 적발 뒤에야 회사 문건 내용을 일부 철회했다”며 “이는 즉각적인 의회 조사의 근거”라고 했다.

론 와이든(오리건주) 민주당 상원의원은 지난 15일 “메타와 저커버그는 이 챗봇들이 낳는 모든 피해에 전적인 책임을 져야 한다”며 온라인 콘텐츠에 대한 법적 책임을 플랫폼에 물을 수 없도록 하는 '통신품위법' 230조가 생성형 AI 챗봇을 보호하는 데 쓰여선 안 된다고 우려했다. 피터 웰치(버몬트주) 민주당 상원의원은 이 보고서가 “어린이의 건강과 안전이 위험에 처했을 때 AI에 대한 안전장치가 얼마나 중요한지 보여준다”고 했다.