챗GPT, 앞으론 ‘18금’? 오픈AI “연령제한 검토 중”

“AI 기술 위험…안전 보장 위해 다방면 노력 중”
“GPT4, 증오·폭력적 요청 응답 가능성 82% 낮춰”
“아동 성착취물 업로드 시 즉각 차단 뒤 당국 신고”

오픈에이아이 공식 블로그 갈무리

생성형 인공지능 기반 챗봇 ‘챗지피티’(ChatGPT) 개발사 오픈에이아이(OpenAI)가 청소년 보호를 위해 인공지능 제품에 접근할 수 있는 이용자 연령을 제한하는 방안을 검토 중인 것으로 알려졌다.

오픈에이아이는 5일(현지시각) 공식 블로그에 ‘인공지능 안전에 대한 우리의 시각’이라는 제목의 공지 글을 올려 이같이 밝혔다.

오픈에이아이는 “전 세계 이용자들이 챗지피티를 통해 생산성을 높이고 창의성을 기를 수 있었다고 우리에게 전해왔다. 그런데 다른 모든 기술과 마찬가지로 이런(인공지능 기반의) 도구들 또한 실재적인 위협을 동반한다는 걸 우리도 인정한다. 이에 시스템의 모든 층위에서 안전을 보장하기 위한 작업을 하고 있다”고 밝혔다.

오픈에이아이는 이어 “인공지능 기술이 아동에게 미칠 해악을 방지하기 위해 여러 조치를 취하고 있다”고 강조했다. 오픈에이아이는 “우리의 인공지능 기반 도구를 사용하려면 18살 이상이어야 하고, 13살 이상 18살 미만이면 부모의 승인이 필요하며, 13살 미만은 아예 사용하지 못하도록 하는 원칙이 적용돼 있다”며 “이 원칙이 지켜질 수 있게 하기 위해 연령 인증 옵션을 추가하는 방안을 검토하고 있다”고 밝혔다.

오픈에이아이는 또한 증오·괴롭힘·폭력·성인용 콘텐츠를 걸러내는 시스템의 정확도를 높여가고 있다고 밝혔다. 오픈에이아이는 “최신 언어 모델 지피티4를 적용한 뒤 챗지피티가 허용되지 않은 요청에 응답할 가능성이 지피티3.5에 비해 82% 낮아졌다”고 설명했다. 현재 챗지피티 유료 버전인 ‘챗지피티 플러스’에 지피티4 언어모델이 적용돼 있다. 오픈에이아이는 “향후 더 많은 이용자가 (발전한 모델을) 이용할 수 있도록 하겠다”고 밝혔다.

오픈에이아이는 생성형 인공지능 모델이 아동에게 해로운 콘텐츠를 만들 가능성을 최소화하기 위한 조치들을 강화하고 있다고 밝혔다. 오픈에이아이는 “예를 들어, 이미지 생성 도구에 이용자들이 아동성착취물 업로드를 시도하면, 해당 이용자를 차단하고, 즉각 미국 실종학대아동방지센터에 신고하는 등 노력하고 있다”고 설명했다.

인공지능 모델을 학습·발전시키는 과정에서 방대한 개인정보 침해가 일어날 수 있다는 우려에 대해서도 응답했다. 오픈에이아이는 “초거대 언어 모델을 학습시키는 데 쓰이는 데이터에 인터넷에 공개된 개인정보가 일부 포함돼 있을 수 있다. 하지만 우리는 언어 모델이 (정보주체) 개개인이 아닌 세상 전반에 대해 학습하길 바란다. 따라서 학습용 데이터에서 개인정보를 가능한 한 제거하고, 자신의 개인정보를 우리의 시스템으로부터 삭제해 달라는 이용자들 요구에 부응하는 등 언어 모델이 개인정보를 포함한 응답을 만들어낼 가능성을 최소화하려 노력하고 있다”고 밝혔다.

정인선 기자 ren@hani.co.kr