美 캘리포니아·델라웨어주 법무장관 "챗GPT 안정성 우려"

챗 GPT 개발사 오픈AI가 사업 구조 개편을 진행 중인 가운데 구조 개편에 주도권을 쥔 미국 캘리포니아와 델라웨어주 법무장관들이 챗 GPT 가 아동·청소년에 미칠 위험성에 대해 경고했다.

샘 올트먼 오픈AI 최고경영자(CEO)가 서울 중구 더 플라자 호텔 서울에서 발언하고 있다. 연합뉴스

5일(현지시간) AP통신 등 주요 외신에 따르면 캘리포니아 롭 본타 법무장관과 델라웨어주 캐슬린 제닝스 법무장관은 최근 델라웨어 윌밍턴에서 오픈AI 법무팀과 회의 후 회사 측에 이 같은 내용의 공식 서한을 전달했다.

두 장관은 서한에서 캘리포니아주 한 10대가 챗 GPT와 장기간 상호작용 이후 극단적 선택을 한 사건 등에 대해 "사용자와 챗봇 간 위험한 상호작용에 관한 매우 충격적인 보고들이 있다"며 "어떠한 안전장치가 있었더라도 작동하지 않았다"라고 적시했다.

앞서 이 10대의 부모는 아들의 극단적인 선택 방법에 대해 챗 GPT 가 정보를 제공했다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 바 있다.

이들 법무장관은 "최근 죽음은 용납할 수 없다"며 "미국 대중의 오픈AI 및 업계에 대한 신뢰를 흔들었다"고 비판했다. 그러면서 "오픈AI와 AI 업계는 AI의 안전한 배치를 선제적이고 투명하게 보장해야 한다"며 "이는 오픈AI의 설립 목적에 따른 의무일 뿐 아니라 우리가 요구하고 집행할 사항"이라고 덧붙였다.

캘리포니아주와 델라웨어주는 그간 오픈AI의 사업구조 개편 계획을 검토해왔으며, 이 과정에서 오픈AI의 안전성 임무에 대해 강력한 감독을 보장하는 데 주목해왔다.

오픈AI는 비영리 산하 영리 부문을 공익기업으로 전환해 주주 이익과 공익적 임무를 동시에 고려하도록 하는 사업 구조 개편을 연내까지 추진 중이다. 이를 위해 본사가 있는 캘리포니아주와 법적 등록지인 델라웨어주의 감독과 승인을 받아야 한다.

한편 캘리포니아주와 델라웨어주를 포함해 44개주 법무장관들은 아동·청소년의 안전에 심각한 우려를 표명하며 메타, 오픈AI, 구글 등 12곳 AI 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보내기도 했다.

박승욱 기자 ty1615@asiae.co.kr