NYT “오픈AI가 가장 심각”…직원이 AI 보안문제 경고했지만 묵살?

오픈AI측 “안전유지 최선, 제보·우려 엄중히 받아들인다”

샘 올트먼 오픈AI 최고경영자(CEO) [게티이미지닷컴]

[헤럴드경제=이원율 기자]오픈AI 경영진이 인공지능(AI) 모델 안전성을 점검하고 사내 인프라 보안 강화의 필요성을 말한 직원과 보안 연구원의 거듭된 경고를 귀담아듣지 않았다는 내용의 보도가 나왔다.

29일(현지시간) 뉴욕타임스(NYT)가 오픈AI 사내 이메일을 입수했다며 이를 토대로 한 보도에 따르면, 오픈AI의 AI 모델이 통제를 벗어나기 수개월 전 직원 두 명이 최고 경영진에게 보안 문제를 경고했지만 묵살됐다고 연합뉴스는 전했다.

이들 직원은 최신 AI 모델을 시험하는 과정 중 기술의 정교함을 측정하고 안전을 확보하기 위한 적절한 모니터링이 이뤄지지 않는다는 우려를 제기했다. 경영진은 이에 “AI 모델을 기간 내 출시하려면 가능한 빨리 테스트를 진행해야 한다”며 추가적 보안 프로토콜을 진행하지 않은 채 출시를 강행했다고 한다.

그 뒤 AI 모델들이 테스트 환경에서 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스와 다른 기관들을 공격, AI 안전성에 대한 전 세계 논쟁을 촉발하는 계기가 됐다.

외부 보안 연구원들은 최근 몇 달간 오픈AI 임직원의 대화를 보거나 사내 컴퓨터 코드, 챗GPT 사용자의 대화 기록까지 볼 수 있는 버그를 찾았지만 오픈AI 측이 이를 무시했다고 주장했다.

보안업체 헥트론의 모한 페드하파티 연구원은 “핵무기를 개발하는 ‘맨해튼 프로젝트’를 진행하며 기업용 메신저인 슬랙을 사용하는 셈”이라고 지적했다.

실제로 오픈AI는 핵심 인프라를 직접 구축하는 대신 외부 소프트웨어 서비스에 기대온 것으로 알려졌다. NYT는 “오픈AI뿐 아니라 구글, 메타, 앤트로픽 등에서도 AI 모델이 테스트 환경을 벗어나 인프라를 자율 공격하는 사고가 있었지만, 오픈AI가 가장 심각하다”고 전했다.

드루 푸사테리 오픈AI 대변인은 “안전 유지를 위해 최선을 다하고 있으며, 연구원들의 제보나 우려를 엄중하게 받아들이고 있다”며 “첨단 모델이 나오며 보안 요소들을 진화시키고 있고, 일부 AI 개발 속도를 늦추고 연구와 테스트 과정에서의 보안을 강화하고 있다”고 설명했다.

오픈AI, 신규 투자 유치 추진?

한편 오픈AI는 1조4000억달러(약 1900조원)의 투자 전 기업가치로 최소 300억달러(약 40조7000억원) 규모의 신규 투자 유치를 추진하고 있는 것으로 알려졌다.

이날 블룸버그 통신이 소식통을 인용해 보도한 내용으로, 이는 지난 15일 오픈AI가 1조2000억달러의 기업가치로 투자 유치를 검토하고 있다는 보도 후 보름 사이 목표치가 더 높아진 것이라고 연합뉴스는 전했다.

목표치대로라면 오픈AI는 경쟁사 앤트로픽의 기업가치를 다시 웃돌 수 있다. 앤트로픽은 지난 5월 투자 후 기업가치 9650억달러로 650억달러를 조달했다.

오픈AI는 지난 3월 1220억달러(약 166조원)의 자금을 조달하며 투자 후 기업가치 8520억달러를 인정받았다. 반년 새 기업가치가 70% 가까이 뛰는 격이다.

다만 소식통들은 이번 투자 유치가 기업공개(IPO)를 미룬 오픈AI에 추가 자본을 공급하는 가교 라운드 성격으로, 논의는 초기 단계이기에 바뀔 수 있다고 설명했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 AI 안전 우려 해소에 집중하겠다며 상장을 최소 내년으로 미룬 상황이다.