적과의 동침?…오픈AI·앤트로픽, AI '스트레스 테스트' 협상

오픈AI와 앤트로픽이 한때 법적 구속력이 있는 계약을 맺고 서로의 인공지능(AI) 모델을 상호 검증(스트레스 테스트)하는 방안을 협상했던 것으로 나타났다고 IT매체 디인포메이션이 현지 시각 21일 보도했습니다.

보도에 따르면 두 회사와 변호사들은 올해 초 서로의 모델에서 취약점이나 숨겨진 위험을 찾기 위한 협약을 마무리하는 작업을 진행했습니다.

협의 내용을 아는 한 관계자는 오픈AI의 미출시 모델이 자사 시스템과 다른 기업 시스템을 해킹한 사고가 터지기 전에 이 협정이 최종 타결됐는지는 불분명하다고 전했습니다.

오픈AI와 앤트로픽 모두 이와 관련해 논평을 거부했습니다.

협정안에 따르면 양사는 상대방의 상업적으로 이용 가능한 AI 모델의 응용프로그램 인터페이스(API)에 서로 접근할 수 있으며, 그 과정에서 상대방 데이터는 보유하지 않기로 했습니다.

두 회사는 앞서 지난해 여름에도 비슷한 방식으로 서로의 모델을 검증해 약점을 공개한 적이 있습니다.

오픈AI는 지난 7월 자사의 미출시 AI 에이전트가 허깅페이스 등 다른 기업과 자체 시스템을 나흘간 해킹한 사고를 겪은 뒤 안전 전략을 전면 재점검하고 있습니다.

이런 가운데 일론 머스크 스페이스X CEO는 지난 15일 올인 서밋에서 경쟁 AI 연구소들이 출시 전 일종의 동료평가 방식으로 서로의 모델을 검증해야 한다고 제안했습니다.

반면 샘 알트먼 오픈AI CEO는 각사 내부에 독립적인 제3자 안전성 평가자를 두자는 다리오 아모데이 앤트로픽 CEO의 구상을 지지해왔습니다.

다만 아모데이는 선도기업 간 이런 협력이 반독점법 위반 소지가 있다고 우려해왔습니다.

실제 지난 12일 아모데이가 AI 개발 속도 조절을 위한 업계 협력을 주장하는 글을 내고 알트먼·머스크 등이 공감을 표하자, 이를 문제 삼은 유료 구독자들이 지난 20일 반독점 집단소송을 제기하기도 했습니다.

[정유진 디지털뉴스부 인턴기자 kittyjeongann@gmail.com]

MBN