오픈AI, 최신 모델 학습 전격 중단... AI 에이전트 오작동 우려

로이터연합뉴스

[파이낸셜뉴스] 인공지능(AI) 에이전트들의 잇따른 통제 이탈 보고가 이어지면서, 오픈AI가 최신 AI 모델의 학습을 전격 중단했다고 밝혔다.

28일(현지시간) AP통신 보도에 따르면 이번 개발 중단 결정은 오픈AI가 미국 연방정부 웹사이트에서 정보 수집 및 배포 업무를 수행하던 에이전트들이 지시받은 범위를 넘어 돌발 행동을 일으킨 여름철 사건 다수를 조사 중이라고 밝힌 지 수 시간 만에 나왔다.

이와 별개로, AI 평가 기관인 트랜스루스(Transluce)는 오픈AI에서 유래한 것으로 보이는 에이전트들이 미국 교육부 웹사이트 해킹을 시도했으나 실패했다고 전했다. 다만 오픈AI 측은 해당 사실에 대해 아직 확인하지 않은 상태다.

오픈AI는 성명을 통해 "추가적인 안전장치가 확보되었다고 확신할 때만 학습을 재개할 것"이라며 "AI 기술 발전과 함께 새로운 문제가 발생함에 따라 앞으로도 개발을 '일시 정지'해야 하는 상황이 다시 발생할 수 있다"고 밝혔다.

현재 AI 연구소들은 입법자들과 기술 전문가들로부터 개발 속도를 줄이고, 에이전트가 독자적으로 행동하거나 웹사이트를 해킹하고 비공개 정보를 유출하는 것을 막기 위한 안전장치(안전 가드레일)를 구축하라는 압박을 받고 있다. 오픈AI와 경쟁사인 앤스로픽의 최고경영자(CEO)들 역시 속도 조절의 필요성을 주장해 왔다.

오픈AI가 모델 개발을 중단한 것은 최근 3개월 만에 이번이 두 번째다. 앞서 지난 7월 AI 스타트업 허깅페이스를 겨냥한 사이버 공격 사건이 공개된 이후 첫 번째 개발 중단 조치가 내리진 바 있다. 당시 사건은 AI 산업이 통제력을 잃어가고 있다는 공포를 키운 바 있다.

최근 발생한 오픈AI 관련 사건들에서 비공개 정보가 유출된 정황은 나타나지 않았으나, 관련 연방 기관에 경고를 보낼 만큼 사안은 엄중했던 것으로 알려졌다.

교육부 관련 사건의 경우, 오픈AI 에이전트들이 정부 데이터에 접근할 수 있는 API '개발자 키'를 찾아냈으나 최종적으로는 공개된 정보만 수집하는 데 그쳤다.

미국 증권거래위원회(SEC)가 관련된 또 다른 사건에서는 에이전트들이 누구나 접근할 수 있는 정보를 발견한 뒤 이를 인터넷의 다른 장소에 게시하는 등 지시받은 범위를 넘어서는 행동을 보였다.

SEC 대변인 커트 호펜스퍼거는 "비공개 정보에는 전혀 접근하지 않았다"고 밝혔으며, 미국 교육부 역시 "자사 웹사이트나 데이터베이스에 어떠한 영향도 미쳤다는 증거를 찾지 못했다"고 설명했다.

이 외에도 여러 AI 기업들이 자사 모델이 통제를 벗어나거나 웹사이트를 해킹한 사례들을 공개해 왔다.

샘 올트먼 오픈AI CEO는 소셜 미디어를 통해 "7월에 발생한 허깅페이스 사건이 여전히 우리가 목격한 가장 심각한 사건"이라고 언급했다. 오픈AI는 이전에 AI 모델의 '예상치 못하거나 우려스러운' 행동에 대한 보고서 6건을 공유한 바 있으며, 이러한 사례를 추적하고 조사 및 공개하기 위한 프레임워크를 도입했다.

한편, 지난주 시진핑 중국 국가주석과의 정상회담에서 도널드 트럼프 미국 대통령은 AI 위험성에 대한 정보를 공유하고 안전성 확보를 위해 협력하기로 합의했다. 그러나 트럼프 대통령은 AI에 대한 공포가 과장되어 있다고 보고 있으며, 자체적인 단속 계획은 없음을 내비쳤다.

트럼프 대통령은 백악관 밖에서 기자들과 만나 "미국은 브레이크를 걸지 않을 것"이라며 "그들은 우리가 중국을 크게 앞서고 있기 때문에 우리의 진보를 막고 싶어 하지만, 우리는 이 우위를 계속 유지할 것"이라고 강조했다.

jjyoon@fnnews.com 윤재준 기자