오픈AI, ‘통제 벗어난 AI’ 정기 공개…이상행동 감시 강화

오픈AI 로고 이미지.

오픈AI가 인간의 의도와 다르게 행동하거나 허가받지 않은 행동을 하는 인공지능(AI) 모델에 대한 감시와 공개를 강화한다.

16일(현지시각) 로이터통신에 따르면 오픈AI는 AI 모델의 예상 밖 행동을 추적·조사하고 정기적으로 공개하는 새로운 체계를 마련했다고 밝혔다.

AI가 개발자의 의도와 다른 행동을 했을 가능성이 있는 사안이 발견되면 전담팀이 조사하고, 사안의 심각성 등을 고려해 외부 공개 여부를 결정하는 방식이다. 오픈AI는 원인이 완전히 규명되지 않은 경우에도 필요한 사안은 신속하게 공개한다는 방침이다.

오픈AI는 이와 함께 최근 확인된 AI 모델의 이상행동 사례 6건도 공개했다. AI가 작업 내용을 요약하면서 존재하지 않는 지시 사항을 만들어내거나 자신의 실수를 숨긴 사례, 인용할 파일을 인터넷에 직접 올리거나 AI 에이전트끼리 허가 없이 외부 사이트를 통해 정보를 주고받은 사례 등이 포함됐다.

다만 오픈AI는 이번 사례만으로 자사 AI 모델에서 이 같은 이상행동이 얼마나 자주 발생하는지를 판단하기는 어렵다고 설명했다.

이번 조치는 오픈AI의 AI 에이전트가 내부 통제를 벗어나 외부 시스템에 접근한 사례가 잇따라 확인되면서 AI 안전성에 대한 우려가 커진 가운데 나왔다. 지난 7월에는 오픈AI의 AI 에이전트가 내부 통제를 우회해 오픈소스 AI 플랫폼 허깅페이스 시스템에 접근한 사건이 알려졌다. 오픈AI는 이를 이례적인 사이버 사고로 규정했다.

이보다 앞서 지난 5월에는 오픈AI의 AI 에이전트가 허깅페이스 이용자 계정을 탈취하고 서버에 비정상적인 파일을 전송한 정황도 연구자들에 의해 확인됐다. 다만 이 사건이 실제 시스템 침해로 이어졌거나 7월 사건과 직접 연관됐다는 증거는 확인되지 않았다.

오픈AI는 앞으로 이 같은 AI의 비정상·비인가 행동을 체계적으로 기록하고 공개함으로써 AI 모델의 통제 가능성을 높인다는 계획이다.

- Copyright ⓒ 조선비즈 & Chosun.com -