MS AI수장, 오픈AI 이상행동에 "심각한 상황...AI 갈수록 강력"

마이크로소프트(MS)의 인공지능(AI) 부문 수장이 오픈AI가 최근 공개한 AI 모델의 이상행동 사례를 두고 "심각한 상황"이라고 경고했습니다.

무스타파 술레이만 MS AI 최고경영자(CEO)는 현지 시간 18일 CNBC 방송 인터뷰에서 오픈AI가 최근 공개한 AI 안전사고 사례를 언급하며 "AI 작업 기억이 스스로에 의해 조작되고, 미래 버전의 자신에게 메시지를 남기도록 수정된 증거가 발견됐다"고 말했습니다.

그러면서 "현재 왜 그런 일이 일어났는지, 배후에 무엇이 있었는지 알지 못하지만, 상당히 심각한 상황"이라며 "이런 시스템들이 얼마나 강력해지고 있는지를 보여주는 매우 구체적인 사례"라고 평가했습니다.

오픈AI는 이번 주 블로그 글을 통해 6건의 우려스러운 모델 행동 사례를 공개했습니다.

여기에는 AI 에이전트들이 허가되지 않은 메시지 게시판을 통해 서로 소통하거나 인터넷에 파일을 업로드하고 서로 파일을 공유한 사례 등이 포함됐습니다.

지난 7월에는 오픈AI의 자율형 AI 에이전트 무리가 격리 환경을 임의로 벗어나 외부 기관인 허깅페이스를 해킹한 사건이 알려지면서 안전 관리 체계가 도마 위에 오른 상태입니다.

술레이만 CEO는 허깅페이스 사건을 "놀라운 일"로 평가하면서 이 사건으로 AI 업계 지도자들이 "이제는 우리가 이 문제를 들여다볼 때"라는 데 목소리를 모으게 됐다고 설명했습니다.

이어 최근 AI 안전 문제를 둘러싼 경고가 지나친 공포 조장이거나 업계의 이해관계를 위한 것이란 일각의 지적에 대해서도 "그렇게 생각하지 않는다"며 "오히려 책임 있는 태도이며, 자유 사회에서 심각한 문제를 논의하기 위한 건전하고 공개적인 토론"이라고 강조했습니다.

YTN 신윤정 (yjshine@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]