"인공지능이 인간 해칠 수 있다" 모처럼 의기투합한 IT 거물들

잇단 사고에 속도 조절론
올트먼, 안전 이유로 상장 연기
아모데이 "안전장치 시간 필요"
머스크·허사비스 "100% 동의"

프런티어 인공지능(AI) 모델 개발 속도를 놓고 의견이 엇갈리던 빅테크 거물들이 허깅페이스 사태 등 사고가 잇따르자 한목소리로 'AI 개발 속도 조절'을 강조하고 나섰다. AI가 통제를 벗어나 인간에게 엄청난 피해를 줄 수 있다는 이유에서다.

앤트로픽을 이끄는 다리오 아모데이 최고경영자(CEO)는 12일(현지시간) 블로그에 글을 올려 "AI 모델의 성능 향상 속도를 늦춰야 한다"며 "위험 예방이 (AI 성능 향상을) 따라잡을 수 있도록 AI 발전 속도를 조절해야 한다"고 밝혔다. AI 모델이 스스로 다음 세대 AI를 만드는 '재귀적 자기 개선(RSI)'으로 인간이 AI를 통제할 수 없는 상황이 현실이 됐다는 지적이다.

아모데이 CEO는 앞으로 6~12개월 내 AI 에이전트가 대규모로 결합할 경우 인터넷을 장악해 막대한 피해를 줄 가능성도 있다고 우려했다. 실제로 최근 에이전트 집단이 AI 플랫폼 허깅페이스를 해킹하는 일이 발생하기도 했다.

같은 회사 연구원인 제이컵 콕슨도 SNS에 "AI가 10년 안에 인류를 파멸시킬 수 있다"는 경고를 남겼다.

아모데이 CEO는 기업들이 AI 모델을 정렬하고 안전장치를 마련하는 데 충분한 시간을 갖도록 민주주의 국가 간 공조를 강화해야 한다고 강조했다. 이번 블로그 글은 앤트로픽이 AI 기술 안전성 우려를 담은 위협정보보고서를 발표한 지 이틀 만에 나왔다. 보고서는 무기 개발, 사이버 작전, 감시, 사기 행위 등에 앤트로픽의 클로드가 어떻게 악용되고 있는지를 다뤘다.

샘 올트먼 오픈AI CEO는 엑스(X)에 아모데이 CEO의 글을 공유하며 "프런티어 AI의 발전 속도를 조절해야 한다는 다리오 아모데이 의견에 동의한다"고 밝혔다. 그는 이어 "독립적인 평가기관이 직원과 유사한 수준의 접근 권한을 갖도록 하는 것은 좋은 아이디어이며, 우리도 같은 조치를 할 것"이라고 했다.

올트먼 CEO는 AI 안전 문제를 이유로 오픈AI의 기업공개(IPO) 일정을 연기하겠다는 뜻도 밝혔다. 그는 최근 공개된 미국 경제전문지 포천 인터뷰에서 "안전과 정렬을 위해 필요한 과제들을 해결하고 업계와 정부가 어떻게 협력할지 모색하는 등 해야 할 일이 많다"며 "(IPO가) 2026년은 아닐 것"이라고 말했다.

AI 업계 거물들도 아모데이의 의견에 동의를 표했다. 일론 머스크 스페이스X CEO 역시 "다리오 아모데이가 맞다"며 동조했다. 구글 딥마인드 창업자이자 CEO를 지냈던 데미스 허사비스는 "세부 사항은 작업이 필요하겠지만 이처럼 절체절명의 순간을 맞닥뜨리는 순간에 옳은 방향성"이라고 말했다.

[강영운 기자]