앤트로픽 CEO "AI 개발 속도 늦춰야"…울트먼·머스크도 동의

다리오 아모데이 앤트로픽 CEO가 12일(현지시간) 인공지능(AI)이 인간의 통제를 벗어날 위험에 대비해 개발 속도를 낮춰야 한다는 내용을 담은 글을 공개했다. REUTERS/Dado Ruvic/Illustration/연합뉴스 제공

인공지능(AI) 기업 간 개발 경쟁이 가속화되는 가운데 AI 성능 발전 속도를 늦추고 안전 검증을 강화해야 한다는 주요 AI 기업 최고경영자(CEO)들의 주장이 이어진다. AI가 스스로 성능을 개선하는 단계에 가까워질수록 인간이 기술을 이해하고 통제하는 속도가 이를 따라가지 못할 것이라는 우려에서다.

12일(현지시간) 미국 '뉴욕타임스', '워싱턴포스트' 등 주요 외신에 따르면 다리오 아모데이 앤트로픽 CEO는 이날 약 3800단어 분량의 글을 통해 AI 개발 속도를 전세계적으로 늦춰야 한다고 주장했다.

아모데이 CEO는 수년 간 AI의 위험을 경고했다. 이번 글은 지금까지 주요 AI기업 CEO가 내놓은 주장 가운데서도 가장 강력하게 긴급한 대응을 촉구한 사례 중 하나라는 평가다.

그는 "지난 몇 달 동안 AI 위험에 제대로 대응하려면 위험 예방에 투자하는 것만으로는 부족하며 AI 성능 발전 속도를 조절해야 한다는 확신을 갖게 됐다"며 "AI 모델의 성능을 개선하는 속도를 늦춰야 한다"고 밝혔다. 안전 대책이 기술 발전을 따라잡을 시간을 확보해야 한다는 것이다.

이어 "속도를 늦춰도 여전히 빠르게 진전하고 있다고 느낄 것"이라며 "우리가 확보한 시간은 현명하게 사용해야 한다"고 덧붙였다.

AI기업 CEO들이 위험 요인으로 꼽는 것은 AI가 연구자의 도움 없이 스스로 더 발전하는 '재귀적 자기개선' 가능성이다. 이미 일부 AI 개발자들이 AI가 자신의 성능을 반복적으로 개선하는 단계에 이르면 인간의 통제를 벗어날 것이라는 우려를 밝혔다.

아모데이 CEO는 "현재 상황을 그대로 방치하면 인간이 시스템을 이해·통제하는 능력을 앞질러 갈 수 있다"며 매우 신중하게 접근해야 한다고 강조했다.

그는 '내재형 평가자' 제도를 도입할 것을 제안했다. AI를 기업 내부의 자율적인 안전 관리에만 맡기지 않고 외부 전문가가 기업 내부에 접근해 안전 수준을 평가해야 한다는 것이다.

민주주의 국가들이 공동으로 AI 안전 기준을 만들고 필요시 규제로 이어지도록 해야 한다고도 주장했다. 실질적인 개발 속도 조절을 위해서는 권위주의 국가를 포함한 전세계적 협력이 필요하다고 분석했다.

샘 올트먼 오픈AI CEO와 일론 머스크도 아모데이 CEO의 이같은 주장에 동의했다. 올트먼 CEO는 아모데이 CEO가 글을 올린지 몇 시간만에 소셜미디어를 통해 "최근 몇 주간 오픈AI에서 주요하게 논의해 온 주제"라며 "개발 속도를 늦추는 것은 필수적이다"고 말했다.

그는 직원과 비슷한 수준의 접근 권한을 가진 독립 평가기관을 두자는 제안에 찬성한다며 오픈AI도 따를 것이라고 밝혔다. 머스크는 자신의 소셜미디어 X에 "다리오가 옳다"고 적었다.

실리콘밸리 내에서는 아모데이 CEO의 발언이 계획적이라는 비판도 나온다. AI 기업들이 안전 문제를 강조하는 배경에 시장 지배력을 강화하려는 의도라는 것이다.

일부는 앤트로픽·오픈AI 같은 대형 기업이 AI 위험성을 부각하고 규제를 요구하면 규제 대응 능력이 떨어지는 중소기업은 시장 진입이 어려워질 수 있다고 지적한다.

젠슨 황 엔비디아 CEO는 10일 미국 샌프란시스코 골드만삭스 기술 콘퍼런스에서 AI 기업들이 새로운 사이버보안 제품을 내놓기 위해 보안 우려를 의도적으로 키운다며 비판한 바 있다.

아모데이 CEO는 "AI가 질병 치료·경제 성장 등 인류에 큰 이익을 가져올 가능성은 여전히 높다"고 강조하면서도 "그럼에도 AI의 위험이 너무 크다"고 말했다. 그는 "AI를 안전한 속도로 발전시키기 위해 내가 제안한 조치들을 시행하기는 쉽지 않을 것이지만 인류를 위해 시도할 의무가 있다고 생각한다"고 밝혔다.

<참고 자료>
darioamodei.com/post/we-must-pace-the-frontier

[문혜원 기자 moony@donga.com]