저커버그 “초인공지능 권력 독점 더 위험”… AI 통제 논란 가열 [뉴스 투데이]

‘폐쇄형’ 오픈AI·앤트로픽 저격
“널리 배포 땐 시스템 되레 안전”
메타, 개방형모델 재출시… 中과 경쟁
美정부 AI 통제 놓고 MS 등 부정적
“기술유출·악용 막아” 옹호론도 커
최신모델 시험 도중 해킹 잇따라
“개발 중단·안전 규제 마련” 주장도

“사이버보안의 장기적인 해법은 능력을 감추지 말고 초인공지능을 널리 배포해 권력 균형을 만드는 것.”

마크 저커버그 메타 최고경영자(CEO). AP연합뉴스

마크 저커버그 메타 최고경영자(CEO)가 소수 기업에 인공지능(AI) 기술·권력이 집중되는 ‘폐쇄형 AI’ 방식을 비판하면서 AI 통제권에 대한 논쟁이 확산하고 있다. 국가 안보를 위해 최첨단 AI 모델 접근권을 개발사와 정부가 통제해야 한다는 의견과 접근권을 확대해 권력 집중을 막아야 한다는 의견이 맞서고 있다.

저커버그 CEO는 10일(현지시간) ‘미래는 모두의 것’이란 제목의 6500단어 분량 글을 내고 “AI가 너무나 위험해서 안전하게 만들려면 권력을 극도로 집중시키는 것뿐이라는 생각은 본질적으로 문제가 있다”고 지적했다. 그는 “장기적으로 강력한 사이버보안 능력을 갖춘 AI 모델이 널리 배포되면 시스템은 더 안전해질 것”이라며 “많은 사람이 취약점을 발견하고 시스템을 강화해 최신의 안전한 버전으로 업그레이드할 수 있기 때문”이라고 부연했다. 저커버그 CEO는 해당 글에서 AI와 인류에 대한 철학부터 현재 논란이 되는 사이버보안, 미·중 AI 모델 경쟁 등에 대해 폭넓은 의견을 제시했다.

사진=로이터연합뉴스

◆통제권 넓혀 안보 강화

‘AI의 폭주’보다 AI 독점이 더 위험하다고 강조한 저커버그 CEO의 주장을 두고 의견이 분분하다. AI 모델을 공개하면 안전장치를 임의로 제거할 수 있고, 공개된 모델을 회수하거나 사용을 감시할 수 없기 때문에 위험을 통제할 수 없다는 반박이 잇따랐다.

다리오 아모데이 앤트로픽 CEO는 앞서 정부의 AI 안전성 검사를 확대해야 한다고 강조했다. 미국은 사이버보안과 국가 안보를 이유로 앤트로픽의 ‘클로드 미토스’ 등 최첨단 AI 모델 수출을 통제하고 미국 중심의 일부 기업·기관에만 예외적으로 접근권을 제공하고 있다. 아모데이 CEO는 AI 능력을 공개하면 방어자가 함께 강해져 안전해질 수 있다는 논리에 대해서는 “오히려 반대일 가능성이 크다”고 말했다.

일각에서는 현재 진행 중인 AI 개발을 중단하고 안전 규제부터 마련해야 한다는 목소리도 나온다. 최근 앤트로픽의 최신 AI 모델 미토스5를 포함해 오픈AI와 메타의 최신 AI 모델이 시험 도중 통제권을 벗어나 외부기관을 공격하는 사례가 이어지면서 기업의 AI 통제 실패에 대한 책임론이 커졌다.

AI 안전 분야 싱크탱크인 FLI의 공동창업자 앤서니 아기레 UC샌타크루즈 교수는 이날 해킹 사례를 언급하며 “빠르고 강력한 AI를 누가 통제할 수 있냐”며 “정부가 첨단 AI 개발을 일시 중단해야 한다”고 주장했다. 미국 정보기술(IT) 전문매체 테크크런치도 저커버그 CEO를 향해 사회관계망서비스(SNS)나 AI에 대한 빅테크(거대기술기업)의 자체 규제를 두고 불신이 큰 상황에 부작용을 무시한 무책임한 발언이라고 꼬집었다.

◆“미국이 개방형도 주도해야”

업계에서는 저커버그 CEO가 폐쇄형 AI 방식을 택하고 있는 오픈AI와 앤트로픽을 겨냥해 비판했다는 관측이 나온다. 최근 미국에서는 중국의 문샷AI가 고성능 AI 모델 ‘키미 K3’를 공개한 이후 오픈웨이트(가중치 공개) 모델 규제를 놓고 개방형과 폐쇄형 진영이 격돌하고 있다.

키미 K3, 알리바바 큐웬 3.8, 딥시크 V4 플래시 등 중국의 오픈웨이트 모델이 미국의 최첨단 폐쇄형 모델과 경쟁할 만큼 성능이 올라오면서 오픈 AI와 앤트로픽은 규제 강화를 요구했고, 메타와 마이크로소프트(MS), 엔비디아는 개방을 유지해야 한다고 맞서는 중이다.

개방형 옹호 기업들은 미국 내 중국의 AI 모델 점유율 확대를 막기 위해 미국 기업들이 개방형 AI 개발을 추진해야 한다는 입장이다. 반면 개방형 모델을 폭넓게 허용하면 AI 악용과 중국으로의 기술 유출·복제 위험이 커진다는 반론도 만만찮다.

메타는 저커버그 CEO 발표에 맞춰 차세대 개방형 AI 모델 ‘뮤즈 글리머’를 공개하고 개방형 AI 생태계 주도권 잡기에 나섰다.

메타는 지난해까지 개방형 AI 모델 ‘라마’를 개발하다가 성능이 뒤처지자 폐쇄형 AI 모델 개발로 전략을 바꾼 바 있다. 개방형 생태계를 앞세워 오픈AI와 앤트로픽에 대항하고 중국의 개방형 AI 모델과 경쟁하기 위한 구상으로 풀이된다.

이정한 기자 han@segye.com