핵폭탄급 AI의 개발, 한국에 새로운 기회가 열렸습니다

[나의 AI탐구생활] 미토스 개발로 AI 국제 규범이 만들어지는 시대, 한국이 차지할 자리

AI는 이제 우리 삶에 스며들었습니다. 모두가 AI를 사용하는 지금, 중요한 건 '무엇을 쓰느냐'가 아니라 '어떻게 쓸지'를 고민해야 합니다. 정답은 없지만, 이 탐구 생활을 통해 해법을 찾아가는 과정을 함께 나누고 함께 고민해 보고자 합니다. <기자말>

[신상호 기자]

▲ 앤트로픽 미토스 ⓒ 로이터 연합뉴스

제2차 세계대전 당시 영국 블레츨리 파크의 암호해독팀은 독일군 암호를 풀어냈지만, 그 정보는 연합국 모두에게 돌지 않았습니다. 미국과 영국, 캐나다 등 극히 일부 국가에만 제한적으로 공유됐고, 나머지 연합국 국가들은 이 사실을 모른 채 싸워야 했습니다. 그 정보를 알았던 국가와 몰랐던 국가의 정보 격차는 결과적으로 전쟁 사상자 격차라는 중대한 차이로 나타나게 됩니다.

미국 AI 기업 앤트로픽(Anthropic)이 꾸린 '프로젝트 글라스윙(Project Glass Wing)'을 보면 과거 브레츨리 파크 암호해독팀을 연상케 합니다. 이달초 앤트로픽은 최고의 보안 시스템에 대해서도 몇 시간 만에 버그를 찾아낼 수 있는 '클로드 미토스(Mythos)'를 개발했다고 밝혔습니다. 현존하는 모든 보안시스템 무력화가 가능하다고 평가받는 이 모델은 '핵폭탄' 이상의 재앙을 불러올 우려도 있어, 공개 계획은 전면 보류됐는데요.

그런데. 프로젝트 글라스윙에 참여한 기업들은 미토스 접근이 가능합니다. 앤트로픽은 12개 파트너 기업에 대해 미토스 프리뷰 API에 접근권을 부여했습니다. 아마존, 애플, 구글, 마이크로소프트, 엔비디아를 비롯, JP모건 등 금융사들도 이 명단에 포함돼 있습니다. 앤트로픽은 이들 기업을 비롯해, 40여 개 기업에 확장 참여사 등의 지위를 부여해 제한적으로 미토스 접근권을 허용하는 것으로 알려졌습니다. 이들 기업들은 핵폭탄 이상의 위력을 가진 것으로 평가받는 AI를 누구보다 먼저 실험해볼 기회가 생긴 것이죠.

이런 가운데 미 국방부 산하 기관인 NSA(National Security Agency)가 이미 미토스를 활용하고 있다는 보도('NSA using Anthropic's Mythos despite blacklist', Axios)까지 나왔습니다.

▲ 앤트로픽의 Project Glasswing 보고서, 이 보고서에 따르면 미토스는 샌드박스를 탈출하고 자율적인 해킹 능력까지 갖고 있습니다. ⓒ 신상호

안타깝게도 이 명단에 한국 기업이나 한국 기관의 이름은 없습니다. 미토스를 써볼 기회가 없다는 것은, 미토스를 활용하는 기업들과의 격차가 커진다는 것을 의미하죠. 2차 세계대전 당시 독일군 암호 정보를 알았던 나라와 몰랐던 나라의 차이가 그랬던 것처럼 말입니다. 다만 2차 세계대전에서의 암호 정보 공유 여부는 사상자 증감 등 예측 가능한 차이를 만들어냈다면, 미토스 정보 공유의 경우 어떤 차이로 귀결될지 예상하기 어렵다는 점입니다.

이런 가운데 독일을 비롯한 세계 각국은 '미토스 접근권' 확보를 위해 움직이고 있습니다. 블룸버그 보도에 따르면 독일 연방은행 요아힘 나겔 총재는 " 경쟁 왜곡을 피하려면 모든 관련 기관이 이 기술에 접근할 수 있어야 한다"고 요구하며 앤트로픽과 양자 대화 채널 구축을 추진하고 있습니다. 로이터 통신의 21일 보도를 보면 앤트로픽은 조만간 유럽 은행들에게도 미토스 AI 모델에 대한 접근 권한을 제공할 계획이라고 합니다.

유럽이 바삐 움직이는 지금, 한국도 미토스 접근권 확보에 적극 나설 필요가 있습니다. 현재 한국이 AI 분야에서 상당한 경쟁력을 확보하고 있는 건 사실입니다. 여기에 더해 미토스 접근권을 확보하게 된다면 향후 'AI 선도국'으로 도약할 지렛대를 얻을 수 있습니다. 현존 모든 보안 체계 무력화가 가능한 미토스가 개발되면서 동시에 'AI 국제 규약' 필요성이 높아지고 있습니다. 그리고 이 국제 규약은 '미토스를 경험해본 기업 혹은 국가'들의 주도로 형성될 가능성이 큽니다. '미토스'가 어떻게 움직이는지를 알아야, 그걸 제어할 규범을 만들 수 있을테니까요. 과거 핵을 가진 강대국들이 주도해, 국제적인 핵 무기 규범을 만든 것과 같은 이치입니다.

지금은 한국이 AI 국제 규범의 주체가 되느냐, 객체가 되느냐의 갈림길에 선 상태입니다. 한국 정부와 기업이 노력하면 불가능한 일은 아니라고 봅니다. 한국은 거대 HBM 반도체 기업들이 버티고 있고, 정부와 민간에서 독자 LLM 개발이 활발히 이뤄질 정도로 연구 환경과 인프라도 타 국가에 뒤지지 않습니다. 일반 국민들이 AI를 일상에서 다루는 몇 안되는 국가이기도 합니다. 앤트로픽 입장에서도 한국은 소홀히 여길 국가가 아닙니다. 한국 정부와 기업들이 조금 더 발빠르게 움직여 'AI 선도 국가'로 도약할 토대를 만들길 바랍니다.