[김현우의 핫스팟] 미토스 탈옥 소문에 AI 전원 뽑아버린 백악관

'핫스팟(HotSpot)'
안전 핑계 묻지마 차단
백악관 내로남불 대처
신뢰 잃은 미 기술 주권
패닉 버튼 대신 매뉴얼

"중간만 가자." "모난 돌이 정 맞는다." 이런 처세술을 조기 이수한 우리는 영혼 없는 끄덕임과 '모르는 척'으로 무장한 생존의 고수들이다. 퇴근길 소주 한 잔에 "오늘도 버텼다"며 스스로를 마취하고, "받은 만큼만 일한다"며 핏대 세우는 걸 훈장처럼 여긴다. 그런데 이상하다. 성공했다는 이들의 삶은 왜 우리와 이토록 딴판일까. 어쩌면 우린 그저 거대한 '펜듈럼(Pendulum)'의 진동판 위에서 시키는 대로 춤추고 있었는지도 모른다. 중요하지 않은 일에 공력을 낭비하며 '잉여 포텐셜'을 공급하는 건전지 신세로 말이다. 옳고 그름을 따지는 도덕 교과서 대신, 왜 이 지겨운 장면이 무한 반복되는지 그 메커니즘이 궁금했다. 내게 그 프리즘을 빌려준 바딤 젤란드에게 감사를 전한다. 그의 '트랜서핑' 이론을 메스 삼아 한국 사회를 날카롭게 해부하는 [김현우의 핫스팟]을 시작한다.

진입 장벽 구축을 노린 AI 기업의 공포 마케팅이 백악관의 '미토스 글로벌 셧다운'이라는 자충수로 돌아왔다. 미국 정부의 내로남불식 묻지마 차단은 동맹국 신뢰를 붕괴시키며 전 세계 '기술 주권' 독립을 촉발했다. 완력 과시 대신 증거 기반의 정교한 통제 매뉴얼 마련이 시급하다. /챗GPT 제작 이미지

워싱턴DC 최고급 프라이빗 클럽, 수완 좋은 프로모터(주최자)가 괴짜 셰프를 영입했다. 프로모터는 동네 경쟁자를 따돌리고 클럽 수질 관리를 위해 기막힌 마케팅을 펼친다. 셰프의 불쇼 레시피는 폭발적이고 위험해 엄격한 심사를 거친 VVIP만 맛볼 수 있어야 한다는 것이다. 목적은 분명했다. 입구에 튼튼한 벨벳 밧줄을 치고 깐깐한 안전 규격에 못 맞추는 삼류 식당을 상권에서 몰아내는 것이다.

소문을 들은 새 건물주(백악관) 반응이 예사롭지 않다. 위험하다는 말에 꽂힌 건물주는 보안 요원 배치 대신 주방에서 작은 불꽃이 튀자마자 비상 사이렌을 울리고 건물 전체 전기를 차단했다. 비싼 돈을 내고 식사 중이던 VIP 외국 외교관(동맹국)마저 길거리로 내쫓았다. 멍해진 프로모터가 출입구 관리를 해달랬지 누가 영업을 통째로 정지시키랍니까라며 항변한다.

14일 IT 업계에 따르면 최근 전 세계를 발칵 뒤집은 미토스(Mythos) 리콜 사태 본질이 이 촌극과 같다.

펜듈럼 역습···위험 마케팅이 부른 참사

러시아 물리학자 바딤 젤란드가 주창한 <트랜서핑(Transurfing)> 철학에는 펜듈럼(Pendulum)이라는 흥미로운 개념이 등장한다. 사람들의 집단적 생각·감정이 모여 만들어진 독립적 에너지 구조체다. 일단 생명력을 얻으면 창조자 의도와 무관하게 갈등을 빚으며 팽창한다.

다리오 아모데이 앤스로픽(Anthropic) 최고경영자(CEO)는 워싱턴 정가에 AI 위험이라는 펜듈럼을 적극적으로 키운 인물이다. 그는 입버릇처럼 AI는 너무 위험해 정부가 개입해 강력히 통제·테스트해야 한다고 외쳤다. 겉으로는 인류를 구원할 비장한 철학자 같았지만 속내는 영락없는 실리콘밸리 비즈니스맨이었다. 안전 규제가 깐깐해질수록 천문학적인 비용을 감당할 수 있는 거대 기업 즉 자기들에게 유리한 진입 장벽(벨벳 밧줄)이 세워지기 때문이다.

워싱턴 권력자들은 실리콘밸리의 미묘한 셈법을 챙겨줄 만큼 자비롭지 않다. 앤스로픽은 검증 가능한 규칙·등급제를 원했다. 한데 권력은 이를 국가 안보를 명분으로 언제든 셔터를 내릴 절대 반지로 받아들였다. 자신이 만든 공포 마케팅의 잉여 잠재력이 한계치를 넘자 무자비한 균형력이 작동해 기업 뒤통수를 쳤다.

킬 스위치 아이러니···내로남불 백악관

백악관 대처는 실소를 자아낸다. 조 바이든 행정부의 AI 안전 체계를 도널드 트럼프 행정부가 낡은 규제가 혁신을 막는다며 폐기했을 때만 해도 자유방임 시대가 오는 듯했다. 막상 미토스 탈옥(Jailbreak) 소문이 돌자 정확한 피해 규모·재현 가능성을 따져보는 과정은 생략했다. 국가 안보가 위험하다며 전 세계 고객 접속을 끊는 묻지마 차단 스위치를 눌렀다. 섬세한 센서를 떼어낸 자리에 무식한 비상망치만 남겨둔 꼴이다.

가장 기막힌 대목은 백악관 자기모순이다. 미국 정부는 국가안보대통령각서(NSM-11)를 통해 적성국·외부 기업이 연방정부 AI 시스템을 맘대로 차단(Kill Switch)할 수 없어야 한다고 못 박았다. 누군가 플러그를 뽑을까 봐 극도로 두려워한 것이다.

그런데 불과 며칠 뒤 미국 정부가 직접 앤스로픽에 명령해 동맹국이 국방·보안에 쓰던 미토스 플러그를 일방적으로 뽑았다. 남이 내 플러그를 뽑는 건 안보 위협이고 내가 남의 플러그를 뽑는 건 안보 수호라는 지독한 오만함이다.

신뢰 상실과 기술 주권 부상

소동의 진짜 피해자는 일시 중단된 미토스 모델 하나가 아니다. 수십 년간 미국이 전 세계에 판 미국 기술은 어떤 상황에서도 합리적 법적 절차 위에서 안정적으로 제공된다는 굳건한 신뢰가 전면 리콜당했다.

당장 캐나다·유럽 등 동맹국 표정이 싸늘해졌다. 수억원짜리 슈퍼카를 샀는데 판매자가 기분 나쁘다고 원격으로 엔진을 끌 수 있다면 누가 그 차를 믿고 탈까. 성능이 떨어져도 내 맘대로 시동을 걸고 끄는 자국산 차를 타려 할 것이다.

미토스 사태는 전 세계에 기술 주권(Tech Sovereignty) 각성을 강제로 주입했다. 단기적으로는 미국이 킬 스위치를 쥐고 AI 패권을 과시한 듯하나 장기적으로는 동맹국이 블록화를 형성해 미국 의존도를 낮추게 만드는 자충수다.

패닉 버튼 대신 정교한 매뉴얼 필요

AI가 인류를 멸망시킬 것이라는 공포 펜듈럼에 올라타거나 반대로 안전은 규제론자의 밥그릇 챙기기라며 통제를 조롱하는 것은 모두 하수(下手)다. 지금 워싱턴에 필요한 것은 영웅적 결단이나 화려한 패닉 버튼이 아니다. 느리고 지루하더라도 예측 가능한 매뉴얼이다.

△위험 세분화=모델 능력을 사이버 위협·생물학 무기 등으로 쪼개 차단 범위를 정교하게 조율해야 한다.

△증거 기반 통제=통제된 연구실에서 일어난 1회성 해프닝인지 대중적 피해를 줄 상황인지 증거 등급을 매겨야 한다.

△투명한 복구 절차=긴급 차단 명령을 내리더라도 며칠 내 독립적 심사를 거쳐 서비스 재개 요건을 명시하는 투명한 시스템이 있어야 한다.

국가 권력이 기업을 윽박질러 얻어낸 굴복은 오래가지 않는다. 백악관이 진정 선택해야 할 길은 아무 때나 전원 코드를 뽑을 수 있는 완력 과시가 아니라 그 힘을 함부로 쓰지 않겠다는 묵직한 신뢰 설계다.

그렇지 않으면 괴물을 잡겠다며 호들갑을 떨다 스스로 통제 불능 괴물이 돼버린 펜듈럼의 폭주는 앞으로도 미국·동맹국 목을 조일 것이다. 밧줄 하나 쳐달라고 했다가 클럽 문이 통째로 닫힌 프로모터의 촌극이 다시는 워싱턴에서 반복되지 않기를 바란다.

☞탈옥(Jailbreak)=AI 모델에 설정된 안전장치를 우회해 설계자가 금지한 답변·행동을 의도적으로 끌어내는 해킹 기법이다.

여성경제신문 김현우 기자
hyunoo9372@seoulmedia.co.kr

*여성경제신문 기사는 기자 혹은 외부 필자가 작성 후 AI를 이용해 교정교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.