[K-VIBE] 임기범의 AI 혁신 스토리…클로드 미토스 출시, 한국은 관전자?

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재합니다.]

임기범 서울과학종합대학원 대학교 객원교수 [본인 제공]

매일 우리는 은행 앱으로 송금하고, 병원 전산망에 기록을 남기며, 전력망이 공급하는 에너지를 쓴다. 겉으로는 견고해 보이는 이 디지털 사회의 혈관 속에는 늘 보이지 않는 허점이 숨어 있다. 문제는 이제 그 허점을 사람이 아닌 인공지능(AI)이 먼저 찾아내기 시작했다는 점이다.

최근 앤트로픽이 발표한 '클로드 미토스 프리뷰'는 가히 충격적이다. 방화벽과 핵심 인프라에 쓰이는 보안을 중시해 온 운영체제 오픈BSD의 27년 된 취약점은 물론, 영상 인코딩·디코딩에 널리 쓰이는 FFmpeg에서 자동화 테스트가 500만 차례 지나치고도 놓친 16년 된 취약점도 찾아냈다. 리눅스 커널에서는 여러 취약점을 연결해 일반 사용자 권한에서 root(시스템 관리자) 권한을 얻는 공격 경로까지 스스로 구성해냈다. 이제 AI는 그저 말을 잘하는 챗봇이 아니라 디지털 사회의 약점을 찾아내고 악용 경로까지 제시할 수 있는 '새로운 종류의 도구'가 된 셈이다.

여기서 중요한 것은 "기존의 문제를 잘 찾아냈다니 좋은 것 아닌가"라는 간단한 반응을 넘어서야 한다는 점이다. 취약점을 잘 찾는 능력은 방어에 유용하지만 동시에 공격에도 유용하다. 허점을 빨리 발견하는 모델은 시스템을 고치는 데도 쓸 수 있지만, 그 똑같은 능력으로 침투 경로를 설계하고 악용 방법을 찾는 데도 쓰일 수 있기 때문이다.

앤트로픽도 미토스가 많은 취약점을 거의 자율적으로 찾아내고 관련 '익스플로잇'(Exploit, 컴퓨터 시스템, 소프트웨어, 하드웨어의 보안 취약점이나 설계상 결함을 이용하여 악의적인 동작-권한 상승, 데이터 유출, 시스템 제어 등-을 수행하게 하는 명령, 데이터, 또는 프로그램)까지 개발했다고 설명했다. 많은 전문가가 미토스가 패치보다 더 빠르게 미확인 취약점을 찾아내고 악용할 수 있어 정교한 사이버공격을 가속할 수 있다고 경고하고 있다. 미토스가 이슈가 된 이유는 성능이 높아서만이 아니라 그 성능이 방어와 공격 양쪽으로 동시에 열려 있기 때문이다.

그래서 앤트로픽은 미토스를 일반에 공개하지 않았다. 대신 '프로젝트 글래스윙'이라는 제한 프로그램을 통해 일부 기관에만 접근권을 주고 있다. 이 모델은 주요 운영체제와 웹브라우저 등에서 수천 건의 제로데이 취약점을 식별했고, 그중 일부는 치명적 수준일 수 있다고 회사는 설명했다. 이런 능력이 잘못 쓰일 경우 공공안전과 경제, 국가안보에 심각한 영향을 줄 수 있다. 제한 공개 자체는 그래서 납득 가능한 선택이다. 문제는 공개 여부보다 누가 먼저 이 위험을 보고 대비할 권한을 갖느냐다.

현재 공개된 글래스윙 참여 기관을 보면 AWS, 애플 등 12개 기관으로 미국 중심의 대형 기술·금융 조직이 주를 이룬다. 앤트로픽은 여기에 더해 40개가 넘는 추가 핵심 소프트웨어 조직에도 접근을 확대했다고 했지만, 그 전체 명단은 공개하지 않았다. 결국 지금의 구조는 '안전을 위한 제한 공개'면서 동시에 '초대받은 소수의 선행학습'이기도 하다. 실제로 미국의 여러 대형 은행이 접근권을 얻은 반면, 접근권이 없는 다른 금융기관들 사이에서는 경쟁상 불리함을 우려하는 목소리도 나왔다. 위험을 먼저 이해한 쪽이 결국 규칙도 먼저 쓰게 된다는 뜻이다.

이 지점에서 한국의 위치를 직시할 필요가 있다. 최근 금융감독원이 금융사 정보보호 담당자들과 미토스 관련 위험을 점검했다는 보도가 있었지만 그렇다고 해서 한국이 글래스윙 안에 들어갔다는 뜻은 아니다.

공개된 참여 기관 명단에는 한국 기관이 보이지 않고 관련 보도를 보더라도 금융당국의 움직임은 미토스 접근권 행사라기보다 위험 점검과 대응 논의에 가깝다. 다시 말해 한국은 아직 안쪽에서 모델을 다루는 쪽이 아니라 바깥에서 파장을 해석하는 쪽에 더 가깝다. 그렇다면 과제도 분명하다. 정부와 금융, 통신, 클라우드, 오픈소스 생태계가 함께 실제 평가와 검증 역량을 만들고, 이런 국제 협력 틀 안에 들어가기 위한 다각적 노력을 서둘러야 한다. 남이 발견한 위험을 뒤늦게 해설하는 위치에 머물러서는 안 된다.

더 우려스러운 것은 이 강력한 모델의 접근권이 어떤 정치적 환경에서 확대되는지 여부다. 최근 미 국방부와 앤트로픽은 자율무기 표적화와 대규모 미국 내 감시 문제를 두고 정면충돌했다. 앤트로픽은 충분한 인간 감독 없는 무기 활용과 미국 내 감시에 선을 그었지만, 미 국방부는 법에 저촉되지 않는 한 상업용 AI를 기업의 자체 정책에 묶어둘 수 없다는 입장이었다. 급기야 국방부는 앤트로픽을 '공급망 위험'으로 공식 지정하고 산하 협력업체들에게도 앤트로픽 제품 거래를 끊도록 강제하려 했다. 이에 대해 앤트로픽은 소송을 제기했고, 일부 집행은 법원에 의해 일시적으로 제동이 걸린 상태다. 그런 갈등이 법정까지 번진 와중에도 백악관이 주요 연방기관에 가드레일을 적용한 미토스 버전을 제공하는 방안을 검토 중이라는 보도가 나왔다. 다만 미국 국가안보국(National Security Agency, NSA) 사용 여부는 아직 독자적으로 확인된 사실이라기보다 추가 검증이 필요한 보도에 가깝다. 그 보도가 사실이라면, 국방부가 한쪽에서는 앤트로픽 제품을 국가안보 위험으로 몰아가면서도 다른 한쪽에서는 산하 기관이 같은 모델을 활용하고 있는 모순이 생긴다. 국가안보를 명분으로 한 접근 확대의 압력이 이미 작동하고 있다는 뜻이다.

최근 트럼프 2기 행정부가 관세, 대중국 정책, 이란 전쟁 대응 등에서 보여준 강경함과 불안정성을 고려할 때 미토스 같은 모델이 방어의 도구를 넘어 감시와 압박의 수단으로 사용될 수 있다는 우려는 결코 과장이 아닐 것이다. 미토스는 기술의 문제가 아니라 권한의 문제이기도 하기 때문이다.

결국 미토스가 던지는 질문은 간단하지 않다. 이런 모델을 곧바로 일반에 풀어놓고 "다 함께 문제를 찾아보자"고 말하는 것도 무책임하다. 반대로 소수의 빅테크와 일부 국가기관만 먼저 쥐고 대비하겠다는 식으로 가는 것도 공정하지 않다. 필요한 것은 공개와 비공개의 이분법이 아니라 제한 공개의 원칙을 공공적으로 설계하는 일이다. 누가 접근하는지, 어떤 목적으로 쓰는지, 어떤 기록을 남기는지, 발견한 취약점을 어떤 절차로 공유하고 패치하는지에 대한 기준이 투명해야 한다.

한국이 지금 서둘러야 하는 것도 바로 그 지점이다. 글래스윙의 초대장을 기다릴 것이 아니라, 왜 한국이 그 안에 있어야 하는지 그리고 어떤 원칙 아래 참여해야 하는지를 먼저 제시해야 한다. 미토스의 시대에 필요한 것은 기술 낙관도 기술 공포도 아니다. 권한을 누구에게 어디까지 허용할 것인가에 대한 냉정한 정치적 판단이다.

임기범 인공지능 전문가

▲ 서울과학종합대학원 대학교(aSSIST) 객원교수 ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장 ▲ ㈜컴팩 CIO ▲ 신한 DS 디지털 전략연구소 근무

▶제보는 카톡 okjebo