[세상만사] 너무 위험한 AI의 등장

심희정 테크이슈팀장

미국 인공지능(AI) 기업 앤트로픽이 개발한 고성능 AI 모델 ‘미토스’를 둘러싼 논란이 두 달 넘도록 이어지고 있다. 앤트로픽이 미국 기업에만 한정해 접근 권한을 줬던 미토스를 제3국 기업과 기관에도 공개하기로 했는데, 미 정부가 제동을 걸고 나서면서다. 군사나 정보 활동 목적으로 사용될 경우 국가 안보에 위협이 될 수 있다는 이유 때문으로 추정된다. 미 정부는 구체적 이유를 밝히지 않았다.

지난 4월 앤트로픽이 미토스의 ‘미리보기 버전’(프리뷰)을 공개했을 때 사이버 보안업계는 들썩였다. 개발사조차 모르는 소프트웨어의 취약점을 미토스가 찾아냈고, 여기서 더 나아가 취약점을 활용한 공격 방법까지 제시해서다. 지금까지는 사람이 AI 모델을 속이는 방법으로 해킹에 악용하는 등 탈옥을 통한 우회로만 가능했는데, 미토스는 사람이 개입하지 않아도 보안 허점을 찾고 이를 공격으로 전환하는 수준까지 발전했다.

사이버 보안뿐이 아니다. AI 모델은 이제 생물학무기 개발에도 쓰일 수 있다. 유전자 치료를 위한 기술을 인체에 유해한 바이러스 설계에 쓰는 식이다. AI 기업들은 모델의 악용을 차단하기 위해 감시 체계를 가동하고 있지만 모든 시도를 차단할 수 있는 것은 아니다. 앤트로픽은 이상 접근으로 차단된 832개 계정 중 560개 계정(67.3%)이 악성코드 작성과 같은 사이버 공격을 위해 AI를 활용한 것으로 집계했다.

앤트로픽 스스로도 AI 모델이 급속도로 발전할 경우 가져올 부작용을 우려해 전 세계적으로 개발을 일시 중단하는 방법을 논의해야 한다고 언급했다. 가까운 미래에 AI가 스스로 후속 모델을 설계·개발하는 ‘재귀적 자기 개선’으로 이어질 경우 인간이 통제하기 어려워진다는 이유에서다. 기술 발전 속도가 제도와 정책을 따라올 수 없는 수준이 되면 AI의 악용과 오용이 걷잡을 수 없이 커질 수 있다는 경고다. 일각에서는 경쟁사가 더 나은 모델을 출시하지 못하도록 견제하는 것 아니냐는 해석을 내놓았다. 하지만 앤트로픽의 경고에 힘을 실어준 건 오히려 미 정부다. 미토스 수출 통제로 고도화된 AI 모델의 위험성을 정부가 대신 증명한 셈이 됐다.

미래의 모습을 그려볼 때 상상하던 디스토피아가 실체적 위협으로 다가오고 있다는 걱정은 더 이상 과장이 아닐지 모른다. AI가 인류를 지배한다거나, 로봇이 오작동해 전쟁을 일으킨다거나 하는 그림은 더욱 구체적으로 그려지고 있다. 이미 전쟁에서 AI는 목표물을 타격하는 데 쓰이고 있다. 가자지구에서는 AI가 조종하는 이스라엘 드론이 다수의 민간인을 살상했다. 고도로 발전한 AI 모델은 재래식 무기보다 더 치명적인 살상 무기가 되어가고 있다.

한국 정부는 앤트로픽과 오픈AI 등 AI 기업들과 협력하는 방식으로 대응책을 마련 중이다. 이와 더불어 내년부터는 국내 정보보호 체계를 독자 AI 기술로 전환하겠다는 목표를 세웠다. 다만 실현 방법에 대해서는 구체적으로 밝히지 않았다. 정부가 추진하는 독자 AI 파운데이션 모델 개발을 위한 프로젝트 사업도 가시적 성과는 아직 나오지 않았다. 이미 해외 모델과 국내 모델의 격차가 많이 나는 상황인 만큼 큰 기대는 하기 어렵다는 게 국내 업계의 대체적 분위기다. 해외 기업과의 협력도, 자생도 어려운 게 한국이 처한 현실이다. 지금으로선 AI 모델에 있어 협력과 자강 전략을 모두 쓰는 수밖에 없다. 문제는 두 방법 모두 불투명하다는 데 있다. 지금도 AI 모델은 스스로 더 똑똑해지고 있다. 제대로 된 전략을 고민할 시간이 얼마 남지 않았다.

심희정 테크이슈팀장 simcity@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지