[특파원 리포트] “AI는 핵보다 위험하다”

인공지능 챗GPT 일러스트./로이터 연합뉴스

지난달 삼성전자 반도체 부문 직원이 반도체 관련 프로그램을 인공지능(AI) 챗봇인 챗GPT에 입력한 사례가 적발됐다. 사내 회의 내용을 넣고 회의록 작성을 시킨 경우도 있었다. 삼성은 발칵 뒤집혔다. 내부 기밀이 챗GPT를 통해 챗GPT 개발사인 미국의 오픈AI로 흘러들 수 있기 때문이다. 삼성은 뒤늦게 보안 지침을 정비했지만, 이미 반도체 관련 프로그램과 회의 내용은 오픈AI의 데이터베이스에 저장됐을 것이다.

최근 실리콘밸리에서는 AI가 새로운 데이터 식민주의를 낳고 있다는 말이 나온다. 오픈AI의 챗GPT가 인기를 끌면서 전 세계 수억명의 사람이 챗GPT에 수많은 정보를 입력하고 답을 기다린다. 사용자가 입력한 정보는 오픈AI의 데이터베이스인 마이크로소프트 클라우드(가상서버)에 고스란히 저장된다. 데이터에 대한 모든 접근권은 오픈AI가 갖는다. 이렇게 저장된 정보는 추후 다른 AI 학습에 활용될 수 있다. 현재도 오픈AI가 마음만 먹으면 그 내용이 무엇인지 확인할 수 있다. 예상치 못한 사이 전 세계 온갖 정보가 미국 기업인 오픈AI에 넘어가는 셈이다. 점령군이 식민지에서 쌀이며 고기며 옷감이며 온갖 것을 수탈해가는 것처럼 정보와 데이터를 빼가고 이를 바탕으로 더욱 강력해지는 구조다. 현대전에서 정보는 총과 탱크보다 중요하다.

최근 만난 대형 게임 개발사 사장은 “국가별 인공지능 대규모 언어모델(LLM)을 갖췄느냐는 앞으로 국가 간 핵무기를 보유하고 있느냐와 비견될 것”이라고 했다. 자체 AI 모델이 없는 나라는 다른 나라의 AI에 의존하고, 결국 정보와 데이터까지 종속될 것이라는 얘기다. 현재 공식 핵보유국과 가진 것으로 추정되는 국가는 미국·영국·러시아·프랑스·중국·인도·파키스탄·이스라엘·북한 등 9국이다. 반면 자체 LLM을 개발한 기업을 보유한 국가는 미국, 중국, 영국, 한국 등에 불과하다. 핵 하나로 막대한 군사력을 확보한 것처럼 강력한 LLM으로 전 세계 정보를 빨아들이고 기술 패권을 장악하는 시대가 열릴 수 있다.

테크 업계 유명 인사들도 차츰 AI를 핵무기와 비교하고 있다. 일론 머스크 테슬라 최고경영자(CEO)는 “AI가 핵무기보다 위험할 수 있다”며 “문명을 파괴할 가능성이 있다”고 했다. 챗GPT를 만든 오픈AI의 샘 올트먼 CEO도 오픈AI의 AI 개발 작업을 최초의 핵무기 개발 프로젝트인 ‘맨해튼 프로젝트’에 비교했다고 비즈니스인사이더가 최근 보도했다.

AI를 첨단 기술 차원을 넘어 안보적 측면으로 다뤄야 한다. AI의 발전과 도입은 이제 막는다고 막을 수 있는 것이 아니다. AI가 정보를 수집하고 데이터를 보관하는 방식, 이를 활용하는 방식 등을 검토하고 구체적인 대응 방안을 모색해야 한다. 에릭 슈미트 전 구글 CEO는 최근 외신 인터뷰에서 AI에 대한 미 정부의 대응을 비판하며, “정부 내 AI를 제대로 이해하는 사람이 거의 없다”고 했다. 한국은 똑같지 않길 바란다.