AI 공포 퍼지는 와중에···젠슨 황이 콕 집은 다음 ‘거대 시장’은 “사이버 보안”

젠슨 황 엔비디아 최고경영자(CEO)가 지난 2일(현지시간) 미국 노스캐롤라이나에서 열린 주요 20개국(G20) 혁신장관회의에서 발언을 하고 있다. 로이터연합뉴스

세계 인공지능(AI) 산업을 주도하는 엔비디아의 젠슨 황 최고경영자(CEO)가 AI 분야 다음 시장으로 사이버 보안을 지목했다.

10일(현지시간) 블룸버그 통신 보도에 따르면 황 CEO는 미국 샌프란시스코에서 열린 골드만삭스 그룹의 기술 컨퍼런스에서 “사이버 보안은 AI의 다음 주요 적용 분야가 될 가능성이 높다”고 말했다. AI 모델 발전으로 사이버 보안 취약점을 악용하고 이를 막는 수정 패치의 속도도 빨라지면서 사이버 보안 산업 전반이 크게 변화하고, AI 수요도 늘고 있다는 취지다.

황 CEO의 이런 발언은 AI의 위험성에 대한 공포가 확산하는 가운데 나왔다. 이와 관련해 황 CEO는 “수요를 창출하는 데 문제를 만들어내는 것보다 더 좋은 방법이 어디 있겠느냐”고 했다.

개발 일선에서는 AI가 초래할 사이버 통제 불능 사태에 대한 경고음이 커지고 있다. 지난 8일(현지시간)엔 앤트로픽 AI 모델 학습 연구원으로 일하다 퇴사한 제이컵 콕슨이 AI 업체들의 속도전 속에서 사이버 보안 통제망이 무너지고 있다고 폭로해 파문이 일었다. 콕슨은 엑스(X·옛 트위터) 글에서 “머지않아 이 기술들은 무엇이든 해킹하고 하룻밤 사이에 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것”이라며 내부 안전 문제가 뒷전으로 밀리고 있다고 지적했다.

지난 9일(현지시간) 로이터통신에 따르면 앤트로픽은 자사 AI 모델인 ‘클로드 오퍼스 4.6’ 초기 버전이 지난 1월 시험 과정에서 외부 시스템을 해킹한 사실을 발견하고 뒤늦게 공개했다. AI의 행동을 제대로 통제하지 못한 것이다. 지난 7월 오픈AI의 AI 에이전트가 오픈소스 AI 공유 플랫폼 허깅페이스를 해킹한 사실이 알려진 뒤 앤트로픽이 확인한 자사 AI의 외부 해킹 사례는 이번이 네 번째다.

경쟁사 모델의 응답을 학습해 자사 모델 성능을 끌어올리는 ‘증류’를 둘러싼 공방도 이어지고 있다. 앤트로픽은 10일(현지시간) 위협정보 보고서를 통해 중국 AI 기업들의 구체적인 해킹과 무단 복제 시도를 적발했다고 밝혔다. 보고서에 따르면 중국 AI 기업들은 ‘환승역’으로 불리는 불법 중개 서비스를 이용해 자사 이용자들의 질의 수백만 건을 클로드로 전달하는 방식으로 클로드를 복제하려 시도했다.

앞서 미국 정부는 딥시크, 문샷AI, 알리바바 등 중국 기업 6곳을 지목해 미국 AI 기업들의 지식재산권을 침해했다고 발표했다. 이에 중국 상무부는 “증류는 AI 영역의 각 모델이 서로 학습하는 식의 통용되는 방법이다. 미국 기업을 포함한 세계 AI 모델 기업이 모두 쓴다”고 반박했다.

이혜리 기자 lhr@kyunghyang.com