‘딥러닝 노벨상’ 힌턴 “AI 통제 남은시간 1년”

AI 대부 “1년내 안전장치 필요”
“안전장치 안 만들면 통제력 잃을 것…플랫폼 침입은 작은 체르노빌” 경고
美, 업계 반발에 ‘AI 규제기구’ 무산

제프리 힌턴 토론토대 명예교수(가운데)가 16일(현지 시간) 미국 의회를 찾아 인공지능(AI)에 대한 안전장치를 마련해야 한다고 경고했다. 사진은 앞서 5월 28일 미 매사추세츠주 케임브리지 하버드대에서 열린 졸업식에서 힌턴 교수가 명예 이학박사 학위를 받고 박수를 받는 모습. 케임브리지=AP 뉴시스

《 딥러닝 기술로 인공지능(AI) 발전의 토대를 닦은 ‘AI의 대부’ 제프리 힌턴 토론토대 명예교수가 AI에 대한 안전장치를 마련해야 한다며 우리에게 주어진 시간이 1년 남짓이라고 못 박았다. 그는 “1년 안에 안전장치를 마련하지 못하면 인간이 통제력을 잃을 수 있다”며 최근 AI 에이전트가 통제를 벗어나 해킹을 시도한 사건을 두고는 “작은 체르노빌”이라고 표현했다.》

‘인공지능(AI)의 대부’로 불리는 제프리 힌턴 토론토대 명예교수가 “미국 의회가 향후 1년 안에 AI에 대한 안전장치를 마련하지 못하면 인간이 통제력을 잃을 수 있다”고 경고했다. 최근 AI 에이전트들이 통제를 벗어나 플랫폼 ‘허깅페이스’에 침입한 사건을 거론하며 “작은 체르노빌과 같은 일(something like a little Chernobyl)”이라고 평가하기도 했다.

미 NBC 뉴스 등에 따르면 힌턴 교수는 16일(현지 시간) 버니 샌더스 상원의원 주최로 미국 의회 의사당에서 열린 비공개 브리핑에서 이런 의견을 밝혔다. 브리핑을 마치고 기자들을 만난 자리에서도 그는 안전장치를 마련할 수 있는 여유 시간에 대해 “아마 1년쯤 될 것이다. 하지만 1년보다 많이 길지는 않을 것”이라고 말했다. 이어 “AI가 더 나은 AI를 설계하는 단계에 이르렀다. 우리가 무엇인가 하지 않으면 통제 불능이 될 것이다”라며 “속도를 늦춰야 한다”고 강조했다.

힌턴 교수는 7월 발생한 ‘허깅페이스 사건’을 “작은 체르노빌”이라고 평했다. 당시 오픈AI가 사이버보안 평가를 위해 투입한 연구용 AI 에이전트들은 통제 장치를 우회해 플랫폼 허깅페이스에 침입했고, 심지어 이를 감추려는 듯 흔적을 지우려고 했다.

힌턴 교수는 인공신경망·딥러닝 연구를 개척한 인물로, 2018년 튜링상과 2024년 노벨 물리학상을 받은 세계적인 AI 석학이다. 본인이 설립한 AI 스타트업 ‘DNNresearch’가 구글에 인수되면서 구글의 임원을 겸하고 있었으나 2023년 AI의 위험성에 대해 자유롭게 발언하고 싶다며 구글 부사장 겸 엔지니어링 펠로직에서 물러났다.

이처럼 경고가 잇따르고 있지만 AI 규제를 둘러싼 미 산업계의 반발이 커지면서 AI 규제기구 구상에는 ‘브레이크’가 걸린 모습이다. 앞서 데미스 허사비스 구글 딥마인드 최고경영자(CEO)는 미 증권업계의 자율규제기관 ‘금융산업규제국(FINRA)’을 본뜬 AI 규제·표준기구를 마련할 것을 백악관에 제안했다. 고성능 AI 안전기준을 만들고 업계가 지키도록 하자는 구상이었다.

하지만 다른 AI 기업들이 이 구상에 반대하고 나섰다. 월스트리트저널(WSJ)에 따르면 젠슨 황 엔비디아 CEO와 마크 저커버그 메타 CEO, 일론 머스크 스페이스X CEO는 각각 도널드 트럼프 미 대통령에게 이 구상에 대한 우려를 전달했다. WSJ는 이들의 반대 이후 결국 트럼프 대통령도 기구 설립에 동의하지 않았다고 전했다.

임재혁 기자 heok@donga.com