“핵보다 무섭다"···AI 석학의 섬뜩한 경고

딥러닝 AI 석학 “AI 악용 막기 어려워”
AI 적용된 킬러 로봇 등장 가능성
미 규제당국도 감시망 가동
[아로마뉴스(42)]5.1~5

편집자주
4차 산업 혁명 시대다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차) 등에 대한 주간 동향을 살펴봤다.

지난해 말 미국 스타트업인 오픈AI에서 출시한 ‘챗GPT’를 계기로 일상에 파고든 생성형 AI와 관련, 오남용에 따른 부작용을 우려하는 목소리가 높아지고 있다. 게티이미지뱅크

“인공지능(AI)의 악용 시도 자체를 막기는 어려울 것이다. 비밀리에 개발해도 타국의 추적이 가능한 핵무기와는 다르다.”

위험도에 관한 한, 핵무기 이상이라고 단언했다. 업그레이드될수록 인류는 위험천만한 사고에 직면하게 될 것이란 사실상의 경고로 들렸다. 철저한 대비책 없이 섣불리 접근했다간 인류에게 또 다른 재앙을 초래할 수도 있단 얘기였다. 인간의 도움 없이도 자체 학습만으로 성능 개선이 가능한 딥러닝(기계학습) 인공지능(AI) 분야 ‘대부’의 진단은 그랬다. AI 분야에서만 반세기 이상 매진해 온 제프리 힌턴(76) 박사의 AI 역기능에 대한 이런 판단은 지난 1일(현지시간) 뉴욕타임스(NYT)에 의해 전해졌다. 10년 동안 몸담았던 구글을 지난달 떠나면서 “(회사에서 벗어나) 자유롭게 AI에 대한 부작용을 지적하고 싶었다”고 토로했을 만큼, 그의 학자적 소신으로 보였기에 이목은 더 쏠렸다. 그는 생성형 AI 분야에서 벌어진 구글과 마이크로소프트(MS)의 치열한 경쟁에 대해 “AI 연구에 대한 국제적인 규제가 도입돼야 한다”고 강조했다.

미래 산업을 주도할 ‘게임체인저’로 주목된 생성형 AI에 대한 우려의 목소리가 갈수록 더해지고 있다. 지난해 12월 선보인 직후, 2개월 만에 1억 명의 사용자를 확보한 미국 스타트업 오픈AI의 ‘챗GPT’는 지금까진 다소 생소했던 생성형 AI 시대로 안내했지만 이에 따라 감당해야 할 부담 또한 적지 않다는 관측에서다.

이 가운데 AI 석학으로 알려진 힌턴 박사의 지적은 따끔하다. “AI 위험성을 알리기 위해 구글에서 나왔다”고 밝힌 그는 현재 치열해진 생성형 AI 경쟁에 대해 “규제가 도입된다고 할지라도 기업이나 국가 차원에서 연구를 이어갈 수도 있다”고 염려했다. 예컨대 생성형 AI에 대해 별도의 국가 기밀 프로젝트로 지정하고 수면 아래에서 베일에 싸인 상태로 개발을 지속해 나갈 가능성도 배제할 순 없단 설명이다. 그는 또 최악의 경우를 미리 예견이라도 한 듯 “AI 기술을 적용한 ‘킬러 로봇’이 나올 수 있단 현실이 두렵다”고 전했다. 그가 지금이라도 “전 세계 학자들이 머리를 맞대고 기술 제어 방법을 찾아야 한다”고 주문한 까닭이다.

영국 명문인 케임브리지대 출신인 그는 에든버러대 박사 과정 시절인 지난 1972년부터 AI 연구에 몰두한 인물이다. 이후 캐나다 토론토대 컴퓨터과학과 교수 재직 당시 창업한 AI업체 'DNN리서치'가 지난 2013년 구글에 인수된 이후 구글 소속으로 연구 활동을 이어왔다. 2018년엔 컴퓨터(PC) 과학 분야의 노벨상으로 불리는 ‘튜링상’을 수상했다.

일론 머스크 테슬라 최고경영자(CEO)도 힌턴 박사의 시각에 힘을 실었다. 머스크 CEO는 지난 1일 사회관계망서비스(SNS)인 트위터에 “AI 자동화에 대한 선의의 의존조차도 기계 작동법을 잊어버릴 정도가 되면 인류 문명에 위험할 수 있다”고 올렸다. 이에 대해 미국 폭스뉴스에선 “AI에 의존하면서 단순 작업만 수행한다면 시간이 지나, 당초 AI 작동을 가능케했던 기계 조작법조차 잊어버리는 환경이 조성될 수 있다”는 의미로 해석했다. 머스크 CEO는 앞선 올해 초, 애플 공동창업자인 스티브 워즈니악 등과 함께 “사회와 인류에 대한 심각한 위험을 초래할 수 있다”며 생성형 AI 개발의 잠정 중단을 촉구한 공개서한까지 발표한 바 있다.

AI 오남용과 관련, 미국 규제 당국의 감시망은 이미 가동된 상태다. 리나 칸 미국 연방거래위원회(FTC) 위원장은 3일 NYT 기고문에서 “AI 도구가 참신하지만 그렇다고 해서 기존 규정의 예외가 되는 것은 아니다”며 “최근 급속하게 발전하고 있는 AI 남용 여부에 대해 예의주시하고 있다”고 전했다. 칸 위원장은 이와 함께 “우리는 이 새로운 시장에서도 강력하게 법을 집행할 것”이라며 “AI가 반독점법과 소비자 보호법을 위반해 사용되는 것에 대해 경계하고 있다”고 덧붙였다.

구체적인 단속 방향도 제시했다. 칸 위원장은 생성형 AI의 경우 진짜인 것처럼 보이는 메시지를 만들면서 “사기를 부추길 위험이 있다”며 “이런 도구를 배포하는 사기꾼뿐 아니라 이를 가능케 한 기업까지 살펴볼 것”이라고 세부적인 가이드라인도 내비쳤다.

이런 분위기엔 미 백악관까지 동참한 모습이다. 2일 로이터통신에 따르면 백악관은 구글과 MS, 오픈AI 등을 포함한 AI 기술 관련 기업 CEO들에게 초청장을 보낸 것으로 확인됐다. 생성형 AI 대중화에서 파생된 각종 부작용을 논의하기 위해서다. 이 회동엔 제프 자이언츠 백악관 비서실장과 브루스 리드 부비서실장, 제이크 설리번 국가안보보좌관, 레이얼 브레이너드 국가경제위원회(NEC) 위원장, 지나 러몬도 상무장관 등이 참석할 것으로 알려졌다.

한규민 디자이너

허재경 이슈365팀장 ricky@hankookilbo.com