"AI 개발 후회…킬러로봇 나올까 겁난다" AI 대부 경고 [팩플]

챗GPT 같은 생성형 인공지능(AI)의 등장으로 AI에 대한 우려가 커지자, AI 개발 속도를 조절해야 한다는 주장이 거세지고 있다. ‘AI의 대부’로 불리며 50년 이상 AI를 연구한 제프리 힌튼 박사도 AI의 위험성을 경고하고 나섰다.

'AI의 대부'로 불리는 제프리 힌튼 박사. 캐나다 토론토대 홈페이지 캡처

━

무슨 일이야

1일(현지시간) 뉴욕타임스(NYT) 등 외신에 따르면 제프리 힌튼 박사가 지난달 구글에 사표를 냈다. 힌튼 박사는 NYT와 인터뷰에서 “AI의 위험성에 대해 알리기 위해서”라고 퇴사 이유를 밝혔다. 그는 캐나다 토론토대 컴퓨터과학 교수 시절 창업한 DNN리서치가 2013년에 구글에 인수되면서 구글과 인연을 맺었다. 이후 구글 부사장 겸 엔지니어링 펠로우로 AI 연구 활동을 해왔다.

힌튼 박사는 현재 생성 AI 분야에서 구글과 마이크로소프트(MS) 사이의 경쟁을 언급하며 국제적인 규제 필요성을 강조했다. 그는 “AI의 악용 시도를 막기는 어려울 것”이라며 “핵무기와 달리 AI는 비밀리에 연구하면, 그걸 밖에선 알 방법이 없다. 전세계의 학자들이 협력해서 AI 기술을 제어할 방법을 찾아야 한다”고 강조했다. 그는 자신의 과거 연구와 관련해 “후회한다”며 “내가 (AI를 연구) 하지 않았다면 다른 누군가가 했을 일이라고 생각하며 스스로를 위로할 뿐”이라고 토로했다. 그는 AI 기술이 적용된 ‘킬러 로봇’이 현실이 될까 두렵다고도 했다.

━

힌튼 박사는 누구

세계 최고의 AI 석학으로 꼽힌다. 영국 태생으로, 에든버러대 박사 과정이던 1972년부터 AI를 연구해왔다. 그는 인공신경망의 학습 방식을 개선하는 ‘역전파 알고리즘’ 개념을 고안, AI의 ‘딥러닝’(기계학습) 기술 기반을 닦았다. AI 전문가들은 딥러닝 기술 없이는 현재의 챗GPT도 나오기 어려웠을 것으로 본다. 이 분야 글로벌 석학인 얀 르쿤 메타 AI 수석과학자(뉴욕대 교수), 요슈아 벤지오 캐나다 몬트리올대 교수 등이 그의 제자들이다. 힌튼 박사는 지난 2018년 컴퓨터과학 분야의 노벨상으로 불리는 튜링상도 수상했다.

━

이게 왜 중요해

평생 AI를 연구개발한 석학도 우려할 만큼 AI 기술의 발전 속도는 빨라진 데 비해, 각국의 제도적 준비는 부족한 상태다. AI가 인간의 일자리를 위협할 뿐 아니라 AI 기술을 활용한 사이버 해킹, 권위주의 혹은 독재 정부의 AI 악용 가능성 등을 우려하는 목소리가 커지는 배경이다. 유발 하라리 예루살렘 히브리대 교수, 스튜어트 러셀 UC버클리대 교수 등을 중심으로 AI 개발에 ‘속도 조절’이 필요하다는 의견이 잇따라 나오고 있다. 이날 테슬라의 최고경영자(CEO)인 일론 머스크는 자신의 트위터에 “선한 의도로 개발된 AI나 자동화 기술조차도, 기술과 기계가 어떻게 작동하는지 잊어버릴 수준으로 개발되면 인류 문명이 위험해진다”고 했다. 유발 하라리 교수도 “강력한 기술적 도구가 나왔을 때는, 안전을 점검하는 과정이 반드시 필요하다”고 주장했다.

그래픽=김경진 기자 capkim@joongang.co.kr

국내에서는 AI 속도조절론에 조심스러운 편이다. 현재 전 세계에서 초거대 AI 언어모델을 자체 개발한 국가는 미국·중국·한국·이스라엘 등 4개국 뿐인 만큼, AI 경쟁력을 더 키워야 한다는 것. 오혜연 KAIST 인공지능연구원장은 “AI 기술이 앞으로 어떻게 변화할 것인지 모르는 상황에서 선(先)규제론은 조심해야 한다”며 “기술 발전을 저해할 수도 있고, 규제의 효과가 떨어질 수도 있기 때문”이라고 설명했다. 이어 “AI 윤리 연구를 활성화하는 등 AI를 안전하게 활용할 방법을 논의하는 일이 AI 규제보다 더 시급하다”고 덧붙였다.

━

AI 규제론 확산될까

AI 규제에 가장 적극적인 쪽은 유럽이다. 2021년부터 인공지능법(AI Act) 제정을 추진 중인 유럽연합(EU)은 최근 이 법안 초안에 ‘AI 기업이 AI 훈련에 활용한 데이터의 출처와 저작권을 공개하도록 의무화’하는 내용을 추가했다. 연내에 해당 법안이 제정될 가능성이 크다. 실리콘밸리에 AI 기업이 포진한 미국도 정부 차원에서 생성 AI 관련 규제 장치 마련을 위한 검토에 착수했다.

초거대 AI를 개발하는 기업을 감시하기 위한 국제기구를 설립하자는 목소리도 커지고 있다. AI 전문가인 게리 마커스 뉴욕대 교수와 앵카 루엘 스탠포드대 박사는 최근 영국 이코노미스트지에 기고를 통해 “2차 대전 이후 국제원자력기구(IAEA)를 국제사회가 만들었듯이, AI 개발을 감시할 수 있는 글로벌 중립 비영리 기구를 만들어야 한다”고 제안했다 .

샘 알트만 오픈AI CEO. AP=연합뉴스

그러나 AI 기술로 수익화하려는 빅테크 기업들은 AI 속도 조절론에 저항할 가능성이 크다. 오픈AI의 샘 알트먼 창업자는 지난 2월 자사 홈페이지에 올린 글을 통해 “AGI(범용 인공지능)의 장점이 매우 크기 때문에 사회가 영원히 개발을 중단하는 것은 가능하지도, 바람직하지도 않다”고 말했다. 그는 지난 3월 “AI가 두렵다”며 규제 필요성을 얘기했지만 속도 조절론엔 회의적이다. 오픈AI는 최근 유료화 상품을 본격적으로 출시하고 있다. 미‧중 AI 기술 경쟁도 변수다. AI, 반도체 등 분야에서 G2의 기술 패권 경쟁이 심화되고 있어 어느 한쪽이 먼저 멈추기는 쉽지 않다. 구글 CEO를 지낸 에릭 슈미트 전 미국 방위혁신위원회 의장은 최근 AI 개발을 6개월만이라도 멈추자는 주장이 나오자 “그렇게 하면 중국만 이득을 본다”며 반대 입장을 밝혔다. 이동규 아산정책연구원 연구위원은 “미국이 초당적으로 중국에 대한 견제와 압박을 지속하고 있기 때문에 AI 기술 경쟁은 앞으로 더 심화될 것”이라고 진단했다.

━

한국은 어때

국내는 과학기술정보통신부를 주축으로 AI 발전에 따른 사회적 문제를 해결하기 위한 규범 체계를 마련 중이다. 현재 국회에 계류된 인공지능법은 3년마다 AI 기본계획을 수립하고 AI 관련 기술 등을 지원하는 국가인공지능센터를 설치하는 내용 등을 담고 있다. 규제보다는 육성을 강조하는 방향이다. 2일 국무회의에서는 ‘새로운 디지털 질서 정립 방안’도 논의했다. 오는 9월까지 디지털 심화 시대의 갈등해소 원칙 등을 담은 ‘디지털 권리장전’을 마련하고, 인공지능 등에 대한 여론을 수렴하는 홈페이지 형식의 ‘디지털 공론장’을 8월 안에 만든다는 내용이다.

※ 지금 뜨는 기업ㆍ기술 궁금하세요? 요즘 핫한 테크 소식을 입체적으로 뜯어보는 ‘기사 +α’를 만나보세요.👉 https://www.joongang.co.kr/factpl

김남영·권유진 기자 kim.namyoung3@joongang.co.kr