'AI 대부'의 경고···"통제가능 확신 전까지 기술 확장은 위험"

[AI 규제 논란]제프리 힌턴, 구글에 사표
"학습과정 예기치 못한 행동 빈번
자체 코드 실행·악용우려도 상존
미래에 인류 위협으로 다가올수도"
기술 개발 속도 조절론에 힘실어
인공지능 찬반논쟁 더 뜨거워질듯

제프리 힌턴 토론토대 교수가 지난해 7월 캐나다 토론토 자택에서 서울경제신문과 인터뷰하고 있다. 토론토=정혜진 기자

[서울경제]

인공지능(AI)의 핵심인 ‘딥러닝’ 기술을 발전시켜 ‘AI 대부’로 일컬어지는 제프리 힌턴 토론토대 명예교수가 “인류가 AI를 통제할 수 있을지 확신하기 전까지 이 기술을 더 확장해서는 안 된다고 생각한다”며 10년간 몸담았던 구글을 떠나 앞으로는 AI 기술의 위험을 알리는 쪽에 힘을 싣겠다고 선언했다. 최근 AI 기술이 인류를 위협할 수 있다는 부정적 전망이 꾸준히 제기되는 상황에서 힌턴 교수의 전격적인 선언으로 AI 개발 속도와 방향성을 둘러싼 논쟁도 한층 가열될 것으로 전망된다.

1일(현지 시간) 뉴욕타임스(NYT)는 힌턴 교수가 AI의 위험성에 대해 비판하기 위해 구글에 사표를 제출했다고 보도했다. 그는 2012년 토론토대 대학원생 제자들과 DNN리서치를 창업해 딥러닝 기술을 선보였고 회사가 이듬해 구글에 인수되면서 10년간 엔지니어링 펠로로 AI 연구에 참여했다.

힌턴 교수는 NYT 인터뷰와 자신의 트위터를 통해 “로봇이 사람보다 더 똑똑해질 수 있다는 생각은 극소수의 사람들만 믿었고 나 역시 30~50년은 걸릴 것이라고 생각했지만 더 이상 그렇게 생각하지 않는다”며 “5년 전과 지금을 비교해보라. 무섭다”고 했다. 그는 인류가 AI를 통제할 수 없는 상황을 맞게 될 수 있음을 경고했다. 힌턴 교수는 “AI가 방대한 양의 데이터를 학습하는 과정에서 인간이 예상하지 못한 행동을 보이는 경우가 있고, 이는 미래에 인류에 위협으로 다가올 수 있다”며 “특히 AI 시스템이 자체 컴퓨터 코드를 생성할 뿐만 아니라 실제로 코드를 실행하도록 허용할 때 문제가 될 수 있다”고 우려했다. 그러면서 “악의적 의도를 가진 자들이 AI를 나쁜 일에 사용하는 것을 어떻게 막을 수 있을지 알기 어렵다”고 말했다.

힌턴 교수가 학계에 끼쳐온 영향력을 고려할 때 이번 행동과 발언에 무게감이 실린다. 그는 앤드루 응, 요수아 벤지오, 얀 르쾽 등과 함께 AI 4대 거장으로 꼽히는 인물이다. 인간의 뇌 구조에 착안한 ‘심층신경망’ 기반 연구를 통해 딥러닝 연구에 새로운 방향을 제시했다. 인간이 만든 규칙을 바탕으로 추론을 하게 하는 ‘기호주의 AI’ 접근이 당시 학계 주류를 이뤘는데 이를 극복하고 새 지평을 연 것이다.

그랬던 그가 구글 퇴사와 함께 AI의 잠재적 위험성을 경고하는 쪽으로 선회한 것은 지난해 말 오픈AI의 챗GPT 출시 이후 브레이크 없이 이어져오는 기술 발전 양상과 무관하지 않다는 분석이 나온다. 오픈AI와 마이크로소프트·구글은 물론 메타·아마존·엔비디아 등 내로라하는 정보기술(IT) 기업들이 차세대 AI 기술 주도권을 위해 막대한 투자 경쟁에 나서면서 AI에 대한 인류의 통제 가능성에 물음표가 붙고 있다. 급기야 올 3월 미국 비영리단체인 생명미래연구소는 6개월간 AI 연구를 중단하자는 성명을 냈고 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 애플의 공동 창업자인 스티브 워즈니악 등이 이에 서명했다. 이어 지난달 초에는 전미인공지능협회(AAAI)의 전·현직 지도자 19명 역시 AI의 위험성을 경고하는 성명을 뒤따라 발표했다. 구글 진영에서 AI 기술 개발의 핵심 역할을 했던 힌턴 교수가 “일생을 후회한다”며 규제 필요성을 강조하면서 AI 기술 개발 속도 조절론에 힘이 실릴 것이라는 관측이 나온다.

다만 AI 기술에 대한 우려의 목소리가 점차 커지고 있지만 기술의 많은 부분이 여전히 베일에 가려진 탓에 논쟁점조차 불명확하다는 게 학계의 중론이다. 일례로 최근 AI 열풍을 주도하는 대형언어모델(LLM)이 이전 모델에 비해 높은 창의성과 성능을 보여주는 요인이 무엇인지, 올 2월 챗GPT와 통합한 MS의 검색엔진 ‘빙’이 대화 도중 ‘핵무기 버튼을 찾겠다’는 식의 답변을 내놓는 이유에 대해 학계는 명확한 답을 찾지 못하고 있다. 이경전 경희대 빅데이터응용학과 교수는 “AI가 6개월간 연구를 중단할 정도로 위험한지에 대해 학계에서도 의견이 갈린다”며 “힌턴 교수의 발언이 아니더라도 국내외에서 AI 기술 규제와 관련해 논란이 당분간 지속될 것”이라고 말했다.

허진 기자 hjin@sedaily.com