“나도 의심한다 고로 존재한다” 생각하는 AI 출현
“2024년에는 더욱 크고 성능이 뛰어난 인공지능(AI)들이 본격적으로 등장할 겁니다. 자기 의심(self-doubt)을 할 줄 아는 AI가 그 시작입니다.”
세계 최고 AI석학으로 꼽히는 요슈아 벤지오(59) 캐나다 몬트리올대 교수는 지난달 19일(현지 시각) 본지 화상 인터뷰에서 “내가 알고 있는 한 빅테크들은 우리가 인지하고 있는 것보다 훨씬 거대하고 정교한 AI를 개발하고 있고, 2024년 그 실체가 드러날 것”이라고 했다. 2022년 말 등장해 불과 1년 만에 엄청난 충격을 안긴 오픈AI의 챗GPT가 촉발한 AI 혁명이 이제 시작에 불과하다는 것이다. 벤지오 교수는 올해가 AI와 인류의 미래를 결정할 중대한 분기점이 될 것으로 내다봤다.
그는 챗GPT와 같은 AI 챗봇과 차세대 AI의 결정적 차이로 ‘논증(reasoning)’ 능력을 꼽았다. 단순한 문서 정리, 정보 검색, 이미지·영상 같은 콘텐츠 생성 기능을 뛰어넘어 답변의 진실성과 가치관의 옳고 그름을 따지는 ‘보다 사람 같은’ AI의 등장을 곧 보게 된다는 것이다. 구글 딥마인드의 알파고, 오픈AI의 챗GPT 등 세계를 놀라게 한 AI의 핵심인 ‘딥러닝(심층 학습)’ 기술의 선구자인 벤지오 교수는 AI 학계와 업계에서 구루(Guru·스승)로 불린다.
그는 “챗GPT 같은 현재의 챗봇은 지능만 발달한 어린아이와 비슷하다”고 했다. 학습한 데이터를 통해 질문에 알맞을 것 같은 답을 사람보다 훨씬 빠르게 예측할 수 있지만, 허구의 사실을 지어내고 확신에 찬 어투로 답변해 사람을 오도(誤導)한다는 것이다. 그는 “AI의 다음 단계는 (마치 사람처럼) 스스로 내놓는 답의 진위를 되묻게 되는 것”이라며 “AI가 가짜 답변 대신 ‘확실치 않습니다’ ‘잘 모르겠습니다’와 같은 답변을 할 줄 알게 되면서 본격적인 진화가 시작될 것”이라고 했다.
인공지능(AI)이 테크 산업은 물론 전 지구적 이슈로 떠오른 지금, 인류 미래 시나리오는 크게 두 갈래로 나뉜다. 인간의 통제를 벗어난 AI가 인류를 지배하고 살상까지 저지르는 디스토피아적 미래, 고도로 발달한 AI가 인간이 여태껏 풀지 못한 난치병·기후변화·빈곤 등 문제를 척척 해결해주는 유토피아적 미래가 있다. AI 석학 요슈아 벤지오 몬트리올대 교수는 “AI가 어느 방향으로 발전할지는 아무도 모르기 때문에 섣부른 공포와 기대는 모두 바람직하지 않다”면서도 “그럼에도 인류에 버금가는 AI는 등장하고 말 것이며, 재앙적 결과를 피하기 위한 대비를 철저하게 해야 한다”고 했다. 지금부터의 행동이 우리의 미래를 결정한다는 것이다.
벤지오 교수는 제프리 힌턴 토론토대 교수, 얀 르쾽 뉴욕대 교수, 앤드루 응 스탠퍼드대 교수와 함께 ‘AI 4대 천왕’으로 꼽힌다. 지난 2018년 오늘날 AI를 존재하게 한 ‘딥러닝’ 기술 개발에 대한 공로를 인정받아 힌턴, 르쾽 교수와 함께 ‘컴퓨터 과학의 노벨상’이라 불리는 튜링상을 수상했다. 한국과의 인연도 깊다. 벤지오 교수가 주축이 되며 몬트리올에 세워진 세계적 딥러닝 전문 연구기관 ‘밀라 연구소’에 지난 2019년 삼성전자 SAIT(옛 종합기술원)가 입주했다. 다음은 벤지오 교수와의 일문일답.
-우리는 무엇을 어떻게 대비해야 하는가.
“크게 두 가지 준비 작업이 필요하다. 우선 과학적 측면에선 AI가 인간의 통제 아래 있게 하는 이른바 ‘정렬(align)’ 기술의 돌파구 마련이 시급하다. 둘째로 정치·사회적 측면에선 강력한 AI의 개발과 운영, 관리 등에 대한 국제 규범을 하루빨리 출범시켜야 한다. 나는 지난 3월 미 비영리 AI 단체가 ‘AI 개발을 6개월간 멈추자’며 발표한 성명서에 서명했고, 지금도 생각엔 변함이 없다. 하지만 이미 너무 많은 자본과 인력이 AI 산업에 쏠렸고, 기술 개발을 결코 멈추지 못할 것도 잘 알고 있다. 그렇기 때문에 우리는 기술과 규제 두 가지 측면에서 확실하게 AI 안전을 보장하는 방법들을 찾아내야만 한다.”
-AI를 100% 통제하는 것이 기술적으로 가능한 일인가.
“당장은 어렵지만, 우리에겐 다른 선택지가 없다. 100%는 아니더라도 99%라도 통제할 수 있도록 원자폭탄을 만든 맨해튼 프로젝트나 아폴로 프로젝트와 동등한 수준의 투자와 연구를 추진해 해결해야만 한다. 지금의 AI의 가장 큰 문제는 나를 비롯한 그 누구도 AI가 어떻게 작동하는지 정확히 알지 못한다는 것이다. 언제 터질지 모르는 폭탄을 안전장치 없이 개발하는 것과 비슷하다. AI가 뻔뻔하게 거짓 정보를 제공하는 환각(hallucination) 현상은 이미 피해를 낳고 있다. 지금보다 더 똑똑한 AI가 나타났을 때 이를 통제하지 방법을 모른다면 위험한 일이 일어날 것이다.”
-AI에 대한 국제 규범을 강조했는데.
“AI는 앞으로 기술을 갖춘 개인·단체·국가에 권력이 될 것이다. 권력이 한쪽으로 쏠리면 민주주의에 해가 될 수밖에 없다. 그래서 관련 국제 조약이 시급하다는 것이다. 핵무기를 통제하는 것처럼 국제 기구가 개인 또는 국가가 AI를 전쟁, 범죄 등에 사용하지 못하게 막는 조약들이 필요하다. 그리고 기업에서 개발된 AI 기술이 산업 스파이·해킹·절도 등에 유출되지 않게 하는 보안장치도 마련해야 한다. 인류의 통제를 받는 안전한 AI를 개발해도, 이 기술이 북한이나 테러리스트 등의 손에 잘못 들어가게 되면 재앙이 될 수 있다.”
-현재 AI 권력이 과도하게 미국에 쏠려 있는데.
“AI 기술을 갖지 못한 국가들이 입을 손해를 생각하면 중요한 문제이다. 올해부터 향후 수년간 AI와 관련한 중요한 결정들이 내려질 텐데, 이 과정에 개발도상국·제3세계 국가도 논의에 동등하게 참여할 수 있어야만 한다. AI는 전염병이나 기후 문제처럼 우리 모두에게 영향을 주는 문제이기 때문에 모두가 발언권을 갖출 수 있는 장이 마련되어야 한다.”
-한국의 역할에 대해선 어떻게 보는가.
“AI 전문가조차 없는 나라들이 대부분인 가운데 한국은 뛰어난 연구 대학과 기술 기업이 훌륭한 AI 역량을 갖춰가고 있다고 생각한다. 빈곤·기후변화 등 거대 문제를 해결하는 AI 국제 공동 연구에도 중요한 역할을 할 수 있을 것이다.”
☞요슈아 벤지오(Yoshua Bengio)
캐나다 몬트리올대 컴퓨터과학 교수로 2006년 다량의 데이터에서 인공지능(AI)이 숨겨진 패턴을 발견하고 질문에 대한 답을 찾아내는 딥러닝(심층 학습) 기술을 처음 개발한 AI의 선구자이다. 제프리 힌턴 토론토대 교수, 얀 르쾽 뉴욕대 교수, 앤드루 응 스탠퍼드대 교수와 함께 ‘AI 4대 천왕’으로 불린다. 수십 년간 뚜렷한 발전이 없던 AI 분야의 겨울을 끝내고 오늘날의 AI 붐을 이끈 공로로 2018년 힌턴, 르쾽 교수와 함께 ‘컴퓨터 과학의 노벨상’이라 불리는 튜링상을 받았다.
Copyright © 조선일보. 무단전재 및 재배포 금지.