"AI, 5년 뒤 사람보다 더 똑똑해진다"

토론토 대학교 제프리 힌튼 교수 "AI가 사람 통제할 수도…전 인류 경각심 가져야"

(지디넷코리아=김미정 기자)"5년 뒤 인공지능(AI) 추론 능력이 사람보다 더 뛰어날 수 있다. 더 똑똑한 AI가 인간을 통제하는 시대가 오고 있다. 지금이야말로 AI 위험성에 대한 경각심을 갖고 이에 대한 대비책을 마련해야 할 때다."

토론토대 제프리 힌튼 컴퓨터공학과 교수는 8일(현지시간) 미국 CBS '60분'과 진행한 인터뷰에서 5년 안에 AI 추론 능력이 인간을 뛰어넘을 것이라며 이같이 밝혔다. 힌튼 교수는 "AI가 예상보다 더 똑똑할 수 있다"며 "사람은 이에 대한 경각심을 가져야 한다"고 강조했다.

제프리 힌튼 교수는 향후 AI 추론 능력이 사람을 뛰어넘을 수 있는 이유도 밝혔다. 힌튼 교수 설명에 따르면, 현재 가장 성능 높은 AI 챗봇 매개변수는 1조개다. 반면 인간 뇌 매개변수(시놉시스)는 약 100조개다.

토론토대 제프리 힌튼 교수는 AI 추론 능력이 사람을 뛰어넘을 수 있다고 주장했다. (사진=CBS)

힌튼 교수는 챗봇이 사람보다 매개변수는 적지만, 더 복잡한 일을 사람보다 더 잘 이해, 처리할 수 있다는 입장이다. 그는 "일반적으로 사람은 복잡한 일을 처리할 경우, 이를 충분히 숙지하고 이해해야 한다"고 말했다. 사람은 뇌에서 무슨 일이 일어나는지, 신경망이 이를 어떻게 받아들이는지 인지하지 못하기 때문이다.

그는 "반면 AI는 말 그대로 기계"라며 "매개변수 간 연결성과 정보 처리 과정을 사람보다 더 잘 안다"고 설명했다. 힌튼 교수 설명에 따르면, AI가 난이도 높은 업무를 수행할 경우 학습 알고리즘을 통해 데이터와 상호작용하면서 복잡한 신경망을 새로 만든다. 해당 신경망을 통해 복잡한 업무를 즉각적으로 받아들이고 처리할 수 있다.

제프리 힌튼 교수는 "AI의 이런 능력이 더 발달한다면, 향후 자율적으로 컴퓨터 코드를 생성·실행할 수 있을 것"이라고 예측했다. 컴퓨터 시스템이 인간 통제를 벗어날 수 있다는 의미다. 그는 "이를 통해 AI가 사람을 조종할 수 있을 것"이라고 강조했다. 힌튼 교수는 "AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다"며 "사람을 조종하고 설득하는 데 매우 능숙할 것"이라고 덧붙였다. 

힌튼 교수는 AI가 향후 자의식까지 가질 수 있다고 말했다. (사진=CBS)

제프리 힌튼 박사는 AI가 추론 능력을 더 기르면 향후 자의식까지 가질 수 있다고 말했다. AI가 현재 데이터에 기반해 추론하는 것에 그치지만, 향후 자율적인 컴퓨팅 조종으로 자율적인 판단이 가능하다는 이유에서다.

힌튼 박사는 향후 AI 추론 능력을 악용하는 사람이나 조직도 늘어날 것이라고 경고했다. 그는 "해당 추론 능력이 가짜뉴스 생산, 자율 전장 로봇 개발에 활용될 것"이라고 지적했다. 제프리 힌튼은 "지금이야말로 각국 정부가 AI를 이해하기 위한 실험을 진행하고, 규제를 도입하고, 군사용 로봇 사용을 금지하는 조약을 체결해야 할 때"라고 강조했다.

물론 그는 높은 AI 추론 능력이 인류에 긍정적 영향도 준다고 덧붙였다. 특히 의료 영상 판독, 약물 설계 분야에 큰 도움을 준다고 했다. 힌튼 박사는 "AI가 영상의학 분야에서 사람보다 정확한 진단을 할 수 있고, 몇년 걸리는 약물 설계를 단 몇 주로 줄일 수 있기 때문"이라고 전했다.

제프리 힌튼 박사는 AI 분야를 개척한 인지심리학자이자 컴퓨터 과학자다. 오류 역전파법, 딥러닝, 힌튼 다이어그램을 개발했다. 현재 캐나다 토론토대 컴퓨터공학과 교수로 재직 중이다. 올해까지 구글 석학 연구원에서 재직하다 퇴사했다.

김미정 기자(notyetkim@zdnet.co.kr)