“AI가 인류 멸망시킬 수 있어” 모성 본능 심으라는 ‘AI 대부’ 힌턴 교수

인공지능(AI)의 ‘대부’로 불리는 제프리 힌턴 캐나다 토론토대 교수가 인류의 생존을 위해서는 AI 모델에 ‘모성 본능’을 심는 것이 바람직하다고 조언했습니다.

CNN에 따르면 힌턴 교수는 현지 시각 13일 미국 라스베이거스에서 열린 콘퍼런스에서 인간이 ‘순종적인’ AI 시스템보다 지배적인 위치를 유지하게 하려는 기술 기업들의 방식에 의문을 나타냈습니다.

힌턴 교수는 자신이 개발에 기여한 AI가 인류를 멸망시킬 수 있다고 경고하면서 이를 막기 위한 ‘테크 브로’(tech bros)들의 접근 방식이 잘못됐다고 지적했습니다.

그는 “그들(AI)은 우리보다 훨씬 똑똑해질 것이다. 그들은 그것을 피할 온갖 방법을 갖고 있을 것”이라고 말했습니다.

지난해 AI 머신러닝 기초를 확립한 공로로 노벨물리학상을 받고 한때 구글에서 부사장까지 지낸 힌턴 교수는 AI가 인류를 전멸시킬 가능성이 10~20%라고 경고해 왔습니다.

그는 어른이 사탕으로 세 살짜리 아이를 유혹하는 것만큼이나 손쉽게 AI가 인간을 조종할 수 있을지도 모른다고 했습니다.

목표 달성을 위해 속임수 등을 시도하는 AI 사례는 이미 등장했습니다.

예를 들면 한 AI 모델은 대체되는 것을 피하려고 이메일을 통해 알게 된 불륜을 빌미로 엔지니어를 협박하려 했다고 CNN은 전했습니다.

힌턴 교수는 “어떠한 형태의 ‘에이전틱 AI’(스스로 판단하고 작업을 수행하는 AI)든 생존하려 할 것이라는 충분한 근거가 있다”면서 AI가 사람을 향한 연민을 가지도록 만드는 것이 중요하다고 강조했습니다.

그는 “더 지능적인 존재가 덜 지능적인 존재에 의해 통제되는 유일한 모델은 아기에게 통제당하는 엄마”라고 설명했습니다.

힌턴 교수는 이를 기술적으로 어떻게 구현할지 불명확하지만, 연구자들이 이를 연구하는 것이 중요하다고 했습니다.

그는 “그게 유일한 좋은 결말”이라면서 모성 본능을 가진 AI는 대부분 인간이 죽는 것을 원하지 않을 것이기 때문이라고 설명했습니다.

[사진 출처 : 연합뉴스]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

이랑 기자 (herb@kbs.co.kr)