“10년 내 인간 죽이는 로봇병기 등장”…AI 석학의 경고
힌턴 교수는 10일 니혼게이자이신문에 보도된 인터뷰에서 이처럼 밝혔다. 그는 AI가 인류를 위협할 것이라 보는 이유에 대해 “AI에게 목표를 주면 인간에게 나쁜 방법을 해결책으로 찾아낼지도 모른다”며 “AI에게 기후변화를 막도록 지시하면 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각하고서 실행에 옮길 위험성이 걱정된다”고 말했다.
서로 다른 AI간에 경쟁하면서 데이터센터 쟁탈전이 벌어질 수도 있다고 경고했다. 생성형 AI의 기반인 거대 언어 모델은 우리와 마찬가지로 말을 이해하고 있다고 생각한다고 주장했다.
그러면서 자신은 AI가 농담을 이해하는지를 판단의 기준으로 삼는다고 했다. 지난 2022년 구글이 개발한 언어모델(PaLM)에 의한 챗봇을 상대로 농담을 설명해달라고 했을 때 챗봇은 그 농담이 왜 재미있는지 모두 설명했다고 전했다. 이와 관련해 “철학자들 사이에서는 인간이 언어를 사용하는 기능을 선천적으로 갖고 있다는 주장이 있지만 그건 틀렸다”며 언어는 태어난 후에 학습하는 ‘후천적’인 것이라고 설명했다. 명했다.
힌턴 교수는 이른 시일 내에 ‘로봇 무기’를 규제해야 한다고 주장했다. 러시아-우크라이나 전쟁에서 자율 가동기능이 탑재된 살상용 드론이 사용되자, UN(국제연합)은 자율살상무기(LAWs)에 대한 기술에 대한 규제 논의를 진행 중이다.
앞서 1차 세계대전에서 참화를 초래한 화학무기는 훗날 국제 합의에 따라 금지됐다. 로봇 무기도 조만간 규제될 수 있지만, 이것은 실제 전장에서 사용된 후 인류가 비참함을 인식한 뒤가 될 수 있을지 모른다는 전망도 했다.
인공지능 대부로 불리는 힌턴 교수는 딥러닝 기술을 개척한 인물로 평가받는다. 토론토대 교수 시절 창업한 AI업체 ‘DNN리서치’가 2013년 구글에 인수된 뒤 구글 소속으로 연구 활동을 계속하다가 지난해 4월 AI의 위험성을 알리기 위해 사표를 낸 것으로 알려졌다. 이후 캐나다에 거주하며 AI의 위험성에 대해 적극적으로 설파하고 있다.
닛케이는 “힌턴 교수가 AI가 인류를 지배할 것이라고 예언하는 것은 아니지만 미래는 불확실하다는 전제에서 장기적인 위험성을 호소하고 있다”며 “그의 경고를 정면으로 받아들이고 논의할 필요가 있다”고 소개했다.
Copyright © 매경이코노미. 무단전재 및 재배포 금지.
- [속보]고민정, 최고위원직 사퇴...민주당 집단 탈당 움직임도 - 매일경제
- 신형 제네시스 G80 ‘역대급 진화’ [CAR톡] - 매일경제
- “아침에 빵 먹으면 못생겨져” 무슨 근거길래 - 매일경제
- “구관이 명관” 메이저 코인↑…이더리움·솔라나 등 상승장 견인 - 매일경제
- 코인도 ‘기술주’가 대세…AI·클라우드 관련 코인 급등 - 매일경제
- “파두보다 심하네”…알체라, 기술특례 잔혹사 전철 밟나 - 매일경제
- 이준석 “개혁신당 탈당 러시 류호정 때문...사상 좋아서 영입한 거 아냐” - 매일경제
- ‘100만 돌파’ 갤럭시S24...MZ 사로잡은 기능은? - 매일경제
- ‘온라인은 좁다’...앱 밖으로 나온 무신사 전략 들여다보니 - 매일경제
- “8억5천짜리가 순식간에”…집값 급락에 술렁이는 ‘이 동네’ [김경민의 부동산NOW] - 매일경제