“AI로 인한 인류 멸종 막아야”

“핵전쟁·전염병만큼 위험”
AI 개발자 등 350명 성명

오픈AI, 구글 딥마인드 등 생성형 인공지능(AI) ‘열풍’을 불러온 AI업계 경영진이 자신들이 구축하고 있는 기술이 핵 전쟁만큼이나 인류에게 실존적 위협이 될 수 있다며 AI로 인한 ‘멸종’을 막아야 한다고 경고했다.

30일(현지시간) 비영리단체 AI안전센터는 “AI로 인한 멸종 위험을 완화하는 것은 전염병이나 핵 전쟁 위험 등과 함께 전 세계에서 우선순위로 다뤄져야 한다”는 한 문장 분량의 짧은 성명서를 공개했다. 이 성명에는 챗GPT를 개발한 오픈AI의 샘 알트먼, 구글 딥마인드의 데미스 하사비스, AI 챗봇 ‘클로드’를 출시한 안트로픽의 다리오 아모데이 등 주요 AI 기업 최고경영자(CEO)들과, AI 분야의 ‘대부’로 불리는 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수, 케빈 스콧 마이크로소프트(MS) 최고기술책임자(CTO) 등 AI 주요 기업 경영진을 포함해 AI 분야에 종사하는 연구원 및 기술자, 과학자 350여명이 서명했다.

댄 헨드릭스 AI안전센터 이사는 이번 성명이 “자신들이 개발하고 있는 기술의 위험성에 대해 개인적으로 우려를 표명했던 일부 업계 리더들이 ‘커밍아웃’을 한 것”이라고 말했다. 그는 1930년대 핵 과학자들이 핵무기 개발 전부터 위험성을 경고해온 것을 언급하며 “재앙이 발생한 후 대처하는 것보다 발생하기 전 이런 위험을 해결하고자 노력하는 것”이라고 말했다.

이번 성명은 최근 AI가 초래할 수 있는 광범위한 거짓 정보 확산, 일자리 위협 등 잠재적인 위험에 대한 경고 목소리가 커진 가운데 나왔다. 미국 AI 업계 리더들은 최근 자신들이 개발하는 AI 기술에 대한 규제 필요성을 주장해 왔다.

알트먼 오픈AI CEO는 지난 16일 미 의회 청문회에 출석해 “AI 기술이 잘못되면 모든 것이 완전히 잘못될 수 있다”며 국제원자력기구(IAEA)와 같은 국제 AI 규제 기구 설립을 촉구한 바 있다. 그는 “미국 대선이 가까워지고 기술이 점차 발전하는 상황을 감안했을 때, (이용자와) 일대일로 상호 작용하는 AI 모델이 설득과 조작을 통해 거짓 정보를 제공할 수 있다는 점이 가장 심각하게 우려되는 부분”이라고 말했다. ‘AI의 대부’ 힌튼 교수도 AI의 위험성을 경고하며 지난 4월 10년간 몸담았던 구글에 사표를 내 화제가 됐다. 딥러닝 개념을 처음으로 고안해낸 그는 관련 연구에 매진해온 자신의 일생을 후회한다면서 “AI가 ‘킬러 로봇’이 되는 날이 두렵다”고 말했다.

1989년 저서 <자연의 종말>을 통해 기후변화 문제를 경고했던 환경학자이자 작가 빌 맥키번도 이 성명에 참여했다. 그는 “35년 전 기후변화에 대한 초기 경고에 사람들이 귀 기울이지 않은 것을 감안한다면, 이 모든 일들이 벌어지기 전에 이를 숙고하는 것이 현명하다고 생각한다”고 AP통신에 말했다.

선명수 기자 sms@kyunghyang.com