美 AI 리더 350명 “AI發 멸종 위험” 경고…핵전쟁-팬데믹 수준 대응 촉구

대화형 인공지능(AI) 서비스 ‘챗GPT’ 개발 회사인 미국 ‘오픈AI’의 샘 올트먼 최고경영자(CEO). 워싱턴=AP 뉴시스

인공지능(AI) 연구의 세계적 권위자이자 ‘딥러닝의 선구자’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 “AI의 발전 속도를 예측했다면 유용성보다 안전을 우선시했었을 것이다. 평생 AI를 연구해 온 내 인생이 길을 잃었다”며 우려를 표했다.

벤지오 교수는 30일(현지 시간) 영국 BBC와의 인터뷰에서 빠른 속도로 발전하는 AI가 악의를 갖고 인류에 적극적으로 해를 끼칠 수 있다고 경고했다. 그는 “나에게 정체성과 방향성을 부여했던 일이 더 이상 명확하지 않다. 현재 AI의 발전 속도는 이 업계에 종사하는 많은 사람들에게 큰 도전”이라고 말했다.

그는 “이제라도 AI의 위험을 관리하기 위해 정부가 AI 관련 산업군에 있는 회사를 법적으로 등록해 그들이 무엇을 하는지 추적하고 감시할 수 있어야 한다”고 강조했다. AI를 개발하는 사람들도 윤리 훈련 등 ‘윤리성 인증’을 받은 뒤 일하도록 해야 한다고 했다.

이날 벤지오 교수는 샘 올트먼 오픈AI 최고경영자(CEO), 데미스 하사비스 구글 딥마인드 CEO 등 AI업계 거물급 인사 350여 명과 함께 AI로 인한 인류 멸종 위험을 경고하는 선언문을 발표했다. 이들은 선언에서 “AI 통제는 전염병이나 핵전쟁에 대비하듯 전 세계의 최우선 과제가 되어야 한다”고 강조했다.

이채완 기자 chaewani@donga.com