AI 핵전쟁 만큼 인류 위협...AI 경쟁 시작시킨 샘 올트먼의 섬뜩한 경고

"AI의 심각한 위험 심각하게 받아들이는 인류 늘어나"
오픈AI 샘 올트먼 CEO 등 350여명 참여해 대책 촉구
규제찬성론자 MS 빌 게이츠는 쏙 빠져 눈길

오픈AI의 CEO(최고경영자) 샘 올트먼 /사진=AP뉴시스

【실리콘밸리(미국)=홍창기 특파원】

AI(인공지능)기술과 AI가 핵무기 만큼 인류에 큰 위협적인 존재가 됐다는 경고가 다시 나왔다. AI에 대한 기대감과 동시에 AI가 통제 불능 상태로 성장할 수 있다는 우려도 커지고 있는 가운데서 나온 또 다른 경고다. 생성형 AI 챗봇 '챗GPT'를 탄생시켜 AI 경쟁을 촉발시킨 오픈AI의 CEO(최고경영자) 샘 올트먼도 이같은 경고에 참여해 눈길을 끈다.

30일(현지시간) 비영리단체 AI안전센터는 "AI로 인한 인류 멸종 위험을 줄이는 것이 전염병이나 핵전쟁과 같은 다른 위험과 함께 전 세계적으로 우선 순위가 되어야한다"는 성명서를 발표했다. 이 성명서에는 IT기업 경영자와 과학자 350여명이 서명하고 한목소리를 AI의 위험성을 경고했다.

특히 AI안전센터의 성명에 챗GTP의 오픈AI 샘 올트먼 CEO와 미라 무라티 최고기술책임자(CTO)가 참여한 점이 주목된다. 올트먼 등은 AI안전센터의 성명서에 서명하는 것으로 뜻을 같이했다. 또 마이크로소프트(MS) CTO 케빈 스콧을 비롯해 구글 AI 임원 릴라 이브라힘과 마리안 로저스 등도 참여했다. AI가 적절하게 규제돼야 한다고 주장했던 MS 창업자 빌 게이츠는 이번 성명서에 서명하지 않았다.

AI안전센터 성명에 서명한 이날 올트먼 CEO 등은 "대중이 AI의 위험성을 인정하고 있고 때문에 논의해야 할 과제가 더 많다"는 의견을 밝혔다. 또 AI의 '심각한' 위험을 '심각하게' 받아들이는 사람들이 늘어나고 있다는 사실도 널리 알리고 싶었다고 강조했다. 또 알트만 CEO 등은 그동안 AI의 위험에 대해 경고했지만 가장 시급한 위험이 무엇인지 정작 논의되지 않았다고 주장했다.

최근 몇 달 동안 바이든 행정부는 AI가 공공 안전과 개인 정보 보호, 민주주의를 위협할 수 있다고 했지만 현재 정부는 이를 규제 할 권한이 제한되어 있는 상황이다.

AI기술과 AI에 대한 규제 강화 목소리는 지난해 오픈AI가 챗GPT를 출시한 후 계속되고 있다. 일론 머스크 테슬라 CEO도 지난 3월 AI 개발자들에게 기술 개발을 중단할 것을 촉구하는 서한에 서명한 바 있다.

일론 머스크 테슬라 CEO /사진=로이터뉴스1