“AI 개발 반년간 멈춥시다”...머스크등 IT 전문가 1000명 동의, 왜?

“더 강력한 생성형 AI 출현 막아야” 공감
“위험 관리할 수 있다는 확신 있을 때 개발”

(출처=AFP연합)

일론 머스크 테슬라 최고경영자(CEO)를 비롯한 인공지능(AI) 업계 전문가 1000명이 ‘챗GPT’ 등 생성형 AI 개발을 6개월 동안 중단해야한다는 서한에 동의했다.

28일(현지시간) 로이터 통신, 월스트리트저널(WSJ) 등에 따르면 머스크 CEO와 애플 공동설립자 스티브 워즈니악, 요슈아 벤지오 캐나다 몬트리올대 교수, 스튜어트 러셀 버클리 UC버클리 컴퓨터과학과 교수, 이미지 생성 AI 프로그램 개발사 ‘스테이빌리티 AI’의 에마드 모스타퀴 CEO 등은 비영리단체인 미래생명연구소(Future of Life Institute; 이하 FLI)가 주장한 ‘거대한 AI 실험 일시 중지: 공개서한’에 서명했다.

FLI가 발안한 해당 서한의 골자는 AI에 대한 안전 표준을 만들고, AI가 야기할 수 있는 잠재적 피해를 막을 수 있을 때까지 더 강력하고 새로운 생성형AI 출현을 막을 필요가 있다는 것이다.

FLI은 서한에서 “최첨단 AI는 지구상의 생명 역사에 중대한 변화를 나타낼 수 있다”며 “강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다”고 주장했다. 이어 이들은 “독립적인 외부 전문가가 감독하는 안전 프로토콜을 개발할 때까지 모든 AI 연구실에서 오픈AI가 최근 공개한 AI 모델 GPT-4보다 강력한 AI 개발을 최소 6개월 간 즉시 중단할 것으로 요청한다”고 강조했다. 또한 이러한 중단을 신속하게 시행할 수 없다면 정부가 개입해 유예 조치를 취해야 한다고 말했다.

이번 서한은 마이크로소프트(MS)가 지원하는 오픈AI의 생성AI프로그램 ‘챗GPT’의 네번째 버전이 공개된 이후 등장했다. 최근 과열된 기업들의 AI개발 경쟁과 그로 인해 등장할 초고성능 AI에 대한 우려가 커지면서다.

최근 오픈AI가 출시한 ‘GPT-4’는 이전 모델인 GPT-3의 개량형으로 이달 공개돼 강력한 성능을 보여주고 있다. 이밖에 구글은 ‘바드’, 바이두는 ‘어니봇’를 내놓는 등 세계 최고 수준의 기업들이 AI개발에 속도를 내고 있는 상황이다.

한편 지난 22일부터 시작된 이 공개 서명은 초반 시진핑 중국 국가주석, 영화 주인공 존 윅, 샘 올트만 오픈AI CEO 등의 이름이 등장하면서 한차례 신뢰도 논란이 일었으나 FLI 측이 29일 “요수아 벤지오 교수, 스티브 워즈니악, 유발 하라리, 일론 머스크, 게리 마커스 뉴욕대 명예교수 등 1000명 이상이 서명을 했다”고 공식 발표하면서 논란이 일축됐다.

FLI 웹사이트 갈무리

[진 욱 인턴기자]