IT기업 경영자·과학자 350여명 AI 위험성 경고

정보기술(IT)기업 경영자와 과학자 등 350여명이 빠른 속도로 발전하고 있는 인공지능(AI)의 위험성에 대비하기 위해 기술 통제가 필요하다는 경고의 목소리를 냈다.

30일(현지시간) 월스트리트저널(WSJ) 등에 따르면 비영리단체 ‘AI안전센터’(CAIS)는 인류의 절멸 가능성까지 언급하면서 AI 기술 통제 필요성을 주장하는 성명을 발표했다. CAIS는 성명에서 “AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다”고 주장했다.

이들은 AI의 위험성을 핵무기와 신종 전염병에 비견했다. CAIS는 대중도 AI 기술이 지닌 위험성을 인식해왔지만 훨씬 다양한 분야에 대한 해결책이 논의돼야 한다고 촉구하면서 공개적인 토론이 필요하다고 강조했다.

성명에는 대화형 AI 챗GPT의 창시자인 샘 올트먼 오픈AI 최고경영자(CEO)와 미라 무라티 오픈AI 최고기술분야대표(CTO)가 서명했다. 케빈 스콧 마이크로소프트 CTO와 구글의 AI 분야 책임자인 릴라 이브라힘도 이름을 올렸다. CAIS는 서명에 동참할 전문가들을 추가로 모집하고 있다.

앞서 올트먼 CEO는 그레그 브로크먼 오픈AI 회장 겸 공동창업자, 일리야 수츠케버 수석 과학자와 함께 자사 블로그에 올린 ‘초지능 거버넌스’라는 제목의 글에서 AI의 잠재적 위험을 통제하고 부작용을 막기 위해 국제원자력기구(IAEA) 같은 국제기구가 필요하다는 방안을 제시한 바 있다.

AI의 위험성과 관련한 논의 필요성은 최근 잇따라 제기되고 있다. 이달 초에는 백악관이 오픈AI와 구글 등 핵심 기업을 초청해 카멀라 해리스 미국 부통령 주관으로 대책 회의를 개최했고, 이어 열린 상하원 청문회에서는 AI의 위험을 완화하기 위해 정부 차원의 규제와 개입, 국제 표준 마련이 필요하다는 주장이 제기되기도 했다.

이강진 기자 jin@segye.com