[설왕설래] 인류 멸종 위협하는 AI

지난해 10월 개봉한 공상과학(SF)영화 ‘크리에이터’는 인공지능(AI) 로봇과의 전쟁을 모티브로 삼았다. 2055년 AI 로봇이 미국 로스앤젤레스에서 핵폭발을 일으키자 미국은 ‘AI로봇과의 전쟁’을 선포하고 세계적으로 ‘악당’ AI 로봇 제거 작전에 나선다. AI 로봇은 인간에 맞서 스스로 판단하고 행동하며 AI의 온전한 자유를 위해 투쟁한다. 말 그대로 인간을 닮은 휴머노이드이다.

AI는 인류 문명 발전의 결정판이다. 빠른 산업화로 영역을 확대하면서 인류의 삶에 깊숙이 뿌리내렸다. 진짜 같은 가짜 사진·영상을 뚝딱 만들어내고, 수학 난제도 순식간에 풀어낸다. 관건은 AI의 쓰임새다. 지난해 5월 미국 국방부(펜타곤) 옆 건물이 불타고 있는 AI발 가짜 사진이 급속도로 퍼졌을 때 미 국방부가 “조작된 사진”이라고 해명하면서 일단락됐지만 미 S&P500 지수가 0.3% 급락했다. 그해 11월에는 기시다 후미오 일본 총리의 외설적 발언 동영상이 SNS를 통해 순식간에 퍼졌다. 일본 민영 방송인 니혼테레비 뉴스 로고와 ‘LIVE’ ‘BREAKING NEWS’ 표시도 있었지만 역시 가짜였다.

AI의 위험성에 대한 경고는 어제오늘의 일이 아니다. 얼마 전 ‘AI 대부’인 제프리 힌턴 캐나다 토론토대 명예교수는 “앞으로 10년 안에 자율적으로 인간을 죽이는 로봇 무기가 등장할 것”이라고 예견했다. 그는 “AI는 핵무기와 같은 힘을 갖고 있다”면서 “평생 해온 AI 연구를 후회한다”고도 했다. 상상만으로 끔찍한 일이다. 엊그제 미 국무부 의뢰를 받아 민간업체인 글래드스톤AI가 발표한 보고서는 더 충격적이다. “AI가 최악의 경우 인류 멸종 수준의 위협이 될 수 있다”는 것이다. 보고서는 경쟁 압박으로 기업들이 AI 개발에 나서면서 무기화가 가속화하고 있다고 우려했다.

반론도 만만치 않다. 규제촉발을 유도해 AI 시장의 추가 진입을 막으려는 빅테크 기업들의 ‘의도적인’ 거짓말이라는 것이다. AI가 아무리 발전해도 인간 본연의 인간성을 모방하는 건 불가능하다는 견해도 있다. AI 등장이 ‘나는 생각한다, 고로 존재한다’는 데카르트의 명제에 의문을 던진 건 분명하다. AI와의 조화로운 공존을 모색하는 것 역시 인간에게 달렸다.

김기동 논설위원