[경제포커스] “AI 개발자는 ‘핵폭탄의 아버지’와 마찬가지다”

“결과 책임지지 못할 일 한다” 경고
막대한 자원 필요한 핵폭탄
AI는 누구나 쉽게 만들고
마음만 먹으면 악용 더 쉬워

일러스트=조선디자인랩·Midjourney

1945년 7월 16일 뉴멕시코에서 최초의 핵폭탄 실험이 진행됐다. 핵폭탄의 아버지 줄리어스 로버트 오펜하이머는 힌두 경전 ‘바가바드 기타(Bhagavad Gītā)’의 한 구절을 떠올렸다. “이제 나는 죽음이요, 세계의 파괴자가 되었노라.” 오펜하이머가 핵폭탄 개발을 후회하게 된 전환점, 이른바 ‘오펜하이머 모먼트(순간)’로 알려졌지만 최근 학자들의 생각은 다르다. 이 구절은 인도 왕자 아루주나 앞에 등장한 수호신 비슈누의 화신(化身) 크리슈나가 신의 뜻에 따르려면 골육상잔도 서슴지 말라고 계시하는 장면이다. 모든 것을 소멸하는 무기를 만든 오펜하이머가 더 큰 악(惡)을 끝낼 수단이라며 신을 빌려 자신을 정당화했다는 것이다. 진심이 무엇인지는 본인만 알겠지만 오펜하이머는 이후 핵폭탄 개발 중단을 주장했고, 수소폭탄을 반대하다 1954년 축출됐다.

세계적 화제가 된 영화 ‘오펜하이머’의 감독 크리스토퍼 놀런은 “인공지능(AI) 연구자들은 오펜하이머와 비슷하다”고 했다. AI 연구자들이 오펜하이머처럼 결과를 책임지지 못할 일을 하고 있다는 것이다. 그만의 생각이 아니다. 일론 머스크는 “AI가 핵폭탄보다 위험하다”고 했고 샘 올트먼은 오픈AI의 챗GPT 개발을 오펜하이머의 핵폭탄 개발 과정인 ‘맨해튼 프로젝트’에 비유했다.

핵폭탄 제조에는 대규모 정부 시설과 자금, 사람이 필요하다. 오펜하이머의 로스앨러모스 연구소에는 6000명이 넘는 과학자가 근무했고 20억달러가 투입됐다. 반면 AI는 컴퓨터와 인터넷만 있으면 된다. 최근 조 바이든 미 대통령은 글로벌 AI 업계를 이끄는 빅테크 경영진에게 “AI가 생성한 콘텐츠에 워터마크를 넣자”고 제안했고 기업들도 동의했다. 누구나 AI로 가짜 뉴스와 이미지를 만들 수 있는 현실에서 빅테크와 정부의 합의가 얼마나 효과가 있을지는 의문이다.

실제로 전 세계 300여 스타트업이 메타(페이스북)가 공개한 개방형 AI ‘라마’를 튜닝해 저마다 AI를 내놓고 있다. 챗GPT 성능의 90%를 넘어선 곳도 있다. 마음만 먹으면 수억 명이 사용하는 챗GPT에 상응하는 영향력을 행사할 수 있는 것이다. 저명 컴퓨터공학자 웬디 홀은 “메타가 핵폭탄 제조 매뉴얼을 공개한 것”이라고 했다. 혹자는 핵폭탄은 스스로 다른 핵폭탄을 만들 수 없지만 AI는 어느 순간 스스로 AI를 만들어낼 수 있기 때문에 문제라고 한다. 이미 웬만한 전문가보다 코딩을 잘하는 AI가 등장했다.

핵폭탄 사용의 결과는 명확하다. 누구나 두려워하기 때문에 1945년 두 차례 이외에는 사용된 적도 없다. 반면 AI의 영향은 제프리 힌턴과 앤드루 응 같은 권위자들의 의견도 엇갈린다. 누구는 자신의 AI 연구를 후회한다고 하고, 누구는 앞으로 50년은 문제없다고 장담한다. 지난 3월 전 세계 AI 관계자 1800명이 “AI 개발을 6개월 중단하고 안전장치를 마련하자”는 성명을 냈다. 그런 일은 일어나지 않았다. ‘지금은 위험하지 않다’ ‘실효성이 없다’는 목소리가 더 컸다. 오펜하이머가 핵폭탄 개발에 앞장선 것은 “나치가 먼저 핵폭탄을 개발할 것”이라는 위기감 때문이었다. 하지만 그 결과 인류는 지구를 수백 번 멸망시키고도 남을 무기를 품은 채 살고 있다. ‘더 나은 AI를 먼저 만들어야 한다’ ‘내가 아니어도 누군가 만들 것’이라는 생각도 마찬가지이다. AI가 핵폭탄보다 더 위험하다는 말이 막연한 경고가 아니라는 걸 깨달았을 때는 이미 너무 늦었을 수 있다.