"해로운 걸 만들고 있나"···AI 개발자들 사이 퍼지는 불안

영국 AI안전연구소 직원들 집단 병가
AI가 전쟁 등에 악용될 수 있다는 우려

연합뉴스

[파이낸셜뉴스] 인공지능(AI) 선두기업, 유관 기관 직원들이 자신들이 만들어내는 결과물이 전쟁 등 위험한 분야에 사용되는 데 대한 정신적 불안을 느끼고 있다는 보도가 나왔다.

22일(현지시간) 영국 일간지 파이낸셜타임즈(FT)에 따르면 프런티어 AI 모델을 독립적으로 점검하는 기관인 영국 AI안전연구소(AISI) 소속 직원 다수가 정신적 스트레스로 병가를 내고 상담 받고 있다. 핵심은 AI 신기술의 급속 확산과 기능 발전에 대한 우려다. 특히 이와 관련해 통제력을 가질 수 없다는 무력감도 있는 것으로 알려졌다.

앤트로픽과 오픈AI, 구글 딥마인드 등 업계 선두 기업 직원들도 비슷한 목소리를 내고 있다. 딥마인드 한 직원은 AI를 더 안전하게 만드는 일이 '불가능한 임무'처럼 생각된다고 전했다. 나아가 "해로운 걸 만들고 있다는 느낌도 있다"고도 말했다.

앞서 지난 4월 미국 국방부의 기밀 군사 업무에 AI 모델이 사용되는 문제를 놓고 구글 임직원이 반발했던 사태도 있었다. AI 시스템 업무는 전반적으로 그 기술이 어떻게 사용될지 모른다는 점에서 개발 주체들의 불안을 동반한다.

AI 연구원들 사이에선 기업 내부나 정치적으로 안전장치가 충분하지 않은데도 에너지망이나 전쟁 등과 같은 이해관계가 첨예하게 맞부딪히거나 피해가 커질 수 있는 분야에 AI 소프트웨어가 적용되는 데 대한 압박이 공유되고 있다.

FT는 오픈AI와 앤트로픽, 딥마인드 등 미국 3대 선두기업에서 지난 2년간 이 같은 우려를 표하며 회사를 떠난 고위급 연구원이 12명 이상이라고 분석했다. 이달 초 앤트로픽 AI 개발자인 제이컵 콕슨은 사직하면서 "(앤트로픽과 오픈AI가) 우리 목숨을 걸고 도박하고 있다"고 경고했다.

taeil0808@fnnews.com 김태일 기자