"AI 기업, 우리 목숨 걸고 도박"…안전 우려에 떠나는 연구원들

▲ AI

인공지능(AI)의 안전성에 대한 우려가 증폭된 가운데 AI 선두기업과 유관 기관 직원들도 사회를 심각하게 위협하는 일을 하는 건 아닌지 정신적 스트레스에 시달리고 있다고 영국 일간 파이낸셜타임스(FT)가 22일(현지시간) 보도했습니다.

소식통들에 따르면 프런티어 AI 모델을 독립적으로 점검하는 기관인 영국 AI안전연구소(AISI)의 여러 직원이 정신적 스트레스로 병가를 내고 상담받고 있습니다.

이들은 출시를 앞둔 AI 모델들에 대한 빡빡한 테스트 일정은 물론이고, AI 신기술의 급속 확산과 기능 발전에 대한 우려로 사기 저하와 '번아웃'을 겪고 있다고 소식통들이 전했습니다.

앤트로픽과 오픈AI, 구글 딥마인드 등 선두 기업 직원들도 비슷한 우려를 호소하고 있습니다.

딥마인드 한 직원은 AI를 더 안전하게 만드는 일이 '불가능한 임무'처럼 느껴진다고 털어놓았습니다.

이 직원은 지난 4월 미국 국방부의 기밀 군사 업무에 AI 모델이 사용되는 문제를 놓고 구글 임직원이 반발했던 사태를 언급하면서 "AI 시스템 업무는 전반적으로 그 기술이 어떻게 사용될지 모른다는 점에서 (정신건강) 위험이 있다"고 말했습니다.

그는 "많은 사람이 혼란스러워하며 일을 그만두거나 정신건강 문제로 병가를 내고 있다"며 "통제력을 잃고 있다는 느낌도 일부 있고, 진짜 해로운 걸 만들고 있다는 느낌도 있다"고 말했습니다.

업계 관계자들에 따르면 AI 연구원들 사이에선 기업 내부나 정치적으로 안전장치가 충분하지 않은데도 에너지망이나 전쟁 지역과 같은 위험한 분야에 AI 소프트웨어가 적용되는 데 대한 우려가 큽니다.

한 전직 AISI 연구원은 최근 AI 모델이 코드에서 사람이 찾아내지 못한 결함을 찾아내거나 자연 발생하지 않은 바이러스를 생성하는 등의 복잡한 일을 수행할 수 있을 만큼 AI가 급속도로 능력을 발전시키면서 특히 사이버안보나 생화학 분야 종사자들이 깜짝 놀라고 있다고 전했습니다.

그는 "기술이 방출되는 방식에 무모한 요소들이 내재한다는 느낌이 있다"며 "그래서 '이걸 멈출 수 있는 게 있을까', '우리가 세상이 불타는 걸 보고 있는 건가'라는 우려가 끊임없이 나온다"고 말했습니다.

FT는 오픈AI와 앤트로픽, 딥마인드 등 미국 3대 선두기업에서 지난 2년간 안전성에 우려를 표시하며 퇴사한 고위급 연구원이 12명을 넘는다고 전했습니다.

이달 초 앤트로픽의 AI 개발자인 제이컵 콕슨이 사직하면서 앤트로픽과 오픈AI가 "우리의 목숨을 걸고 도박하고 있다"고 경고했습니다.

앤트로픽 AI 안전성 연구원이던 므리난크 샤르마는 올해 2월 시를 공부하겠다며 사직하면서 직원들에게 보낸 편지에 "세계가 위험하다. 우리의 가치에 따라 행동하는 게 얼마나 어려운지 거듭 목격했다"고 썼습니다.

오픈AI 직원이었던 히에우 팜도 올해 일을 그만두고 모국인 베트남으로 돌아가면서 "극도로 지능적인 것을 구축하는 일에는 대가가 따른다"며 "정신건강 악화는 실질적이고 비참하며 두렵고 위험하다"고 말했습니다.

김민표 기자 minpyo@sbs.co.kr