딥마인드 퇴사 직원도 “AI가 우리를 죽일 잠재력 가졌다고 믿는다” 경고

▲ 앤트로픽 로고 [로이터=연합뉴스 자료사진]

구글 딥마인드를 최근 떠난 인공지능(AI) 연구원이 AI가 인간을 죽일 수 있는 잠재력을 갖고 있다며 개발 방향에 대한 우려를 공개적으로 제기했다.

빌랄 추그타이는 14일 엑스(X)에 글을 올려 “AI가 우리를 죽일 수 있는잠재력을 지녔다고 진심으로 믿고 있다”고 밝혔다.

그는 “구글에서 저는 AI 개발을 목격했다. 저 역시 이 기술의 기본 방향성에 대해 극도로 우려한다”며 자신의 우려를 나타냈다.

추그타이는 자신이 범용인공지능(AGI) 안전과 정렬(alignment) 관련 연구를 담당했다고 소개했다. 정렬은 AI 모델이 인간에게 위협이 될 수 있는 행동을 거부하도록 만드는 것과 관련된 연구다.

최근 AI 업계에서는 개발 속도를 둘러싼 우려가 잇따라 제기되고 있다.

앞서 이달 초 앤트로픽의 AI 개발자 제이컵 콕슨도 회사를 떠나면서 앤트로픽과 오픈AI를 향해 “우리의 목숨을 걸고 도박하고 있다. 초지능 AI를 향해 질주하고 있다”고 비판했다.

콕슨은 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 경고했다.

이후 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 AI 개발 속도를 늦춰야 한다는 취지의 성명을 내놨고, 오픈AI의 샘 올트먼과 스페이스X AI의 일론 머스크도 이에 대한 지지 의사를 밝혔다.

AI 개발 속도 조절을 둘러싼 논쟁은 이후 AI 업계와 정치권으로까지 확산하고 있다.
 

#잠재력 #딥마인드 #경고 #퇴사 #직원도