"내년 말이면 인간이 AI 통제 불능"…앤트로픽 연구원 퇴사하며 경고

미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났습니다.

월스트리트저널(WSJ)은 현지시간 8일 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)이 AI 시스템 개발 경쟁에 대해 이 같이 우려했다고 전했습니다.

영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구했습니다.

그는 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하려고 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 지적했습니다.

특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 게 그의 주장입니다.

콕슨은 "가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"면서 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 예견했습니다.

콕슨은 올해 초 오픈AI를 떠나 앤트로픽에 합류했습니다.

AI 안전을 중시하는 앤트로픽의 기업 문화 때문에 이직했지만, 결국 개별 기업의 노력만으로는 AI의 위험을 통제할 수 없다는 것이 콕슨의 설명입니다.

콕슨은 인류의 미래에 막대한 영향을 미칠 수 있는 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실에 대해서도 "일종의 광기"라고 지적했습니다.

그는 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하려면 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했습니다.

#앤트로픽 #AI #통제불능

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이성섭(leess@yna.co.kr)

국제