젠슨 황 "통제할 수 없는 AI는 출시하지 말아야"

AI 개발 속도 조절보다 안전성 검증·평가 강화 강조

(지디넷코리아=권봉석 기자)젠슨 황 엔비디아 CEO가 최근 주요 AI 기업을 중심으로 제기된 AI 개발 속도 조절론에 대해 "개발 자체를 늦추기보다 기업들이 통제할 수 없는 AI 시스템을 출시하지 않는 것이 중요하다"고 발언했다.

젠슨 황 CEO는 23일(현지시간) 공개된 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼'에서 "AI 연구소들이 안전성을 확보하지 못한 시스템을 개발했다면 제품을 시장에 내놓지 않아야 한다"고 말했다.

그는 AI 안전 문제를 모델의 정렬, 격리, 평가와 검증 등의 기술적 문제로 접근해야 한다고 강조했다.

지난 6월 한국을 방문한 젠슨 황 엔비디아 CEO. (사진=지디넷코리아)

AI 기업들이 제품의 안전성을 확신할 수 없다면 출시를 미루고, 개발 과정에서 충분한 테스트와 평가를 진행해야 한다는 것이다.

젠슨 황 CEO는 외부 안전 감사와 제3자 평가 자체에는 긍정적인 입장을 보이면서도, AI 개발 속도 자체를 제한하는 광범위한 규제에는 반대하는 입장을 밝혔다.

이 같은 주장은 최근 앤트로픽을 시작으로 일부 AI 기업들이 제기한 '속도 조절론'과 차이가 있다.

다리오 아모데이 앤트로픽 CEO는 "AI 모델의 역량 발전 속도가 안전장치 마련보다 빨라질 수 있다"고 우려하며, 개발 속도를 늦추고 독립적인 평가기관을 도입하자고 제안했다.

UN 안보리 이사회에 참석한 샘 올트먼 오픈AI CEO(왼쪽)와 다리오 아모데이 앤트로픽 CEO. (이미지=UN)

샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO는 23일 미국 뉴욕에서 UN 안보리 회의에 참석해 "AI 시스템이 자체적으로 성능을 개선하고 인간의 통제 역량을 넘어설 가능성에 대비해야 한다"며 국제 공조를 촉구하기도 했다.

반면 젠슨 황 CEO는 "최고경영자와 이사회가 출시 여부를 결정할 권한과 책임을 갖고 있으며, 안전성에 문제가 있다고 판단하면 제품을 출시하지 않을 수 있다"고 설명했다.

프론티어 AI 모델 개발사들에 이어 AI 생태계의 핵심 축인 엔비디아까지 입장을 내놓으면서, AI 개발 속도와 안전성 확보 사이의 균형을 둘러싼 논쟁은 한층 더 거세질 것으로 보인다.

권봉석 기자(bskwon@zdnet.co.kr)