머스크 “AI평가 제3기관에 맡겨라” 바이든 행정명령에 반기 “규제보다 통찰력이 중요”

AI 정상회의에서 작심 비판
“섣불리 규제 만드는데 반대“
메타 VS 구글 딥마인드 장외 난타전
얀 르쿤 “특정 기업이 공포조장 나서”
하사비스 “인공지능 공포 과장 아냐”

일론 머스크 테슬라 CEO

일론 머스크 테슬라 최고경영자(CEO)가 영국 버킹엄셔 블레츨리 파크에서 열린 ‘인공지능 안전 정상회의(AI Safety Summit)’에 참석해 제3자 심판 기구를 설립하자고 제안했다. 미국 바이든 대통령이 정부 주도 안전장치를 구축하겠다는 내용을 담은 AI 행정명령에 서명한 지 하루 만에 나온 발언이다.

1일(현지시각) 로이터에 따르면, 머스크는 “제3자 심판 기구를 설립하고 싶다”고 설명했다. 그는 “우리가 진정으로 목표로 하는 것은 (인공지능 안전에 대한) 통찰력 위한 프레임워크를 구축하는 것”이라며 “적어도 제3자 심판, 즉 독립적인 심판이 AI 기업이 무엇을 하고 있는지 관찰하고 우려 사항이 있을 경우 경보를 울릴 수 있도록 하는 것이 중요하다”고 설명했다.

그러면서 그는 “감독을 하기 전에 통찰력을 갖고 시작하는 것이 중요하다”면서 “AI 업계에 있는 사람들은 정부가 무엇을 해야 할지 알기도 전에 섣불리 규칙을 만들지 않을까 하는 우려가 많다”고 지적했다. 앞서 바이든 대통령은 행정명령을 통해 안보·경제·보건·안전에 위험을 초래할 수 있는 AI 기술과 이와 관련된 개발자가 신제품 출시에 앞서 국방물자생산법(DPA)에 따라 안전 실험을 실시한 뒤 그 결과를 정부와 공유하도록 지시했다. 또 AI 기업들은 공격조인 ’레드팀‘을 구성해 미국 국립표준기술연구소(NIST)가 설정한 엄격한 기준을 통과하는지 사전 테스트하도록 했다.

머스크가 정부 주도 가이드라인은 통찰력의 산물이 아니다고 꼬집은 셈이다.

페이스북 운영사인 메타의 얀 르쿤 수석과학자(왼쪽)과 구글 딥마인드의 데미스 하사비스 CEO

구글 딥마인드의 데미스 하사비스 CEO는 이날 연설에서 “AI의 미래에 대해 낙관하는 것은 조심해야한다”고 주장했다. 자칫 인공지능이 인류에 해가 될 수 있다는 우려다. 그러면서 그는 구글 딥마인드는 생성 이미지와 오디오에 워터마킹을 하는 이른바 신스 아이디(Synth ID)라는 워터마킹 기술 등 단기적인 위험을 완화할 수 있는 기술을 연구하고 있다고 설명했다.

하지만 장외에서는 난타전이 벌어졌다. 페이스북 운영사인 메타의 얀 르쿤 수석과학자는 엑스(옛 트윗)을 통해 “인공지능에 대한 염려의 목소리는 공포를 조장하는 대규모 기업 로비에서 비롯됐다”고 지적했다. 특히 그는 “종말론적 레토릭의 상당수는 인공지능에 대한 통제권을 소수의 손에 맡기자는 것과 다름 없다”고 주장했다. 이에 대해 앤드류 응 스탠퍼드대 교수가 적극 동조하고 나섰다. 그는 호주 일간지 파이낸셜리뷰와 인터뷰를 통해 “일부 인공지능 기업이 AI에 대한 두려움을 이용해 시장 지배력을 확대하려고 하고 있다”면서 “이런 빅테크 기업은 오픈소스 진영과 경쟁하기를 원치 않으며, 인공지능이 인류를 멸종시킬 것이라고 주장하고 다닌다”고 지적했다.

오픈AI와 구글은 폐쇄형 인공지능을 개발하고 있는데 반해 메타는 오픈소스 모델을 만들고 있다. 앞서 폐쇄형 진영은 오픈소스로 인공지능이 공개될 경우 범죄에 악용될 수 있다는 주장을 펼치기도 했다. 르쿤 박사가 이에 대해 직격탄을 날린 것이다.

하지만 하사비스는 “르쿤의 발언에 동의하지 않는다”면서 “인공지능 위험이 오기 전에 조기에 논의하는 것이 중요하다”고 강조했다.