“AI 안전, 기업이 알아서 책임져야”…저커버그, ‘속도조절’ 아모데이와 선 그었다

페이스북 모회사 메타플랫폼(이하 메타)의 최고경영자(CEO) 마크 저커버그. AFP=연합뉴스

마크 저커버그 메타 최고경영자(CEO)가 인공지능(AI) 안전 문제와 관련해 각 기업이 외부 평가를 활용하면서 자율적으로 책임지는 방식이 바람직하다는 입장을 밝혔다.

선도 AI 기업들이 공동으로 안전기준을 만들고 개발 속도까지 조절해야 한다는 다리오 아모데이 앤트로픽 CEO의 제안과는 거리를 둔 셈이다.

16일 저커버그 CEO는 자신의 엑스(X)에 “모든 AI 연구소는 모델을 안전하게 학습시키는 데 필요한 속도로 움직일 책임과 유인이 있고, 이를 보장하기 위한 자체 조치를 취할 역량도 갖추고 있다”고 밝혔다.

그는 메타의 사례를 들며 “안전과 보안에 집중하기 위해 ‘뮤즈(Muse)’ 출시를 몇 달 미뤘다”며 “그것이 사람들과 우리에게 분명히 옳은 일이었기 때문에 통상적인 업무의 하나로 그렇게 했다”고 설명했다.

이어 “독립적인 평가자와 자문위원을 참여시키는 것은 업계의 모범사례”라며 “메타슈퍼인텔리전스랩스(MSL)도 이미 여러 분야에서 이런 방식을 활용하고 있다”고 말했다.

마크 저커버그 X 게시물. 마크 저커버그 X 계정 캡처

저커버그는 다른 AI 기업들도 같은 방식을 따를 수 있다고 강조했다. 그는 “다른 연구소들도 그냥 이렇게 하면 된다”며 “더 크고 다양한 평가기관과 평가자 생태계가 만들어진다면 도움이 될 것”이라고 했다.

AI 개발 방향과 관련해서도 급격한 성능 경쟁보다 실제 서비스 활용에 무게를 뒀다.

저커버그는 “재귀적 자기개선(Recursive Self-Improvement·RSI)을 향해 질주하기보다 압도적 다수의 연산자원을 사람들에게 서비스를 제공하는 데 쓰는 것이 이 기술을 안전하게 개발하는 최선의 방법 중 하나”라고 밝혔다.

이번 발언은 최근 불거진 AI 개발 속도조절 논쟁에 저커버그가 사실상 처음으로 분명한 입장을 내놓은 것으로 해석된다.

앞서 아모데이 CEO는 지난 12일 주요 AI 기업들이 자발적인 안전기준을 함께 마련하고 필요할 경우 개발 속도까지 조절하자고 제안했다.

이후 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 하사비스 구글 딥마인드 CEO가 공개적으로 호응했지만 저커버그는 별다른 입장을 밝히지 않아왔다.

저커버그의 이번 발언은 업계 공동의 속도조절보다는 각 기업이 자체 책임 아래 안전성을 확보해야 한다는 데 방점을 찍은 것으로 보인다.

이는 저커버그가 지난달 발표한 에세이 『모두를 위한 미래』에서 밝힌 기존 입장과도 맥을 같이한다.

당시 그는 “사람들은 자신의 의도와 어긋나거나 요청대로 움직이지 않는 에이전트를 사용하고 싶어 하지 않을 것”이라며 “연구소에는 모델을 더 정합적으로 만들 강한 유인이 있다”고 주장했다.

또 AI 모델이 초래한 피해에 대해 기업이 법적 책임을 질 수 있다는 점 역시 기업 스스로 안전성 강화에 나설 유인으로 작용할 것이라고 강조했다.

정재홍 기자 hongj@joongang.co.kr