AI전문가들 "앤트로픽·오픈AI, 독립 안전평가 필요"…공개서한

'AI대부' 제프리 힌턴도 동참…독립성·투명성·접근권 보장 등 조건 제시

(샌프란시스코=연합뉴스) 권영전 특파원 = 학계와 시민단체 등 인공지능(AI) 전문가들이 주요 AI기업에 상주하는 독립 안전 평가자의 필요성을 촉구하는 공개서한을 냈다.

AI에 대한 독립평가 수행기관들의 모임인 'AI 평가자 포럼'(AI Evaluator Forum) 컨소시엄은 100명 이상의 전문가가 서명한 이 같은 내용의 서한을 18일(현지시간) 공개했다.

이들은 서한에서 "우리는 모든 최첨단 AI 기업이 평가 담당자를 배치해 AI 위험을 독립적으로 평가해야 한다고 생각한다"고 주장했다.

서한은 이와 같은 평가 대상에 AI 시스템 자체와 실제 발생한 피해뿐 아니라 훈련·배포·감독·운영·안전조치 관행도 포함해야 한다고 지적했다.

AI 기업에 상주할 평가기관이 객관성과 신뢰성을 인정받을 수 있도록 하기 위한 5가지 필수 조건도 제시했다.

이들에 따르면 우선 평가기관은 AI 기업의 소유·지배를 받거나 상업적 거래가 없어야 하고 평가 결과와 연동되는 금전적 대가나 보상을 받지 않는 등 독립성을 확보해야 한다.

또 AI 기업은 평가기관에 내부 위험평가를 담당하는 최고 임직원과 동일한 수준의 접근권을 부여하고 내부 직원들과 1대 1 소통도 보장해야 한다.

평가기관은 평가 방법과 결과, 접근 조건 등을 투명하게 공개할 수 있도록 하고 비밀 유지계약(NDA) 범위를 최소한으로 제한해 결과를 대중에 폭넓게 공유할 수 있어야 하며 기업 이사회나 감시기구에도 직접 보고할 수 있어야 한다.

그 밖에 평가자가 보복이나 소송의 불이익을 당하지 않아야 한다는 조건과, 상주 평가기관 외의 외부·독립 연구자의 검증도 보장해야 한다는 조건도 포함됐다.

이 서한에는 'AI 대부'로 불리는 노벨 물리학상 수상자 제프리 힌턴 토론토대 명예교수와 빈 응우옌 전 국가안보국(NSA) 최고AI책임자(CAIO), 최예진 스탠퍼드대 교수, 아르빈드 나라야난 프린스턴대 교수 등이 서명했다.

AI 평가자 포럼 컨소시엄의 콘래드 스토즈 의장은 미 경제방송 CNBC에 "우리는 기본 원칙에 대한 공동의 기반을 보여주고 독립적인 감독이 AI 위험을 관리하는 데 의미 있는 수단이 될 수 있도록 보장하고자 한다"고 이번 서한을 작성한 배경을 소개했다.

앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI 속도 조절이 필요하다고 주장하면서 기업 내에 외부 독립 상주 평가자를 두자는 제안을 내놓은 바 있다.

아모데이의 이와 같은 주장에 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스XAI CEO, 사티아 나델라 마이크로소프트 CEO 등 AI 업계 경쟁사 수장들이 동조했지만 평가자 선정과 검증 방안 등에 대한 구체적인 논의는 아직 이뤄지지 않고 있다.

comma@yna.co.kr

▶제보는 카톡 okjebo

국제