AI 정상회의 참여 빅테크 “위험 완화 없이 AI 개발 안 해” 서약

구글, 네이버, 오픈 AI 등 AI 분야를 주도하는 빅테크 기업이 안전한 AI 사용과 개발에 대한 서약에 참여했습니다.

글로벌 빅테크들은 어제(21일) 오후 8시 반부터 1시간 반 동안 화상으로 진행된 ‘AI 서울 정상회의’에서 ‘프론티어 AI 안전 서약’에 참여했습니다.

서약에 참여한 빅테크 임원은 에릭 슈미트 슈미트재단 설립자, 데비스 허사비스 구글 딥마인드 회장을 포함해 이재용 삼성전자 회장, 이해진 네이버 창업자, 안나 마칸주 오픈AI 부사장, 일론 리브 머스크 xAI 설립자, 브래드 스미스 마이크로소프트 사장 등입니다.

서약의 주요 내용은 기업이 위험을 충분히 완화할 수 없는 경우 AI모델을 개발하거나 배포하지 않겠다는 것으로, 기업들은 AI가 초래할 위험의 임계값을 설정해, AI 모델이 임계값을 초과할 염려가 있다고 판단되면 위험을 완화하고 임계값 이내로 유지하기 위해 노력하기로 했습니다.

만약 가장 극단적인 상황에서 AI 모델의 위험 수위가 높고, 위험을 충분히 완화할 수 없다고 판단될 경우 기업은 해당 AI모델의 배포와 개발을 멈추기로 했습니다. 임계값은 각국 정부를 포함해 신뢰할 수 있는 기관의 의견을 수렴해 정할 예정입니다.

또 내·외부 레드팀을 통한 AI 모델에 대한 위협을 평가하고 사이버 보안과 내부 위협 방지를 위해 투자, 제3자를 통한 문제점 점검과 보고 장려, AI 생성 콘텐츠를 식별하는 메커니즘 개발 등도 서약 내용에 담겼습니다.

구글 딥마인드 법률 고문이자 거버넌스 책임자인 톰 루는 “이번 약속은 주요 개발자들 사이에서 최첨단 AI 안전에 관한 중요한 모범 사례를 확립하는 데 도움이 될 것”이라며 “이 협약은 과학적 근거에 기반을 둔 대화를 나눌 수 있는 집중적인 국제 안전 서밋의 가치를 보여준다.”라고 밝혔습니다.

링크드인 공동 창업자 리드 호프만은 “AI는 인간의 삶과 업무를 크게 개선하고 있고, 앞으로도 그럴 것”이라며 “하지만 위험을 탐색하는 것 또한 매우 중요하다. 이러한 약속은 첨단 인공지능의 가장 심각한 위험을 관리하는 데 있어 매우 중요한 진전이다.”라고 했습니다.

네이버 이해진 GIO는 “사용자들이 하나의 키워드로 다양한 검색 결과에서 정보를 선택하는 ‘검색’과 달리 바로 답을 제시하는 AI는 선택의 여지가 없이 답을 얻는 방식”이라며 “이런 AI의 특성은 특히 어린이나 청소년들에게 매우 커다란 영향을 미칠 것이어서, AI의 이러한 특징이 AI 안전성에 있어 매우 중요하게 고려돼야 하는 점”이라고 밝혔습니다.

그러면서 이해진 GIO는 “극소수 AI가 현재를 지배하게 되면 과거 역사, 문화에 대한 인식은 해당 AI의 답으로만 이뤄지게 되고, 결국 미래까지 해당 AI가 큰 영향을 미치게 된다”며 “다양한 시각들이 보여지고 각 지역의 문화적, 환경적 맥락을 이해하는 다양한 AI 모델들이 많이 나와야 한다”고 강조했습니다.

네이버는 다음 달 AI 윤리 준칙보다 구체화된 ‘AI 안전 실행 프레임워크’를 공개할 예정이라고 덧붙였습니다.

[사진 출처 : 과학기술정보통신부 홈페이지 캡처]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

신지수 기자 (js@kbs.co.kr)