[테크&포커스] 위험대응 논의, 이제 첫발… 中 빠진 안전성 검증 합의

AI 안전성 정상회의에서 참석자들이 사진을 찍고 있다. 로이터연합

AI(인공지능) 안전성 확보 방안에 대해 세계 주요 국이 뜻을 같이 하지만, 실질적 힘을 발휘하기는 아직 갈 길이 멀어 보인다.

1~2일(현지시간) 영국 블레츨리 파크에서 열린 '제1차 AI 안전성 정상회의'에서 한국·미국 등 주요국과 AI기업들은 '프런티어AI'의 위험성을 해소하기 위해 새로운 AI모델 출시 전에 안전성 테스트를 거치도록 하는 데 합의했다.

'프런티어AI'란 현재 생성형AI 서비스의 기반모델(FM)인 최신 초거대AI와 동등하거나 그 이상의 기능을 갖춘 고성능 범용 AI모델을 뜻하며, 잘못 쓰일 경우 재앙적인 위험을 초래할 수 있다고 지적된다. 이 행사에서 전날 발표된 '블레츨리 선언'은 이런 '프런티어AI'를 중심으로 공통의 AI 위험을 식별하고 각국이 이를 관리하기 위한 정책을 수립하는 것을 골자로 한다.

한발 더 나아간 사전 안정성 테스트 수행에는 한국과 개최국 영국을 비롯해 미국, 일본, 독일, 프랑스, 캐나다, 이탈리아 , 호주, 싱가포르 등 10개국과 EU(유럽연합)가 동의했다. 기업은 챗GPT 개발사 오픈AI를 포함해 MS(마이크로소프트), 구글, AWS(아마존웹서비스), 메타, 앤트로픽, 인플렉션AI, 미스트랄AI가 참여했다.

이와 관련해 영국은 AI안전성연구소 설치를 발표했고, 미국도 지나 러몬도 상무장관이 유사한 AI규제기관 설립 계획을 밝혔다. 이번 행사 개최를 주도한 리시 수낵 영국 총리는 "뜻을 같이하는 국가들 및 AI기업들과 함께 기념비적 합의에 이르렀다"고 평했다.

다만 '블레츨리 선언'에 28개국이 함께했던 것에 비하면 숫자가 확연히 줄었고, 수낵 총리가 논란 속에도 AI 거버넌스 관련 자국 입지 강화를 위해 초청을 강행했던 중국 정부와 기업들도 명단에서 빠졌다. 이번에 AI 규제 관련 국제 논의에 사실상 처음 합류한 중국은 첫날 선언에 동참했으나, AI 안전성 테스트 논의가 이뤄진 둘째 날 행사에는 영국 정부의 초청을 받지 않았다.

여기에는 물론 국제정세에 따른 고려가 있었겠지만, 중국이 자국 내에서 AI가 생성한 결과물에 대해 사회주의적 가치를 반영할 것을 규정하는 점도 적잖은 영향을 끼쳤을 것으로 보인다. 소비자 관점에서 규제에 주력하는 EU와 산업 진흥에도 무게를 두는 미국 사이에도 입장이 엇갈리는 가운데, 궤를 달리하는 중국까지 함께 협의점을 찾기에는 쉽지 않아 보인다.

이날 행사에서는 '프런티어AI'의 위험성을 파악하기 위한 '과학 현황(State of the Science)' 보고서 발간도 추진하기로 했다. 'AI 4대 석학'으로 꼽히는 요슈아 벤지오 몬트리올대 교수가 첫 보고서 발간을 이끈다. 그는 "AI 역량 향상에는 막대한 투자가 이뤄지고 있지만, AI 안전성 연구나 거버넌스 측면에서 모두를 위해 AI가 개발될 수 있도록 대중을 보호하는 것에 대한 투자는 아직 충분치 않다"며 "이런 중요한 문제에 대한 최신 증거를 제시함으로써 AI 안전성 관리에 있어 절실히 필요한 국제적 공조를 지원하게 돼 기쁘다"고 밝혔다.

또한 행사에서 데미스 하사비스 구글 딥마인드 CEO(최고경영자)는 "AI는 질병 치료부터 기후위기 해결까지 우리 시대의 가장 중요한 과제를 해결하는 데 도움이 될 수 있다. 하지만 전 세계에 새로운 도전과제를 제시할 것이므로 우리는 이 기술이 안전하게 구축되고 배포될 수 있도록 해야 한다"며 "이를 위해서는 정부, 업계, 시민사회가 힘을 합쳐 강력한 안전성 테스트와 평가를 알리고 개발해야 한다"고 말했다.

하지만 AI분야에서도 모든 이가 이번 행사와 그 결과에 대해 반길지는 미지수다. 행사에 앞서 또 다른 'AI 4대 석학'인 얀 르쿤 메타 수석AI과학자 겸 뉴욕대 교수는 자신의 X(옛 트위터)를 통해 샘 알트만 오픈AI CEO, 하사비스 딥마인드 CEO, 다리오 아모데이 앤트로픽 CEO에 대해 "막대한 로비를 하면서 AI산업을 규제에 묶으려는 이들"이라며 "이런 공포 조장이 성공한다면 소수의 기업만 AI를 컨트롤하는 재앙이 초래된다"고 지적했다.

그동안 제프리 힌튼 토론토대 교수는 벤지오 교수와 같이 AI의 위험성을 관리하기 위한 적극적인 규제를 촉구하는 반면, 앤드류 응 스탠퍼드대 교수는 르쿤 교수처럼 일부 선도기업들이 AI 위험성을 과장해 '사다리 걷어차기'를 한다는 견해를 낸 바 있다. 이들 'AI 4대 석학'조차 입장이 2대 2로 팽팽하게 나뉘는 것이다.

한동안 AI 규제 필요성을 강조해온 일론 머스크 테슬라 CEO도 개별국가의 관리감독을 받는 것은 내키지 않는 기색이다. 그는 "공정한 규칙이 뭔지 모르겠지만, 감독을 한다면 인사이트를 갖추고 시작해야 한다"며 "독립적인 '제3자 심판'이 있길 바란다"고 밝힌 바 있다. 행사 종료 뒤 수낵 총리와 가진 대담 행사에선 "미국, 영국, 중국이 AI 안전에 대해 일치된 입장을 취한다면 좋겠다. 일반적으로 리더십이 이곳들에 있으니까"라고 말하기도 했다.

한편 윤석열 대통령은 'AI 안정성 정상회의' 둘째 날 행사에 화상으로 참석해 글로벌 협력 방안을 논의했다. 윤 대통령은 모두발언에서 "AI를 비롯한 디지털은 오로지 인간 자유와 후생을 확대하는 데 기여해야 하고 개인과 사회 안전에 위협이 되지 않아야 한다"며 "누구나 경쟁과 혁신 기회를 공정하게 보장받고, 디지털이 만드는 혜택을 사회 전체가 골고루 향유할 수 있어야 한다"고 강조했다.

윤 대통령은 지난 9월 마련된 '디지털 권리장전' 내용을 공유한 데 이어, UN(국제연합) 내 국제기구 설립을 지원하기 위한 'AI 글로벌 포럼'을 개최하고 UN이 지난달 발족한 'AI 고위급 자문기구'와도 긴밀히 협력하겠다고 밝혔다. 한국은 이번 행사의 후속조치 상황을 중간 점검하기 위한 '미니 정상회의(mini virtual summit)'를 반년 뒤인 내년 5월 영국과 함께 공동 개최할 예정이다.팽동현기자 dhp@dt.co.kr