"안전한 AI 개발하자"…28개국 '블레츨리 선언' 채택

英 제1회 'AI 안전 정상회의' 폐막 …인간통제 벗어난 '프런티어 AI' 경고
AI 신제품 출시전 안전성 평가해야…6개월 뒤 정상회의는 韓英 공동 개최

2일(현지시간) 세계 각국의 정상들이 제1회 'AI 안전 정상회의(AI Safety Summit)' 참석을 위해 영국 버킹엄셔주 블레츨리 파크에 모여 포즈를 취하고 있다. 2023.11.02 ⓒ 로이터=뉴스1 ⓒ News1 정지윤 기자

(서울=뉴스1) 김성식 기자 = 생성형 인공지능(AI) 제품이 선풍적인 인기를 끌면서 개인정보 유출과 가짜뉴스 범람, 저작권 침해와 일자리 위협 등이 사회적 문제로 부상한 가운데 28개국 대표들이 영국에 모여 안전한 AI를 개발하자는 '블레츨리 선언'을 채택했다.

로이터·AFP 통신에 따르면 리시 수낵 영국 총리는 2일(현지시간) 버킹엄셔주 블레츨리 파크에서 기자회견을 열고 "뜻을 같이하는 국가들과 기업들이 새로운 AI 모델을 출시하기 전 안전성을 엄격하게 평가해야 한다는 원칙에 동의했다"고 밝혔다.

수낵 총리는 이후 성명에서 "지금까지 새로운 AI 모델의 안전성을 검사하는 유일한 주체는 바로 이를 개발한 기업뿐이었다"며 "우리는 그들에게만 숙제를 맡길 순 없다. 이는 기업들도 수긍한 부분"이라고 부연했다.

영국 정부는 이달 1일부터 1박2일간의 일정으로 블레츨리 파크에서 제1회 'AI 안전 정상회의'(AI Safety Summit)를 개최하고 프런티어 AI의 위험성과 해결 방안을 논의했다. 28개국 대표단과 글로벌 AI 기업 및 학계 관계자 등 총 100여명의 주요 인사들이 참석했다. AI를 주제로 한 별도의 정상급 국제회의가 개최된 건 이번이 처음이다.

프런티어 AI란 기계학습을 통해 분야를 뛰어넘어 다양한 작업을 수행할 수 있는 고도의 범용 AI를 일컫는다. 대규모언어모델(LLM)을 사용하는 챗GPT와 구글의 바드 등이 그 시초로 꼽힌다. 다만 시판 중인 AI 제품들은 아직 인간의 개입 없이 스스로 추론하며 성장하는 범용 AI 단계까지는 도달하지 못했다. 그럼에도 AI 개발 속도가 워낙 빠른 데다 잠재적 위험이 워낙 크기 때문에 국제사회는 서둘러 예방책 마련에 나섰다.

AI 기술을 둘러싼 고심은 이날 발표된 '블레츨리 선언'에 고스란히 담겼다. 각국은 "AI는 인류의 번영을 가져올 잠재력을 지니지만 이를 실현하려면 안전하게 설계·개발·배포 및 사용돼야 한다"고 규정했다. 이어 "AI로 인해 발생하는 많은 위험은 본질적으로 국제적인 성격을 띤다"며 "광범위한 위험에 대처하기 위한 협력을 촉진할 것을 결의한다"고 했다.

그러면서 AI를 개발하는 개별 기업에는 더 큰 책임감을 부여하기로 했다. 각국은 "AI 시스템을 개발하는 주체들이 안전성 검사를 통해 AI 안전을 보장할 책임이 크다"며 "특히 오용과 통제의 문제를 방지하기 위해서는 모든 관련 주체가 잠재적 위험을 평가하기 위한 투명성을 제공해야 한다"고 적시했다.

이날 블레츨리 선언은 미국·영국·캐나다·프랑스·한국·일본 등 28개국과 유럽연합(EU)이 서명했다. 영국은 선언 이행을 위해선 프런티어 AI의 잠재적 위험을 파악하는 게 중요하다고 판단해 '과학 현황'이란 보고서를 공동으로 발간하기로 했다. 이 작업은 AI 딥러닝 권위자인 요슈아 벤지오 박사가 총괄할 예정이다.

중국도 선언에 서명했지만 AI 제품의 안전성 검사 부문은 합의하지 않았다. 중국은 둘째 날 회의에도 불참했다. 영국이 첨단기술을 둘러싼 미·중 갈등을 고려해 중국을 첫째 날 회의에만 초청했기 때문이다. 비공개로 진행된 이날 회의에선 AI 기술을 둘러싼 민감한 사안이 논의된 것으로 전해진다.

수낵 총리를 비롯해 카멀라 해리스 미국 부통령, 우자오후이 중국 과학기술부 차관, 조르자 멜로니 이탈리아 총리, 안토니우 구테흐스 유엔 사무총장, 우르줄라 폰데어라이엔 유럽연합(EU) 집행위원장 등이 각국과 국제기구를 대표해 정상회의에 참석했다. 윤석열 대통령은 화상으로 참석했다. 다만 주요 7개국(G7) 중 정상이 직접 자리한 경우는 이탈리아밖에 없어 회의 무게감이 떨어졌다는 평가도 나왔다.

업계에선 브래드 스미스 마이크로소프트(MS) 사장, 샘 알트만 오픈AI 최고경영자(CEO), 데미스 하사비스 구글 딥마인드 CEO, 일론 머스크 테슬라 CEO 등이 참석했다. 국내 기업 중에선 삼성전자와 네이버가 참석했다. 머스크 CEO는 이날 밤 영국 총리실에서 수낵 총리와 대담을 진행할 예정이다.

회의 장소인 블레츨리 파크는 영국 컴퓨터공학의 발상지로 2차 세계대전 시기 독일군의 암호 '에니그마'를 해독한 곳이다. 오픈AI의 첫 번째 해외지사와 구글 딥마인드, 앤트로픽 등을 유치한 영국은 AI 산업에서 미국과 중국에 이어 세계 3위 수준이란 평가를 받는다.

한편 한국은 내년 5월 영국과 공동으로 AI 미니 정상회의를 개최하기로 했다. 제2회 정상회의는 1년 뒤 프랑스가 연다. 정상급 회의를 정례화해 현재 기후변화에 관한 정부간 협의체(IPCC)에 준하는 국제적인 AI 협의체를 설립, 매년 보고서를 작성하도록 한다는 게 수낵 총리의 구상이다.

seongskim@news1.kr