오늘 英서 사상 첫 'AI 안전' 정상회의…'프론티어 AI' 위험성 경고한다

美부통령·中과기부 차관 참석…알트만·머스크 등 업계 대표도
안보 위협·통제 회피 가능성 논의…英총리 회의체 정례화 희망

1일(현지시간) 세계 최초의 인공지능(AI) 안전 정상회의가 열리는 영국 버킹엄셔주 블레츨리 파크의 저택 전경. 2023.11.1. ⓒ AFP=뉴스1 ⓒ News1 김성식 기자

(서울=뉴스1) 김성식 기자 = 오픈AI가 개발한 챗GPT와 같은 생성형 인공지능(AI) 제품이 선풍적인 인기를 끌자 각국이 서둘러 규제안을 마련하고 있는 가운데 영국이 1일(현지시간) 사상 처음으로 AI 안전을 주제로 정상회의를 개최한다.

로이터·AFP 통신과 일간 가디언에 따르면 영국 정부는 이날부터 1박2일간 버킹엄셔주 블레츨리 파크에서 제1회 'AI 안전 정상회의'(AI Safety Summit 2023)를 열고 프론티어 AI의 위험성과 해결 방안을 논의한다.

프론티어 AI란 기계 학습을 통해 다양한 작업을 수행할 수 있는 고도의 범용 AI를 일컫는다. 대규모 언어모델(LLM)을 사용하는 챗GPT와 구글의 바드 등이 대표적인 예시다.

아직 스스로 추론하며 성장하는 범용 AI 단계까지는 도달하지 못했지만, AI 개발 속도가 워낙 빠른 데다 잠재적 위험을 예측하기 어렵기 때문에 프론티어 AI와 관련한 국제적 논의가 시급하다는 게 영국 정부의 설명이다.

이번 정상회의에는 총 100여명의 주요 인사들이 참석한다. 리시 수낵 총리, 카멀라 해리스 미국 부통령, 우자오후이(吳朝暉) 중국 과학기술부 차관, 조르자 멜로니 이탈리아 총리, 안토니우 구테흐스 유엔 사무총장, 우르줄라 폰데어라이엔 유럽연합(EU) 집행위원장 등이 각국과 국제기구를 대표해 자리를 지킨다.

업계에선 브래드 스미스 마이크로소프트(MS) 사장, 샘 알트만 오픈AI 최고경영자(CEO), 데미스 하사비스 구글 딥마인드 CEO, 일론 머스크 테슬라 CEO 등이 참석한다. 이 외에도 현대 딥 러닝 기술의 대부로 불리는 제프리 힌턴 박사와 요슈아 벤지오 교수 등 컴퓨터공학계 저명인사들도 초청됐다.

회의 첫날에는 국가 안보를 위협하고 인간의 통제를 회피하는 프론티어 AI의 잠재적 위험성을 살펴본다. 현실과 거짓을 기묘하게 섞은 딥페이크 기술이 출현함에 따라 선거 혼란이 벌어지고 사회적 신뢰가 약화하는 문제와 자동화로 경제적 불평등이 심화하는 문제 등이 거론될 예정이다.

이와 별도로 해리스 부통령은 AI에 대한 자국 정부의 접근 방식을 연설하기로 했다. 조 바이든 미국 대통령은 지난달 31일 생성형 AI를 만드는 기업들을 상대로 제품 출시 전 안전 실험 결과를 보고하도록 하는 행정명령을 발표했는데, 이에 관한 보다 자세한 설명이 뒤따를 것으로 보인다.

회의 둘째날에는 수낵 총리가 정부와 기업, 전문가로 구성된 소위원회를 소집해 AI 안전 위험에 대처하기 위한 구체적인 조치를 논의한다. 이를 통해 기후변화에 관한 정부 간 협의체(IPCC)에 준하는 국제적인 AI 협의체를 설립해 정상급 회의를 정례화하고 매년 보고서를 작성하도록 한다는 게 수낵 총리의 구상이다.

회의 장소인 블레츨리 파크는 영국 컴퓨터공학의 발상지로 2차 세계대전 시기 독일군의 암호 '에니그마'를 해독한 곳이다. 오픈AI의 첫번째 해외지사와 구글 딥마인드, 앤트로픽 등을 유치한 영국은 AI 산업에서 미국과 중국에 이어 세계 3위 수준이란 평가를 받는다.

seongskim@news1.kr