[횡설수설/서정보]“AI 재앙 막게 세계가 협력하자”

영국 런던에서 북쪽으로 80km 떨어진 블레츨리시는 제2차 세계대전 당시 영국이 독일의 최첨단 암호체계인 ‘에니그마’를 풀었던 장소로 유명하다. 현대 컴퓨터와 인공지능(AI)의 시조인 앨런 튜링과 전문가들이 최초의 컴퓨팅기계를 개발해 독일 암호를 90%가량 풀어냈고, 이는 연합군 승리의 결정적 밑거름이 됐다. AI의 고향이라 할 만한 블레츨리에서 한국 미국 중국 영국 등 28개국이 모여 제1회 AI 안전 정상회의를 열고 1일 ‘블레츨리 선언’을 발표했다.

▷블레츨리 선언은 AI가 재앙적 피해를 초래할 가능성이 있다며 이를 막기 위한 국제적 협력을 다짐하는 내용을 담았다. 세계 각국이 모여 AI 관련 공동 협력을 다짐한 건 처음이다. AI로 인한 피해는 전 지구적 성격을 띠고 있어 국제적 협력을 통해 해결해야 한다는 공감대가 형성된 것이다. 이 선언은 규범일 뿐 강제성이 없다는 한계가 있다. 다만 ‘인간 중심적, 신뢰 높은, 책임감 있는’ AI 모델을 구축해야 한다는 공통 인식만큼은 명확히 했다.

▷이번 회의에 참석한 카멀라 해리스 미국 부통령의 말처럼 AI의 위협은 눈앞에 보일 만큼 ‘실존적’이다. 딥페이크를 통한 허위 정보로 선거판이나 전쟁터의 상황을 오도하는 일이 점차 빈번해지고 있다. 전례 없는 규모의 사이버 공격, 테러리스트들의 대량살상무기 개발 위험 등도 점쳐지고 있다. 인류가 AI로 인해 절멸할 수도 있다는 위기감이 팽배해지고 있는 것이다.

▷이에 따라 미국 유럽연합(EU) 영국 등은 AI 규제에 서둘러 나서고 있다. 조 바이든 미국 대통령은 이번 정상회의를 이틀 앞두고 행정명령을 통해 AI 규제에 나섰다. AI 기업은 제품 출시 전 안전 평가 결과를 정부와 공유하게 하고, AI가 생성한 정보는 식별표시를 붙이도록 했다. 2021년 세계 최초로 AI 법의 초안을 내놓았던 EU도 6월 최종안을 마련했고, 올해 통과를 목표로 하고 있다. 여기엔 안면 인식 시스템 사용을 금지하는 내용 등이 담겼다.

▷각국의 경쟁은 자국의 AI 상황에 맞게 AI 규범을 선도하겠다는 속내가 담겨 있다. 미국이 6·25전쟁 때 만든 국방물자생산법을 AI 규제 명령의 근거로 삼고, 영국 리시 수낵 총리가 이번 회의를 주도한 것은 이 때문이다. 미국과 영국은 이번 회의 기간 중 AI 규제 연구소 설립 계획도 경쟁적으로 발표했을 정도다. 이번 회의에서 우리나라는 지난달 정부가 발표한 ‘디지털 권리장전’을 설명했다고 한다. 하지만 이 장전의 AI 관련 내용은 초보 수준에 불과하다. 우리도 100쪽이 넘는 미국 행정명령처럼 자세하고 특화된 AI 규범을 만들 필요가 있다. 후속 정상회의는 6개월 뒤 우리나라에서 열린다. 이때는 장소뿐 아니라 내용 면에서도 ‘한국의 무대’가 될 수 있도록 해야 한다.

서정보 논설위원 suhchoi@donga.com