"AI로 인한 파국적 위험 막자"···한·미 등 각국 정상 '공동선언'

[英서 1회 AI 안전 정상회의]
AI 위협 맞선 첫 국가 차원 논의
국제기구 설립·규범 정립 추진
일각선 "기술 발전 제약" 비판도

이종호(앞줄 왼쪽 두번째) 과학기술정보통신부 장관을 비롯한 각국 정부 관계자들이 1일(현지시간)부터 이틀간 영국 버킹엄셔주 블레츨리 파크에서 열린 '인공지능 안전 정상회의'에서 기념촬영을 하고 있다. 연합뉴스

[서울경제]

고도화한 인공지능(AI) 기술이 초래할 수 있는 파국적 위험에 대응하기 위해 각국 정부가 처음으로 모여 국가 단위의 논의를 본격화했다.

우리나라를 비롯해 미국과 중국, 유럽연합(EU) 등 세계 각국 정부는 1일(현지시간)부터 이틀 간 영국 버킹엄셔주 블레츨리 파크에서 열린 제1회 ‘AI 안전 정상회의’에서 AI의 잠재적 위험성에 공동 대응하자는 내용을 골자로 하는 블레츨리 선언을 발표했다. 각국 정상들은 선언문을 통해 “AI 모델의 주요 능력으로 인해 심각한, 심지어 재앙적인 피해가 발생할 가능성이 있다”면서 “AI로 인해 발생하는 많은 위험은 본질적으로 국제적 성격을 띠고 있어 협력을 통해 해결하는 것이 최상"이라고 밝혔다. 이어 "우리는 인간 중심적이고, 신뢰할 수 있으며 책임감 있는 AI를 보장하기 위해 포용적인 방식으로 협력할 것을 결의한다”고 덧붙였다.

이번 행사에는 한국 등 28개국 정상과 장관 외에도 우르줄라 폰데어라이엔 EU 집행위원장, 안토니우 구테흐스 유엔 사무총장 등 정상급 인사들이 직접 참석하거나 화상 연설을 했다. 윤석열 대통령은 2일 화상 연설을 통해 글로벌 차원의 디지털 국제 규범 정립을 위한 연대를 강조하며 관련 국제기구 설립 추진을 제안했다. 이 밖에 오픈AI, 구글 딥마인드, 메타, 마이크로소프트, 테슬라, 엔비디아 등 AI 기업 관계자와 학계 전문가도 참석했다. 국내에서는 삼성전자와 네이버가 초청됐다.

이번 회담은 생성형 AI 등 첨단 기술이 불러올 위험에 대비해 각국 정부 차원에서 머리를 맞댄 첫 시도라는 점에서 의미를 가진다. 고도화한 AI가 인류의 생산성과 삶의 질을 뒤바꿀 것이라는 장밋빛 전망과 함께 통제되지 않는 AI의 위험성에 대한 우려도 점증하고 있기 때문이다. AI 안전성에 대한 우려와 규제 논의는 개별 정부나 기업, 기관 단위로 이뤄져 왔다. 오픈AI가 최근 AI에 의한 사이버 보안 문제와 핵 위협 등에 대비해 전담 대응팀을 조직한 것이 대표적이다. 미셸 도넬란 영국 기술장관은 이번 선언에 대해 “처음으로 각국이 AI의 위험을 살펴볼 필요가 있다는 데 동의한 것”고 의미를 부여했다.

다만 업계 일각에서는 이번 결의가 성장 초입 단계에 있는 AI 기술 발전을 제약할 수 있다는 비판이 제기된다. 제프리 힌턴 토론토대 교수와 요슈아 벤지오 몬트리올대 교수 등 AI 학계의 거물들은 물론 샘 올트먼 오픈AI 최고경영자(CEO)와 데미스 하사비스 구글딥마인드 CEO 등 AI 산업계 수장들이 나서 기술에 내포한 위험성을 경고해왔지만 반대 의견도 여전히 만만치 않다. 앤드류 응 스탠퍼드대 교수와 같은 이들은 AI의 위협에 과장된 측면이 있다고 주장한다. 이번 행사에 참여한 일론 머스크 테슬라 CEO는 “공정한 규칙이 무엇인지 모르겠지만 감독을 하기 전에 통찰부터 출발해야 한다”며 “AI 업계에는 정부가 뭘 해야 하는지 알기도 전에 일단 성급하게 규칙을 들이댈 것이란 우려가 크다. 그런 일은 없을 것 같다고 생각한다”고 지적했다.

허진 기자 hjin@sedaily.com