AI 규제 나선 주요국들 “편견·허위정보 유포… 전쟁까지 전방위 위협”

미국 월스트리트저널은 1일(현지 시각) 미국·중국·영국·한국 등 28국과 유럽연합(EU)이 세계 첫 인공지능(AI) 안전 정상회의에서 서명한 ‘블레츨리 선언’에 대해 “강력한 새 AI가 인류에 미칠 잠재적이고 실존적인 위협에 대해 경고하는 최초의 국제 성명”이라고 평가했다.

카멀라 해리스 미국 부통령, 우르줄라 폰데어라이엔 EU 집행위원장, 안토니우 구테흐스 유엔 사무총장 등 세계 각국 정상급 인사들과 구글 딥마인드, 메타, 마이크로소프트, 엔비디아, 오픈AI, 테슬라 등 업계 최고경영자 100여 명이 모인 이번 행사는 리시 수낙 영국 총리 주도로 마련됐다. 수낙 총리는 “세계 최고의 AI 강국들이 AI의 위험성을 이해하는 것이 시급하다는 점에 모두 동의한 것”이라면서 “우리 자녀와 손자들의 장기적인 미래를 보장하는 데 도움이 되는 획기적인 성과”라고 밝혔다.

인공지능과 인류의 전쟁을 다룬 영화 터미네이터의 한 장면

그래픽=김현국

◇AI가 만들어낸 편견·차별·허위 정보 유포

해리스 미 부통령은 이날 런던 미 대사관에서 열린 별도 행사에서 AI의 안전을 논의하면서 편견, 차별, 허위 정보 유포 등 ‘전방위적인 위협’을 감안해 폭넓은 정의를 내려야 한다고 촉구했다. 그는 결함이 있는 AI 알고리즘으로 인해 의료 서비스를 거부당하는 노인이나 노골적인 딥페이크(가짜 영상·이미지) 사진으로 협박을 당하는 여성을 실질적인 사례로 꼽았다. AI 기업들이 대량의 정보를 AI에 학습시키고 활용하는 과정에서 사회적 편견과 불공정을 제대로 걸러내지 못한 채 수많은 사람들이 사용하면서 결국 이런 현상을 심화시키는 결과를 초래할 수 있다는 것이다. 해리스 부통령은 또 “전 세계 사람들이 AI가 만들어낸 허위 정보의 홍수로 사실과 허구를 분별할 수 없게 된다면 과연 AI가 민주주의를 위해 존재한다고 할 수 있겠느냐”고 했다. 미국 정부는 지난달 30일 조 바이든 대통령이 서명한 행정명령을 통해 기업의 AI 서비스 개발부터 출시에 이르기까지 전 과정에 직접 개입해 알고리즘 편향성과 허위 정보 생성 같은 문제를 막겠다고 밝힌 바 있다.

전문가들은 AI가 과거의 무기나 다른 첨단 기술에 비해 더 위협적인 이유는 컴퓨터만 있으면 누구나 쉽게 악용할 수 있다는 점을 꼽는다. 인터넷에는 무료로 사용할 수 있는 개방형 AI가 수백개 올려져 있고, 이 AI의 성능은 챗GPT와 비슷한 수준까지 발전했다. 누구나 간단한 조작으로 딥페이크를 만들거나, 가짜 뉴스를 유력 매체의 정보로 둔갑해 유포할 수도 있게 된 것이다.

중국 대표로 정상회의에 참석한 우자후이 과학기술부 부부장은 개막식에서 “중국은 국제 거버넌스 프레임워크 구축을 돕기 위해 AI 안전에 대한 협력을 강화할 준비가 되어 있다”고 했다. 끊임없이 갈등을 빚고 있는 미국과 중국이 AI 규제에 대해서만은 한목소리를 낸 것이다.

◇등장하지 않은 미래의 AI까지 규제

블레츨리 선언은 ‘프런티어 AI’라고 불리는 미래의 고성능 AI에도 주목했다. 아직은 가상의 개념에 불과하지만 프런티어 AI가 실제로 탄생하면 AI가 스스로 생각하고 추론하면서 인간의 통제를 벗어날 수 있다. 고도로 지능화된 AI가 전쟁의 판도를 마음대로 바꾸거나 테러를 일으키는 시나리오도 가능하다. 정우성 포스텍 산업경영공학과 교수는 “프런티어 AI는 일단 등장하면 되돌리는 것이 불가능하다”면서 “특히 고도의 AI는 스스로 더 발전한 AI를 만들어낼 수 있다는 점에서 핵폭탄보다도 위험한 존재가 될 수 있다”고 했다.

이날 선언문에서 참가국들은 “AI가 우리 사회에 미치는 영향을 이해하기 위해 보다 폭넓은 국제사회의 접근이 필요할 뿐 아니라 실존적 위협에 대해 과학적인 이해가 필요하다”며 “위험에 대응하기 위해 각국은 정책을 만들고 상황에 따라 적절하게 협력한다”고 했다. 다만 이번 선언에는 공동 대응하겠다는 원론적인 얘기만 담겼을 뿐 구체적인 정책 목표 등은 없다.파이낸셜타임스는 “AI 개발 규제의 필요성에 대해 각국이 합의했지만 이런 규제가 어디까지 이뤄져야 하는지에 대해서는 이견이 있을 것으로 예상된다”고 했다.

☞프런티어 AI

인류에게 심각한 위험을 초래할 수 있을 정도로 고도의 기능을 갖춘 인공지능(AI)의 기초 모델을 말한다. 현재의 AI는 특정 분야에 전문성을 갖고 사람의 지시에 따라 움직인다. 반면 프런티어 AI는 스스로 생각하고 추론하며 모든 영역에 활용할 수 있는 범용 AI로 진화할 가능성이 높다. 세계 각국은 프런티어 AI가 등장할 경우 인간의 통제를 벗어나거나 전쟁에 활용되는 등 AI의 실제적인 위협이 커질 것으로 본다.