"초거대 기술의 벼랑 끝에"…유엔 첫 AI 규제 회의

유엔 안전보장이사회(안보리)에서 인공지능(AI) 규제 이슈가 뜨거운 감자로 떠올랐다. AI가 국제 안보에 끼칠 위험에 대한 우려가 커지는 가운데 국제 사회의 규제 움직임이 본격화되는 계기가 될지 주목된다.

유엔 안보리는 3일(현지시간) 기자회견을 통해 "인류가 초거대 기술 도약의 벼랑 끝에 서 있다"며 AI가 인류 평화와 안보에 미칠 수 있는 위협을 논의하는 첫 회의를 오는 18일 개최할 예정이라고 밝혔다.

안보리 순회 의장국인 영국의 바버라 우드워드 주유엔 대사는 "AI가 가진 엄청난 기회와 위험의 양면을 모두 다루는 다자적 접근을 장려다"며 "이를 위해서는 전 세계적인 노력이 필요하다"고 강조했다.

그는 AI가 유엔의 개발 프로그램을 돕고 인도주의 구호 활동을 개선하며, 평화유지와 분쟁 예방 등을 지원할 수 있다는 측면에서 이점이 크다면서 "AI가 선진국과 개발도상국 간 격차를 좁히는 데 도움이 될 수도 있다"고 했다. 하지만 동시에 심각한 안보 문제도 제기하는 만큼, 이에 대응할 방안도 다뤄야 한다고 덧붙였다.

제임스 클레벌리 영국 외무장관이 주재할 이번 회의에서는 급진전하고 있는 AI 기술에 대한 국제 전문가들의 견해를 청취하고 15개 이사국이 그 영향에 대한 논의를 이어갈 예정이다.

회의에는 안토니우 구테흐스 유엔 사무총장도 참여한다. 그는 오는 9월 AI 자문위원회를 만들어 유엔의 대응 계획을 구체화하겠다고 밝혔다. AI 대응을 위한 새로운 유엔 기구의 모델로는 지식 기반 기구이지만 규제 권한도 일부 보유한 국제원자력기구(IAEA)를 제시하기도 했다.

구테흐스 사무총장은 지난달 과학자들과 전문가들은 AI가 핵전쟁과 같은 정도로 인류에 대한 실존적 위협이 되고 있다고 선언하며 전 세계에 대응을 촉구한 바 있다.

챗GPT와 같이 문장과 영상을 만드는 생성형 AI는 등장 이후 이용이 급속히 확산하고 있지만, 가짜 콘텐츠의 범람과 AI가 저지르는 안보적, 경제적, 범죄적 손실 등 인간의 통제를 벗어난 AI의 위험성에 대한 경고와 규제 목소리도 제기돼 왔다.

'딥러닝의 대부'로 불리는 제프리 힌턴 캐나다 토론토대학 교수는 "AI가 살인 로봇(killer robots)'으로 변할 날이 두렵다"며 구글에 사표를 냈다. 샘 올트먼 오픈AI 최고경영자(CEO)와 구글 딥마인드 공동창업자인 무스타파 술레이만 등 업계 리더들은 일제히 AI의 위험성에 대해 경고했다.

세계 각국과 주요 기구들도 AI 통제를 위한 움직임이 분주하다. 유럽연합(EU) 입법기관인 유럽의회는 지난달 14일 AI에 대한 세계 최초의 포괄적 규정안을 의결했다. 이 규정안에는 AI를 활용한 안면 인식 등 원격 생체 인식을 전면 금지하자는 방안이 포함됐다.

미국도 내년 대선을 앞두고 AI 발 가짜뉴스에 대한 경각심이 커지자 의회와 행정부 차원에서 법제화 작업에 속도를 내고 있다. 미 백악관은 AI의 안전한 사용을 위한 정책 개발 회의를 정기적으로 열고 있으며, 미 상원도 '보안(security), 책임성(accountability), 민주적 토대(foundations), 설명 가능성(explainability)' 등의 대원칙을 토대로 한 AI 정책 논의에 최근 착수했다.

조유진 기자 tint@asiae.co.kr