“AI, 원자력만큼 강력… 통제 위해 국가 간 협력 필요”

반기문 前 UN사무총장 기조연설

“인공지능(AI) 기술이 원자력만큼 강력해졌습니다. AI 기술을 제어하려면 이를 모니터링하고 통제하는 국제 기관 설립을 위한 국가 간 협력이 필요합니다.”

13일 한국고등교육재단에서 열린 태재미래전략연구원 포럼 기조연설자로 나선 반기문 전 국제연합(UN) 사무총장은 “사이버 왕따, 데이터 유출, 가짜 뉴스 등으로 인해 아이들과 기업은 물론 사회의 장기적 안전도 위험에 빠지고 있다”면서 “AI 시대의 지속 가능성을 위해 이런 문제를 해결할 수 있는 새로운 제도적 틀이 필요한 상황”이라고 했다. 그가 내놓은 대안은 AI를 통제할 국제기구다. 반 전 총장은 지난 2007년부터 10년간 UN을 이끌며 지속가능발전목표(SDGs)와 파리 기후 협약 등 중요한 국제 합의를 주도하며 국가 간 협력의 중요성을 실감했다고 했다.

반 전 총장이 우려한 것은 AI의 잠재적 부작용이다. AI가 점점 더 많은 인간의 영역을 대신하게 되면서 국가 안보 등 중요한 분야에서 예상치 못한 결정을 할 수 있다는 것이다. 반 전 총장은 “AI가 인간을 대신해 중요한 의사 결정을 맡게 하는 것은 불완전한 정보, 시스템 장애 또는 파괴 행위로 인한 오판의 가능성이 있어 특히 위험할 수 있다”고 했다.

반 전 총장이 속한 국제 원로 그룹 ‘디 엘더스(The Elders)’는 핵확산금지조약(NPT)과 국제원자력기구(IAEA)처럼 규제 권한을 가진 조약과 국제기구를 만들어 AI 기술 개발을 감시하고 통제해야 한다고 촉구한 바 있다. 챗GPT 개발사인 오픈AI 대표이사(CEO) 샘 올트먼도 미 청문회에서 “AI 개발에 표준을 만들고 이를 감시할 독립적 국제기구를 설립해야 한다”고 했다.

반 전 총장은 AI 통제와 이를 위한 국제기구를 만들기 위해 AI가 무엇을 할 수 있는지, 어떤 수준까지 허용할 수 있는지, AI의 위협을 어떻게 최소화할 수 있는지 등을 논의하는 국제적 토론을 제안했다. 그는 “기술의 진정한 힘을 발휘하려면 기술을 윤리적이고 책임감 있게 만들어 사용하고 통제해야 한다”면서 “그래야만 지속 가능한 디지털 웰빙과 이익을 동시에 얻을 수 있을 것”이라고 강조했다.