[설왕설래] AI 규제법

“인간 문명이 인공지능(AI)에 의해 해킹될 위험에 처했다.” 이스라엘 역사학자 유발 하라리는 약 1년 전 “AI가 단어, 소리, 이미지 등 언어를 조작하고 생성하는 놀라운 능력을 갖추게 됐다”며 이같이 경고했다. 얼마 전 오픈AI는 인간처럼 보고 듣고 대화할 수 있는 ‘GPT-4o’를 선보여 세상을 놀라게 했다. 그런데 오픈AI가 미국 유명배우 스칼릿 조핸슨의 목소리를 훔쳐 음성으로 사용했다는 의혹이 불거졌다. 조핸슨은 “가족과 친구까지 구분하지 못할 정도로 흡사해 충격과 분노를 느꼈다”고 했다.

살상용 AI 무기, 이른바 ‘킬러 로봇’의 출현은 더 두렵다. 에릭 슈밋 전 구글 최고경영자(CEO)는 지난해 5월 미 의회 청문회에 출석해 “AI 무기화를 방치할 경우 세계가 3차대전의 재앙을 맞게 될 것”이라고 했다. 미국은 자동화 무기 등 모든 무기에 인간 판단이 개입되도록 하고 있지만 중국은 ‘전략적 모호성’을 유지한다. 시진핑 국가주석은 2017년 AI 군대화를 언급한 이후 킬러 로봇 개발이 한창이다. ‘AI 대부’ 제프리 힌턴도 “10년 안에 자율적으로 인간을 죽이는 로봇 무기가 등장할 것”이라고 했다. 미 민간업체 글래드스톤 AI는 최첨단 로봇과 범용인공지능(AGI)이 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다고 했다.

이런 디스토피아에 대항해 인류가 AI 통제의 첫발을 내디뎠다. 유럽연합(EU)이 그제 세계 최초로 AI 규제법을 승인해 2026년부터 전면 시행한다. 이 법은 AI 기술에 관한 포괄적 규제를 담고 있는데 위험도에 따라 4단계로 분류해 상응하는 제재를 가하는 게 핵심이다. 위반 기업은 최대 3500만유로 또는 연간 매출의 7% 중 더 높은 금액을 과징금으로 물어야 하고 최악의 경우 AI 사용이 금지될 수도 있다.

서울에서도 AI 규범을 논의하는 AI 정상회의가 열렸다. 정상들은 AI의 안전·혁신·포용성을 표방하는 ‘서울 선언’을 채택했고 14개 국내외 기업도 AI 생성 콘텐츠를 워터마크로 식별하는 ‘서울 기업서약’을 발표했다. 한국은 이런 글로벌 회의를 주최하면서도 정작 여야 갈등 탓에 3년 전 발의된 AI 기본법조차 폐기해야 할 처지다. 안타깝고 부끄러운 일이다.

주춘렬 논설위원