“AI 부작용 막아라”… 각국 ‘규제벽 세우기’ 총력전

EU 이어 UN… 만장일치 결의안
기술 고도화 대비 규제는 전무 상황
업계, 이해하지만 혁신 저해 지적
MS·메타 등 20곳 공동대응 추진

최근 생성형 인공지능(AI)이 급속도로 발달하면서 기술 신뢰성과 투명성 확보가 산업계 이슈로 떠올랐다. 유럽연합(EU)이 세계 최초로 포괄적 AI 규제법을 마련한 데 이어 각국에서 AI 부작용을 줄이려는 움직임을 보인다. 업계에서도 기술 안전성을 확보하기 위한 대책을 세우고 있다.

지난 21일(현지시간) 유엔 총회에선 120개 회원국이 AI 관련 결의안을 만장일치로 채택했다. 협의를 주도한 미국 국무부는 성명에서 “지속 가능한 기술 개발을 위해, 안전하고 신뢰할 수 있는 AI 시스템을 위해 한목소리를 냈다”고 밝혔다. 결의안에는 안전한 AI 사용을 위해 국제적 합의가 시급하다는 점과 선진국과 신흥국 간 디지털 격차를 줄여야 한다는 내용이 담겼다. 유엔에서 AI 사용에 대한 결의안이 나온 건 처음이다. 앞서 EU는 지난 13일 의회 본회의에서 AI 규제법을 통과시켰다.

최근 일본에선 생성형 AI 개발자를 중심으로 규제하는 방안을 검토 중이라고 산케이신문은 보도했다. 일본 정부는 오는 6월 관련 규제를 경제재정 운영 지침에 넣을 예정이다. 현재 일본에 AI 규제 법안은 없지만, 정부 내 AI 컨트롤타워인 ‘AI 전략 회의’에서 AI 정책 방안을 논의하고 있다. 조 바이든 미국 대통령은 지난해 10월 AI 학습 전 관련 내용을 연방정부에 사전 보고하도록 하는 ‘안전성·보안성·신뢰성 있는 AI 개발·사용 행정명령’에 서명한 바 있다. 한국에선 지난해 2월 ‘AI 산업 육성 및 신뢰 기반 조성에 관한 법률안’이 국회 과학기술정보방송통신위원회 법안소위를 통과한 뒤 계류 중이다.

세계 각국이 AI 규제에 고삐를 죄는 배경에는 기술 악용에 대한 사용자들의 우려가 있다. 27일 여론조사업체 해리스엑스가 미국 성인 1082명을 대상으로 실시한 설문조사에 따르면, 70% 이상이 AI가 생성한 글·사진·영상에 대해 라벨링(AI가 만들었다는 표시)을 붙이도록 하는 규제 정책이 필요하다고 답했다. AI 기술을 활용한 딥페이크(딥러닝과 AI로 만든 영상, 이미지 등의 가짜 콘텐츠) 기술은 날로 고도화되는데, 이를 가려내는 기술과 관련 규제가 사실성 없다는 점도 불안을 키우고 있다.

업계에선 부작용을 최소화하는 AI 규제는 필요하지만, 기술 자체를 규제하면 혁신이 저해될 수 있다고 지적한다. 폴 버튼 IBM 아시아태평양 지역 총괄 사장은 지난 20일 서울 여의도 한국IBM에서 열린 기자 간담회에서 “AI 기술 자체를 규제해 혁신의 불씨를 끄기보다는 기술 적용 단계에서 규제해야 한다”며 “AI 실사용 사례에서 문제가 있다고 판단됐을 때 규제하자는 것”이라고 말했다. 다만 기술 악용이 현실화됐을 때는 엄격한 제재가 필요하다고 했다. 크리스토퍼 패딜라 IBM 규제 담당 총괄 부사장은 “딥페이크 악용 콘텐츠의 경우 반드시 게시자에게 법적 책임을 물어야 한다”며 “플랫폼 기업도 불법 콘텐츠를 빨리 삭제하지 않을 경우 법적 대가를 치러야 한다”고 강조했다.

기업 스스로도 AI 악용을 막기 위한 대책을 마련하고 있다. 구글, 마이크로소프트(MS), 메타, 아마존, 오픈AI 등 글로벌 빅테크 20곳은 지난 16일 독일 뮌헨안보회의에서 유권자를 속이는 AI 콘텐츠 방지를 위한 공동대책을 마련키로 했다. 국내에선 네이버, 카카오, SK커뮤니케이션즈가 악의적 선거 딥페이크 방지를 위한 공동선언을 채택했다.

조민아 기자 minajo@kmib.co.kr