美 FCC “허위 정보 제공 가능성 있어 사용금지는 아냐”… 관련 규칙안 공개 日, 위험성 커지자 ‘기업 자율’서 선회
인공지능(AI) 규제를 위한 주요 국가, 지역의 움직임이 가팔라지고 있다. AI의 강력한 파급력이 부정적인 방식으로 활용될 가능성을 사전에 차단하기 위한 대책들이 구체적인 모습을 드러내고 있다.
사진=게티이미지뱅크
미국 연방통신위원회(FCC)는 11월 열리는 미국 대선에서 AI를 활용한 허위 정보가 만연할 것을 우려해 정치 광고에 AI 사용 여부를 명시하도록 하는 방안을 추진한다고 22일(현지시간) 밝혔다. 제시카 로즌워슬 FCC 위원장은 이날 “AI 도구에 대한 접근성이 높아지면서 이런 기술이 사용될 경우 시청자들이 이를 인지할 수 있도록 해야 한다”며 이런 내용을 담은 규칙안을 공개했다. FCC는 “AI는 정치 광고를 만들 때 상당한 역할을 할 것으로 예상된다”며 “정치광고에서 AI의 사용은, 특히 딥페이크(특정 인물의 얼굴 등을 영상에 합성)를 통해 유권자에게 허위 정보를 제공할 가능성이 있다”고 지적했다. 규칙안이 채택되면 TV, 라디오, 케이블 등의 정치 광고에 AI가 콘텐츠를 생성했는지 여부를 공개해야 한다. 정치 광고에서 AI의 사용을 금지하는 것은 아니며 FCC가 관할하지 않는 온라인 및 온라인 동영상 서비스(OTT) 등에는 적용되지 않는다. 지난 2월 FCC는 전화 마케팅에 AI를 활용한 가짜 목소리인 ‘오디오 딥페이크’ 사용을 금지한 바 있다. 미국은 지난해 10월 대통령령을 통해 기업들이 AI 개발 단계부터 취약점을 찾아 안전성 테스트 결과를 정부에 보고하도록 하고 있다.
일본은 AI 관련 법률 규제를 논의할 ‘AI전략회의’를 시작했다. 23일 요미우리신문 등에 따르면 전날 열린 AI 전략회의에서 AI를 활용한 인권침해, 범죄 증가 등 위험성을 논의했다. 요미우리는 “정부는 리스크가 높은 AI에 대한 법률 규제를 실시하고 대규모 개발사업자에게 정보 공개 등을 요구하는 제도를 검토하고 있다”고 전했다. 일본 정부가 그간 AI의 개발 촉진을 중시해 기업 자율을 강조하는 입장을 취해온 것을 감안하며 정책 기조에 변화를 보인 것으로 평가된다. 내년 국회에 관련 법안 제출을 목표로 일본에 적합한 규제를 도출해 갈 계획이다.
유럽연합(EU)는 지난 21일 세계 최초로 포괄적 규제 방안을 담은 ‘AI법’의 시행을 확정해 다음달 발효한다. 이 법은 AI 기술을 위험 수준에 따라 ‘허용될 수 없는 위험’, ‘고위험’, ‘제한적 위험’, ‘저위험’ 4단계로 구분했다. 가장 높은 고위험 등급은 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술인데 AI 사용을 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다. AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기거나 인터넷, 폐쇄회로(CC)TV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등에 AI를 활용하는 것은 EU 역내에서 원천 금지된다. 위반 시 해당 기업에 전 세계 매출액의 7%를 과징금으로 부과할 수 있다.
