美 규제기관 "AI 악용 범죄·불법적 차별 제재 하겠다"

美 법무부·FTC 등 공동성명…"AI에 대한 면책 없다"
알고리즘 이용한 차별·위험성 평가 미비 등에 제재

[이데일리 박종화 기자] 미국 규제기관들이 AI를 악용한 범죄·차별행위를 적극적으로 제재하겠다는 뜻을 밝혔다. 최근 미국 정부와 의회에 확산하는 있는 AI 규제 논의의 일환이다.

(사진=AFP)

25일(현지시간) 미 경제전문매체 CNBC에 따르면 미 법무부와 연방거래위원회(FTC), 소비자보호금융국, 평등고용위원회 등은 이날 공동성명을 통해 “AI 사용이 불법적인 편견을 고착화하고 불법적인 차별을 자동화하며 다른 해로운 결과를 만들 가능성이 있다”고 우려를 표했다. 이어 “전통적인 방법을 사용하든 첨단 기술을 사용하든 상관없이 위법 행위에 대해선 권한을 적극적으로 행사해 개인의 권리를 보호할 것”이라고 밝혔다.

특히 리나 칸 FTC 위원장은 “AI를 이용한 범죄 위협으로부터 미국인을 보호하기 위해 모든 법적 권한을 행사하는 걸 주저치 않겠다”며 “현행법에 AI에 대한 면책은 없다. FTC는 기만적이고 불공정한 관행·경쟁 방식에 맞서 법을 강력하게 집행할 것”이라고 했다.

이들 규제기관은 AI가 범죄나 차별 행위에 악용될 위험이 있다며 이를 제재하겠다는 뜻을 밝혔다. FTC는 위험성 평가 없이 AI 서비스를 공개하거나 위법한 데이터로 AI를 학습시키는 행위, AI로 각종 차별을 조장하는 콘텐츠를 생성하는 행위 등을 제재 대상으로 꼽았다. 평등고용위원회는 임대인이 세입자를 고를 때 AI 알고리즘을 이용해 특정 인종이나 성별, 장애인 등을 차별하는 걸 예로 들었다. 이들 행위는 FTC법이나 민권법 등 현행 미국법을 통해서도 처벌할 수 있다.

최근 미국 정부와 의회는 AI 규제에 속도를 내고 있다. 국가통신정보청은 이날 AI의 윤리성·신뢰성을 담보할 규칙 제정을 앞두고 의견 수렴에 착수했다. AI 서비스 출시에 앞서 안전성 인증을 받게 하는 방안 등이 거론된다. 미국 상원도 척 슈머 민주당 원내대표 주도로 관련 입법을 준비 중이다. 역시 AI 서비스 공개에 앞서 전문가들이 안전성 등을 평가하고 그 평가 결과를 이용자에게 공개하는 게 핵심이다. 크리스틴 클라크 법무부 민권차관보는 “AI는 오늘날 차별과 관련해 가장 큰 위협이 되고 있으며 정책 입안자 등이 이 문제를 면밀히 연구·검토해야 한다”고 말했다.

박종화 (bell@edaily.co.kr)