美소비자당국 수장 “AI 사기 우려 커…현행법으로 차단"

리나 칸 "생성형AI로 인한 소비자피해 급증할 것"
AI 알고리즘 차별, 개인정보 침해 등 감시 시사

[이데일리 김상윤 기자] 미국, 유럽연합(EU) 등 챗GPT 등 생성형 인공지능(AI) 규제 움직임이 재빨라진 가운데 미국 경쟁 및 소비자보호당국이 현행법으로 우선 AI의 부작용 차단에 나서겠다는 뜻을 시사했다.

리나 칸 FTC 위원장 (사진=AFP)

리나 칸 미국 연방거래위원회(FTC)는 18일(현지시간) 미 하원에 출석해 “챗GPT와 같은 생성형 AI로 인한 사기 등 소비자 피해가 급증할 것”이라며 “연방정부가 알고리즘 차별 가능성과 개인정보 침해, 사기 등에 대한 우려로 AI 규제안을 논의하고 있지만 관련 기업들은 현행 법률로도 FTC의 조사 대상이 될 수 있다”고 밝혔다. FTC는 반독점 정책과 함께 소비자보호 업무를 전담하는 독립 기관이다.

챗GPT는 미국의 비영리 연구소 오픈AI가 개발한 대화형 AI 챗봇으로 지난해 11월 출시되자마자 세계적으로 선풍적 인기를 끌고 있다. 하지만 빠른 발전 속도와 급속히 확대되는 사용자 규모를 감안할 경우 부작용을 보완하기 위한 안전장치는 없다는 지적이 이어지고 있다. 이를테면 허위 정보 전달, 사기로 활용, 개인정보 무단 수집 등 부작용을 차단해 소비자 피해를 줄여야 한다는 것이다.

이와 관련 각국에서 새로운 규제 도입 요구가 커지고 있지만 FTC는 현행법으로도 충분히 규율할 수 있다는 뜻을 밝힌 셈이다. 지난달 미국 인공지능 및 디지털정책센터(CAIDP)는 오픈AI의 초거대언어모델(LLM)인 GPT-4와 관련해 편향적이거나 속이는 것을 막기 위한 안전장치가 마련될 때까지 GPT의 추가 상업적 배포를 중단해달라고 FTC에 제소했고, FTC는 이를 검토하고 있다.

레베카 슬로터 FTC 위원도 “FTC 역사를 거슬러보면 변화하는 기술에 맞춰 현행법 집행을 적용해 왔다”면서 “항상 해왔던 것처럼 변화하는 기술에 우리가 가진 도구를 적용하는 것이며, 새롭고 혁명적인 기술이라고 겁먹지 않는다”고 강조했다.

알바로 베도야 위원도 “관련 기업들이 단순히 알고리즘이 (작동원리를 알 수 없는) 블랙박스라고 주장하는 것만으로 책임을 피할 수 없을 것”이라고 지적했다. IT기업들은 알고리즘 정보를 공개할 경우 기업기밀이 노출된다고 주장하지만, 경쟁당국은 기업들이 알고리즘을 자사에 유리하게 조작하는 것을 통제해야 한다는 입장이다.

그는 “FTC 직원들이 불공정하고 기만적인 행위에 민권법과 공정 신용 관련법, 신용기회균등법(ECOA) 등을 적용할 수 있다고 일관되게 말해왔다”며 “법이 존재하고 기업들은 이를 준수해야 한다”고 말했다.

김상윤 (yoon@edaily.co.kr)