AI 기본법 시행 코앞인데... "우리 서비스도 규제 대상인가요?"

정부 '규제 최소화' 원칙에도 우려 여전
금융업계 "대출 심사 얼마나 다양한데"
법률AI '회색 지대', 의료 AI '이중 규제'
"고영향 AI 판단에 30일? 손해 책임은"

정부가 다음 달 시행을 앞둔 '인공지능(AI) 기본법'과 관련해 24일 '규제 최소화' 원칙을 밝혔지만, AI 업계에선 우려의 목소리가 여전하다. 특히 금융과 법률 영역에선 자사 AI가 '고영향 AI'에 해당하는지 판단하기 어려워 대응에 한계가 있다는 의견이 우세하고, 의료 분야에선 AI 기본법이 이중 규제로 작용할 수 있다는 반발도 나온다.

핀테크 플랫폼과 일반 은행에 같은 기준?

금융업계에선 일단 정부가 고영향 AI 적용 범위를 '대출 심사'로 한정한 데 대해 안도하는 분위기다. 고영향 AI에 포함되면 안전성·신뢰성 확보를 위해 위험관리 방안을 수립해야 하는 등 다양한 책무가 뒤따르기 때문이다. 금융권 관계자는 "추후 AI 활용 방안을 기획하는 데 우려가 줄었다"며 "AI를 단순 참고하는 경우는 고영향 AI가 아니므로 부담이 완화한 측면이 있다"고 말했다. 또 다른 관계자는 "대출 심사 영역은 이미 내부적으로 상당히 높은 수준의 관리체계와 통제 장치가 작동하고 있다"며 "명확한 관리 체계하에서 AI 적용을 시도하고 고도화할 수 있는 제도적 기반이 마련됐다는 점에서 기회 요인으로 보는 시각도 있다"고 말했다.

그럼에도 모호한 영역이 남아 있다는 것이 업계 시각이다. 대출 플랫폼을 운영하는 핀테크 기업 관계자는 "핀테크 플랫폼의 대출 심사, 특히 대안신용평가 모델에도 일반 은행권 대출 심사와 동일한 기준이 적용되는지 세부 내용이 없다"며 "향후 대출 심사 모델이 더 다양해질 텐데 법이 그 변화를 다 반영하기는 어려워 보인다"고 지적했다.

도대체 어디까지 고영향 AI로 볼 건가

법률 AI 업계에서도 고영향 AI 포함 여부가 분명하지 않다. 법에선 고영향 AI를 △채용·대출 같은 중대한 판단 △생명·신체·안전 등에 큰 영향을 미치는 영역에 사용되는 AI로 정의하는데, 법률 AI를 직접 명시하지 않아 '해석'의 여지가 있기 때문이다. 법률 AI 설루션 기업 관계자는 "전문 영역에서 사용하느냐, 단순 정보를 찾는 용도냐, 또 사용 주체가 누구냐에 따라 고영향 AI 해당 여부가 달라지는 것 같다"고 말했다.

의료 AI 업계는 과도한 규제를 경계하고 있다. 의료 AI는 신체와 관련된다는 이유로 모두 고영향 AI로 묶이는 것 아니냐는 우려가 나오는 데다, 이중 규제 가능성도 있다. 의료 AI 기업 관계자는 "지금도 식품의약품안전처에서 인허가를 받고 있는데, 고영향 AI까지 되면 이중 규제를 받는 셈"이라며 "출시 시점이 밀리고 기술 선점이 어려워지면서 국내 의료 AI가 빠르게 성장할 수 있을지 의문"이라고 걱정했다.

규제로 혁신 뒤처질라... 워터마크 비용도 상승

정부는 고영향 AI 해당 여부를 판단하는 확인 절차 기한을 30일로 설정했다. 하지만 기업 입장에선 이조차도 부담이다. 생성형 AI 서비스 기업 관계자는 "출시 시점이 영향을 받는다"며 "심사 결과를 기다리면서 마케팅 활동 전반이 보류되면 그게 고스란히 기업 손해"라고 답답해했다.

불확실성이 해소되더라도 결국 고영향 AI 규제가 적용되면 혁신이 저해될 것이란 인식도 크다. 높은 부가가치를 창출할 수 있는 서비스는 고영향 AI군으로 묶일 만한 데이터에서 나올 확률이 높기 때문이다. 생성형 AI 기업 관계자는 "고영향 AI가 되면 지금부터 학습을 시작하거나, 데이터에 의존하는 기업은 서비스 확장에 사실상 한계가 생길 것"이라고 진단했다.

생성형 AI 서비스 업계에선 워터마크에 대한 불만도 여전하다. 정부는 AI 기업의 '투명성 의무'에 대해 "부작용을 예방하기 위한 최소한의 안전장치를 마련하되, 종합적인 제도 개선 방안 논의가 필요하다"고만 밝혔다. 업계 관계자는 "규제를 일반 이미지까지 광범위하게 적용하는 건 실정에 맞지 않다"며 "워터마크 기능 사용에 따른 비용 상승도 있을 것"이라고 말했다.

손영하 기자 frozen@hankookilbo.com
김태연 기자 tykim@hankookilbo.com
진달래 기자 aza@hankookilbo.com

한국일보

경제