국경 없는 AI 서비스, 책임은 누가?…조인철 의원 “국내대리인 제도 보완 시급”

[디지털데일리 오병훈기자] 글로벌 AI 서비스가 국내 이용자와 산업에 깊숙이 들어왔지만 각종 문제가 발생했을 때 이를 책임질 수 있도록 하는 ‘국내대리인제도’ 보완이 시급하다는 지적이 국회에서 나왔다.

조인철 의원(더불어민주당)은 인공지능(AI) 사업자의 국내대리인 지정·관리 절차를 강화하는 내용의 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’ 일부개정법률안을 대표 발의했다고 13일 밝혔다.

‘챗GPT’ ‘제미나이’ 등 해외 생성형 AI 서비스가 국내 시장에서 빠르게 확산되는 상황에서 사고나 위법 논란이 발생했을 때 정부가 즉시 연락하고 자료 제출을 요구할 수 있는 책임 창구를 분명히 하겠다는 취지다. 조 의원실에 따르면 현재 과학기술정보통신부에 국내대리인을 신고한 해외 AI기업은 앤트로픽(Anthropic) 1곳에 불과하다.

◆일상에 자리잡은 AI, 책임 주체는 흐릿하다

현행 AI기본법은 국내에 주소나 영업소가 없는 일정 규모 이상의 해외 AI사업자에게 국내대리인을 두도록 하고 있다. 기준은 전년도 매출액 1조원 이상, AI 서비스 부문 매출액 100억원 이상, 국내 일평균 이용자 수 100만명 이상 등으로 제시돼 있다. AI 서비스 관련 사고로 자료 제출을 요구받은 경우도 지정 대상에 포함될 수 있다.

문제는 지정 의무가 있다고 해서 실제 책임 창구가 작동한다고 보기 어렵다는 점이다. 국내 AI기업은 법 위반 시 자료 제출, 시정 요구, 제재 절차를 직접 부담하지만 해외 사업자는 국내 연락 체계가 불분명하면 행정 대응이 지연될 가능성이 있다는 것이 조 의원 분석이다. 이 경우 같은 시장에서 경쟁하면서도 국내 기업과 해외 기업이 부담하는 규제 강도가 달라지는 ‘역차별’ 논란으로 이어질 수 있다.

조 의원이 추진하는 개정안은 국내대리인을 단순한 연락처가 아니라 실질적 책임 창구로 만들겠다는 데 방점이 찍혀 있다. 해외 AI사업자가 국내 법인을 두고 있다면 해당 법인을 국내대리인으로 우선 지정하도록 하고 국내대리인이 바뀌면 과학기술정보통신부 장관에게 변경 신고를 하도록 하는 내용이 핵심이다.

또 국내대리인의 성명, 주소, 연락처, 담당자 정보 등을 인터넷 사이트 등에 공개하고 과기정통부에도 통보하도록 했다. 정부와 상시 연락이 가능하도록 필요한 조치를 취해야 하며 관련 의무를 위반하면 3000만원 이하의 과태료를 부과할 수 있도록 했다. 이는 국내 사업 운영과 무관한 형식적 대리인을 세워 법적 책임을 우회하는 가능성을 줄이려는 장치로 풀이된다.

◆개인정보·플랫폼 국내 대리인제도도 손질…AI에도 적용

국내대리인 제도 강화는 AI 분야만의 흐름은 아니다. 지난해 2월에는 해외사업자의 국내대리인 제도 개선을 담은 개인정보 보호법 개정안이 국회 정무위원회를 통과했다. 국내대리인이 해외사업자의 개인정보 보호 책임과 피해구제 기능을 담당하도록 하는 제도다. 해당 논의에서도 형식적 대리인 지정 문제와 피해구제 실효성이 핵심 쟁점으로 제기됐다.

공정거래 분야에서도 유사한 흐름이 나타난다. 공정거래위원회는 지난 3월 전자상거래법 시행령·시행규칙 개정안을 입법예고하며 일정 규모 이상의 해외 플랫폼에 국내대리인 지정을 요구하는 방안을 제시했다. AI, 개인정보, 전자상거래 등 분야는 다르지만 해외 디지털 사업자의 국내 책임성을 높이려는 정책 방향은 공통적이라는 분석이다.

유럽연합(EU)도 AI 규제에서 역외 사업자에 대한 책임 창구를 강조하고 있다. EU 집행위원회는 AI Act가 2024년 8월 1일 발효됐다고 밝히며 책임 있는 AI 개발과 배치를 목표로 한다고 설명했다. EU AI Act는 역외 사업자가 EU 시장에 AI 시스템이나 범용 AI 모델을 제공하는 경우 대표자 지정 등 규제 당국과의 접점을 요구하는 방향으로 설계돼 있다.

이는 한국의 AI기본법 개정 논의에도 시사점을 준다는 것이 조 의원 시각이다. AI 서비스는 모델 개발, 클라우드 인프라, 애플리케이션 유통, 응용 앱 인터페이스(API) 제공이 국경을 넘어 결합되는 구조다. 따라서 사고 발생 후 해외 본사와 개별적으로 연락하는 방식만으로는 이용자 피해구제나 행정조사가 늦어질 수 있다. 국내대리인 제도는 이러한 시간차를 줄이기 위한 최소한의 집행 인프라라는 것이 조 의원의 시각이다.

조 의원은 “AI기본법상 국내대리인 지정 대상이 규정돼 있지만 실제 신고 기업은 앤트로픽 단 한 곳에 그친 것은 제도 실효성이 부족하다는 신호”라며 “단순한 우편함이나 연락창구가 아니라 국내 이용자 보호와 정부 대응을 위한 책임창구가 돼야 한다”고 강조했다.