[현장] AI는 질주하는데 행정은 제자리…기업들 "불확실성 해소 서둘러야"

조인영 2026. 11. 16. 17:39
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

피지컬·에이전트 AI 시대를 맞아 기술과 서비스의 변화 속도에 맞춰 행정 대응도 빨라져야 한다는 주장이 나왔다. 사업자가 기존 제도를 활용하다 경쟁에서 낙오할 수 있다는 우려가 큰 만큼 시장 변화에 대응할 수 있도록 규제 불확실성을 줄이고 신속한 행정 지원을 제공해야 한다는 주문이다.

강지원 법무법인(유한) 태평양 TMT 변호사는 '기업이 직면한 AI 규제 실무의 현안과 입법적 개선 과제' 발제에서 "고영향 AI의 경우 잘못 활용하면 기업의 평판에 영향을 미치거나 소비자에게 큰 위험이 확산될 수 있다"라며 "기업들이 가장 민감하게 생각하는 부분은 자사가 제공하는 AI 시스템이나 서비스가 언제 고영향 AI에 해당할 수 있는지에 대한 판단"이라고 말했다.

엄 실장은 "과기정통부도 국민의 기본권을 보호하면서 기업의 혁신을 저해하지 않고, 합리적이면서도 기술 변화에 유연하게 대응할 수 있는 체계를 구축하도록 힘쓰겠다"면서 "새로운 기술에 선제적으로 대비하기 위해 에이전트 AI와 피지컬 AI, 요즘 문제가 되고 있는 스마트 글래스 등의 문제도 살펴보고 있다. 규제를 통한 규율과 자율 영역이 함께 작동할 수 있도록 관련 사안에 정밀하게 대응해 나가겠다"고 강조했다.

음성재생 설정 이동 통신망에서 음성 재생 시 데이터 요금이 발생할 수 있습니다. 글자 수 10,000자 초과 시 일부만 음성으로 제공합니다.
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

에이전트·피지컬 AI 확산에 법적 불확실성 해소 요구…"한 달이 과거 1년보다 길어"
AI 기본법 수범자·고영향 AI 판단 기준 모호…규제 대상과 책임 범위 명확히 해야
정부, 기존 법체계 활용해 대응 모색…AI 이용자 보호·안전 가이드라인 마련 추진
16일 서울 글래드 여의도에서 열린 '2026 하반기 AI법정책포럼 공개 세미나'에서 참석자들이 기념촬영을 하고 있다.ⓒ데일리안 조인영 기자

피지컬·에이전트 AI 시대를 맞아 기술과 서비스의 변화 속도에 맞춰 행정 대응도 빨라져야 한다는 주장이 나왔다. 사업자가 기존 제도를 활용하다 경쟁에서 낙오할 수 있다는 우려가 큰 만큼 시장 변화에 대응할 수 있도록 규제 불확실성을 줄이고 신속한 행정 지원을 제공해야 한다는 주문이다.

서영훈 카카오 부사장은 16일 서울 글래드 여의도에서 열린 '2026 하반기 AI법정책포럼 공개 세미나-최근 AI 규제의 현안과 과제'에서 이같이 강조했다. 이날 세미나는 이주희 더불어민주당 의원실·최형두 국민의힘 의원실·한국정보통신법학회·한국데이터인공지능법정책학회·정보통신정책연구원·법무법인 태평양이 공동 주최했다.

“한 달이 과거 1년보다 길어…규제 대응 속도 높여야”

그는 토론에서 "AI 기술 혁신이 어마어마한 속도로 진행되고 있다. AI 인프라 구축 단계를 지나 AI 모델 경쟁 단계가 아직 끝나기도 전에 산업의 중심축이 AI 서비스 개발 쪽으로 급속하게 이동하고 있다"면서 "에이전트 AI 플랫폼은 이용자와의 접점을 누가 확보하느냐의 경쟁"이라고 말했다.

이어 에이전트 AI 플랫폼이 이용자 정보와 결제 정보, 선호도 등을 확보하는 핵심 접점이 될 것이라며 국가 전략적 차원에서 관련 서비스 산업의 발전을 지원해야 한다고 강조했다.

다만 높은 법적 불확실성으로 기업들이 두려움을 느끼고 있다고 서 부사장은 지적했다. 그는 "ICT 규제 샌드박스나 사전적정성 검토 등 기업의 불확실성을 해소하는 데 유용한 제도가 이미 마련돼 있으나 심사에 3~4개월 정도가 소요된다"면서 "지금의 한 달은 과거의 1년보다 더 길게 느껴질 정도로 시장 변화가 빠르다. 사업자 입장에서는 기존 제도를 활용하다가 경쟁에서 낙오할 수 있다는 두려움이 크다"고 토로했다.

새로운 제도를 마련하기에 앞서 현행 법령을 적극적으로 해석하고 기존 법률을 활용하되, 사업자의 불확실성을 줄이는 방향으로 진행해야 한다고 서 부사장은 요청했다.

또한 반복 업무의 편의성을 높일 수 있도록 위임 동의 방식이 허용돼야 하며, 목적에 따라 에이전트 AI 서비스 관리 방식을 구분할 것을 주장했다. 이용자가 위임 범위와 실행 조건을 이해하고 관리할 수 있도록 하고, 위험 수준에 따라 별도의 확인·승인 절차를 마련하는 등 사업자의 이용자 보호 노력도 필요하다고 덧붙였다.

에이전트 AI 시대, 규제 불확실성 줄이고 이용자 보호 균형 찾아야

정부 측 토론자들도 AI 이용자 보호와 규제 체계 정비 필요성에 대해 공감했다. 문정욱 정보통신정책연구원 인공지능정책연구실장은 AI 규제의 명확성과 확장성을 높일 필요가 있다고 짚었다.

그는 "기업 입장에서는 어떤 AI가 규제 대상이고 어떤 의무를 이행해야 하는지 명확히 아는 것이 중요하다. AI의 활용 목적과 사람의 권리 및 안전에 미치는 영향을 종합적으로 고려해 규제 수준을 합리적으로 설정할 필요가 있다"면서 "고영향 AI 판단 기준을 좀 더 구체화하고 실제 적용 사례를 공유하는 것도 방법"이라고 설명했다.

AI의 자율성 확대에 맞춰 인간의 기존 감독 및 책임 체계도 달라져야 한다고 봤다.

문 실장은 "AI의 모든 판단과 행동을 사람이 일일이 확인하는 것은 현실적으로 어렵다"면서 "따라서 인간의 감독은 단순히 최종 승인하는 수준을 넘어 AI에 부여할 권한의 범위, 인간의 개입 시점, 이상 작동이 발견됐을 때의 중단 절차 등을 사전에 설계하는 방향으로 발전해야 한다"고 말했다.

장두원 과학기술정보통신부 인공지능안전신뢰정책과장은 AI 에이전트의 법적 규율과 관련해 기존 인공지능 시스템 규율 체계 안에서 다루는 방안을 검토하고 있다고 밝혔다.

그는 "현재 법체계는 AI 모델 자체보다는 인공지능 시스템을 중심으로 규율하고 있다. 따라서 AI 에이전트도 기존 인공지능 시스템에 대한 규율 체계, 즉 투명성이나 안전성, 고영향 AI 관련 규정 안에서 다룰 수 있지 않을까 생각한다"고 말했다.

이어 AI 에이전트는 당장 법적 규율을 마련하기 어려운 측면이 있으나, AI 에이전트의 개발·운영 단계에서 필요한 안전 가이드라인과 국민이 안전하게 활용하기 위한 가이드라인을 마련 중이라고 덧붙였다. 장 과장은 "수범자(규제 적용 대상) 체계를 어떻게 설정할 것인지는 핵심 논의 사항"이라며 "제도 정비 과정에서 이 부분을 검토하고 있다"고 설명했다.

이용자 보호 측면에서는 김혜숙 방송미디어통신위원회 인공지능이용자보호과장이 고영향 AI에 해당하지 않는다는 이유만으로 일상적인 AI 서비스 이용자에 대한 보호가 약화돼서는 안 된다고 강조했다.

고영향 AI는 채용·대출 심사 등 사람의 생명·안전과 기본권에 중대한 영향을 미칠 수 있는 인공지능 시스템을 뜻한다.

정준화 국회입법조사처 조사관이 16일 서울 글래드 여의도에서 열린 '2026 하반기 AI법정책포럼 공개 세미나'에서 '에이전틱 AI·피지컬 AI 도입에 따른 이슈와 법적 과제'를 주제로 발표하고 있다.ⓒ데일리안 조인영 기자

김 과장은 위임 통제와 이용자 의사 확인을 제도적으로 보장하는 방안을 검토할 필요가 있다고 언급하며 "확인 절차가 형식적인 동의나 다크패턴을 통해 우회되지 않도록 제도를 설계해야 한다. 동시에 이용자 보호를 지나치게 강조한 나머지 AI 에이전트의 핵심적인 편의성과 자율성을 과도하게 제한해 본질적인 효용을 떨어뜨리지 않도록 균형을 잡아야 한다"고 말했다.

방미통위는 현재 한국정보통신정책연구원과 함께 현행 법적 근거를 바탕으로 에이전틱 AI 서비스의 이용자 보호 지침을 마련하고 있다. 연말이나 내년 초 지침의 주요 내용과 쟁점을 공개해 의견을 수렴하는 방안도 검토 중이다.

AI 기본법 수범자 누구인가…책임 주체·규제 범위 명확화 과제

토론에서는 AI 기본법상 수범자 범위와 책임 주체를 명확히 해야 한다는 의견도 제기됐다.

선지원 한양대학교 법학전문대학원 교수는 수범자와 관련한 문제의 불명확성을 짚었다. 선 교수는 "현재 인공지능 기본법은 인공지능사업자를 중심으로 수범자를 설정하고 있다. 인공지능을 통해 우리 삶을 개선하고 성장 동력을 만들어 가는 과정에서 중요한 역할을 하면서도 수범자 영역에 포함되지 않고, 그렇다고 일반 이용자 영역에도 속하지 않는 주체들이 있다"고 말했다.

그는 학교를 예로 들며 "인사에 영향을 미치기 때문에 고영향 영역에 해당할 수 있지만, 학교가 AI 시스템을 직접 개발한 것도 아니고 직접 제공하는 것도 아니다. 그렇다고 학교의 활용이 영향을 미치지 않는 것도 아니다"라며 "이런 경우 학교에 인공지능 기본법상 수범자로서 어떤 법적 지위를 부여할 수 있을지 생각해 볼 필요가 있다"고 지적했다.

선 교수는 기존 제조물책임 법리로 해결하기 어려운 데이터 제공자의 책임 문제도 검토해야 한다고 제안했다. 아울러 법률이 아닌 가이드라인이나 행정지도를 통한 우회적 규제보다는 소통에 기반한 거버넌스가 필요하다고 강조했다.

박지연 법무법인(유한) 태평양 TMT 그룹장은 모든 문제를 AI 기본법으로 해결하기보다는 기술 요건은 하위 법령과 표준에서 정하고, 플랫폼 자체의 표시 유지 의무는 정보통신망법 등 별도의 개별법에서 규정하는 것이 적절하다고 주장했다.

박 그룹장은 "AI 기본법상 고영향 AI 사업자에게는 훨씬 강화된 의무가 부과된다. 따라서 강화된 의무를 부담하기 위한 전제로 고영향 AI에 해당하는지 여부가 결정되는 만큼, 위임입법의 한계를 고려해 법률에서 주요 판단 기준을 좀 더 구체적으로 규정해야 한다"면서 "다만 위험의 중대성과 같은 불확정 개념은 법률에서 모두 열거하기 어렵고, 실제 환경도 계속 변화하기 때문에 규제기관이 개별 사안에서 판단할 여지를 남겨둬야 한다"고 말했다.

에이전틱 AI나 피지컬 AI의 경우 사고가 발생하면 과거 로그 기록을 통해 책임 소재와 사고 발생 지점을 추적해야 하는 만큼, 로그 기록을 보관할 수 있는 근거를 마련해 적법한 처리 근거를 명확히 해야 한다고도 주장했다.

또한 피지컬 AI와 에이전틱 AI는 민법과 제조물책임법, 전자문서법, 전자금융거래법, 노동관계 법령, 개인정보보호법 등 여러 법률이 얽힌 문제라며 산업별 특성을 고려해 개별 법령을 정비할 필요가 있다고 제안했다.

16일 서울 글래드 여의도에서 열린 '2026 하반기 AI법정책포럼 공개 세미나'에서 토론자들이 AI 규제의 현안과 과제에 대해 논의하고 있다.ⓒ데일리안 조인영 기자

기업은 고영향 AI 판단에 혼란…AI 정의부터 사업자 의무까지 손질해야

주제발표에서는 AI 기본법의 규제 대상과 의무 범위를 명확히 해야 한다는 지적이 나왔다.

강지원 법무법인(유한) 태평양 TMT 변호사는 '기업이 직면한 AI 규제 실무의 현안과 입법적 개선 과제' 발제에서 "고영향 AI의 경우 잘못 활용하면 기업의 평판에 영향을 미치거나 소비자에게 큰 위험이 확산될 수 있다"라며 "기업들이 가장 민감하게 생각하는 부분은 자사가 제공하는 AI 시스템이나 서비스가 언제 고영향 AI에 해당할 수 있는지에 대한 판단"이라고 말했다.

이러한 위험을 선제적으로 관리하기 위해서는 기업 차원의 상위 의사결정이 필요하다. 이에 많은 기업이 의사결정을 주도할 컨트롤타워로 AI 위원회를 설립하고 있다. 아울러 기업이 출시하거나 내부적으로 활용하는 AI의 현황을 파악하고, 서비스 기획 단계부터 규제 적용 여부와 위험성을 점검하는 전사적 관리 체계를 마련해야 한다고 강조했다.

강 변호사는 "고영향 AI의 판단 기준도 가이드라인에 맡겨져 있어 불명확한 부분이 많다. 기업은 법상 고영향 AI 기준 외에 그 바로 아래 단계인 중위험군을 설정하고 있다. 이러한 중위험군에 대한 AI 관리가 누락되지 않아야 기업들이 향후 발생할 수 있는 리스크에 대응할 수 있다"고 말했다.

AI 기본법의 적용 여부 문제도 언급했다. AI의 정의가 법에 규정돼 있기는 하지만, 어디까지를 AI로 볼 수 있는지에 대한 기준이 상당히 모호하다는 지적이다.

AI를 판단하는 핵심 요건으로 자율성, 적응성, 결과물 추론 등이 제시돼 있지만 최초 학습된 AI 모델을 제공받아 어느 정도까지 추가 학습하거나 파인튜닝해야 이용사업자에 해당하는지도 쟁점으로 꼽았다. 강 변호사는 "현재 가이드라인은 이러한 부분을 충분히 제시하지 못하고 있다"면서 "과기정통부에서도 AI 시스템의 정의부터 명확하게 정리할 필요가 있다"고 말했다.

특히 AI 기본법상 사업자 지위를 판단하는 '제공' 요건도 불명확하다고 지적했다. 기업이 자체 개발한 AI를 대출 심사 등 고영향 영역에 내부적으로 활용하더라도 외부 제공이 없다는 이유로 개발사업자나 이용사업자에 해당하지 않는다는 해석이 나올 수 있다는 것이다. 이에 내부 활용 사례를 고려해 제공 요건을 명확히 정비할 필요가 있다고 제언했다.

AI 위원회 구성과 관련해서는 외부 인사의 독립성 요건이 기업의 부담으로 작용할 수 있다고 짚었다. 외부 인사에게 기업의 민감한 AI 사업 전략이 노출될 수 있는 만큼 위원 구성 요건과 외부 인사의 참여 범위에 유연성을 둘 필요가 있다는 설명이다.

정준화 국회입법조사처 조사관은 '에이전틱 AI·피지컬 AI 도입에 따른 이슈와 법적 과제' 발제에서 에이전트 AI와 피지컬 AI의 확산에 따라 기존 법·제도가 예상하지 못한 새로운 쟁점이 발생하고 있다고 지적했다. 특히 AI의 자율적 판단과 행동에 따른 책임 소재, 인간의 감독 범위, 이용자 피해 구제와 일자리 감소 등이 주요 과제라고 설명했다.

정 조사관은 안전한 AI와 사회적 수용성 확보를 입법의 핵심 방향으로 제시했다. 그는 "특정 기술과 서비스에 일정 수준의 규제를 적용했을 때 사회·경제적으로 어떤 영향이 발생할 것인지 사전에 영향평가를 거친 다음, 그 결과를 바탕으로 입법을 추진하는 것이 바람직하다"고 말했다.

엄열 과학기술정보통신부 인공지능정책실장은 축사에서 "지난 7월 EU는 디지털 옴니버스를 통해 고위험 AI 의무 적용 시점을 내년 12월로 연기했다. 다만 범용 AI 모델에 대한 의무와 투명성 의무는 예정대로 유지했다"면서 "메시지는 분명하다. 규제냐 혁신이냐, 둘 중 하나를 선택하는 문제가 아니라 현장에서 실제로 작동하는 균형을 어떻게 만들 것인가의 문제로 옮겨가고 있다"고 말했다.

엄 실장은 "과기정통부도 국민의 기본권을 보호하면서 기업의 혁신을 저해하지 않고, 합리적이면서도 기술 변화에 유연하게 대응할 수 있는 체계를 구축하도록 힘쓰겠다"면서 "새로운 기술에 선제적으로 대비하기 위해 에이전트 AI와 피지컬 AI, 요즘 문제가 되고 있는 스마트 글래스 등의 문제도 살펴보고 있다. 규제를 통한 규율과 자율 영역이 함께 작동할 수 있도록 관련 사안에 정밀하게 대응해 나가겠다"고 강조했다.

이상규 정보통신정책연구원(KISDI) 원장은 축사에서 "인공지능의 자율성이 높아질수록 책임 소재를 어떻게 규명할 것인지, 새로운 기술의 특성을 고려해 이용자의 권익과 나아가 인류의 안전을 어떻게 확보할 것인지에 대한 깊은 성찰이 필요한 때"라며 "앞으로의 인공지능 관련 법·제도는 기술 혁신과 인류의 안전 및 번영을 함께 실현할 수 있는 방향으로 발전해 나가야 할 것"이라고 말했다.

Copyright © 데일리안. 무단전재 및 재배포 금지.