지난 2024년 12월 26일 오후 서울 여의도 국회에서 열린 제420회국회(임시회) 제1차 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(AI기본법)이 재적 300인 중 재석 264인, 찬성 260인, 반대 1인, 기권 3인으로 통과되고 있다. /사진=뉴스1
인공지능(AI)기본법이 오늘(1일)로 시행 100일을 맞았지만 기업 현장에서는 여전히 법 적용 대상 여부를 두고 혼선이 이어지고 있다. 법을 지켜야 한다는 데에는 이견이 크지 않지만 실제 서비스가 AI 사업자 의무에 해당하는지, 생성형 AI 표시 의무를 어디까지 이행해야 하는지, 고영향 AI로 봐야 하는지를 두고 판단에 어려움을 겪는 모습이다.
AI기본법은 지난 1월 22일 시행됐다. 정식 명칭은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'이다. AI 산업 육성과 안전, 신뢰 기반 조성을 함께 담은 첫 포괄 법률로, AI 사업자에게 투명성 확보, 안전성 확보, 고영향 AI 관리 등의 의무를 부과했다.
정부는 시행 초기 혼선을 줄이기 위해 AI기본법 지원데스크를 운영하고 있다. 과학기술정보통신부와 한국인공지능소프트웨어산업협회가 발간한 지원데스크 사례집에 따르면, 법 시행 이후 두 달간 총 513건의 문의가 접수됐다. 유선 문의는 243건, 온라인 문의는 270건이었다.
지원데스크에 몰리는 문의는 '실제 적용 기준'이다. 자사 서비스가 현행법상 AI 사업자에 해당하는지, 생성형 AI 결과물 표시 의무를 져야 하는지, 고영향 AI로 분류될 가능성이 있는지 궁금하다는 문의가 많았다.
국가AI전략위원회 관계자는 "AI 기본법 지원데스크에 접수되는 의견도 상당히 많은 수가 내 기업이 하거나 하고자 하는 서비스가 AI기본법의 적용 대상인지를 물어보는 것"이라고 말했다.
AI 기업들이 혼란스러운 부분은 의무를 누가 져야 하는지 판단하는 단계에서부터 생긴다. AI기본법상 의무는 AI 개발사업자와 AI 이용사업자를 포함한 AI 사업자에게 부과된다. 같은 기업이라도 서비스별로 지위가 달라질 수 있다.
예를 들어 자체 AI 모델을 개발해 서비스로 제공하면 개발사업자에 해당하고, 타사 AI를 활용해 고객에게 별도 서비스를 제공하면 이용사업자다. 외주 개발 방식이라고 해서 의무에서 곧바로 제외되는 것도 아니다. 발주사가 설계와 운영을 실질적으로 통제하거나 시스템을 중대하게 변경했다면 개발사업자로 판단될 여지도 있다.
생성형 AI 표시 의무도 현장에서 민감하게 보는 부분이다. AI기본법은 고영향 AI나 생성형 AI를 이용한 제품과 서비스를 제공하는 경우 이용자에게 해당 사실을 사전에 고지하도록 했다. 생성형 AI 결과물에는 AI가 생성했다는 사실도 표시해야 한다. 표시 방식은 워터마크, 자막, 화면 안내 문구, 메타데이터, 디지털 워터마킹 등이 가능하다.
다만 AI가 만든 이미지를 사람이 일부 수정했을 때도 표시해야 하는지, 여러 대형언어모델을 함께 쓰는 서비스에서 모델명까지 알려야 하는지, 광고 영상이나 사회관계망서비스 콘텐츠에는 어떤 방식으로 고지해야 하는지 혼선을 빚고 있다. 정부는 사례집을 통해 일부 기준을 제시했으나 기업들은 업종과 서비스 형태에 맞춘 예시가 더 필요하다고 보고 있다.
고영향 AI 판단도 부담으로 꼽힌다. AI기본법은 채용이나 대출 심사, 의료, 교육 평가, 공공서비스 의사결정 등 사람의 생명과 신체 안전, 기본권에 중대한 영향을 미칠 수 있는 영역의 AI를 고영향 AI로 본다. 고영향 AI로 분류되면 사업자는 위험관리 방안 수립, 설명 가능성 확보, 이용자 보호, 사람의 관리 감독, 관련 문서 작성과 보관 등 추가 책무를 부담해야 한다.
업계에서는 법 취지는 공감하지만 준비 과정의 불확실성이 크다는 반응이 나온다. AI 서비스를 개발하는 한 업계 관계자는 "대기업은 법무팀과 외부 자문을 붙여 대응할 수 있지만 스타트업은 어디까지 준비해야 하는지 판단하는 것부터 부담이다"라며 "계도 기간 동안 업종별 사례와 표시 방식이 더 구체적으로 나와야 한다"고 덧붙였다.
정부는 현재 AI기본법 위반에 대한 사실조사와 과태료 부과를 일부 유예하고 있다. 시행 초기 기업들이 새 제도에 맞춰 내부 기준을 정비할 시간을 주겠다는 설명이다. 또한 유예 기간 동안 정부가 현장이나 지원데스크를 통해 목소리를 청취하는 만큼, 축적된 사례가 향후 업종별 기준을 구체화하는 기반이 될 것으로 보인다.
국가AI전략위원회 관계자는 "재작년 비상계엄 상황 속에서도 여야 합의로 AI기본법이 통과됐고, 이를 토대로 국가AI전략위원회 같은 거버넌스와 기술 개발, 안전·신뢰 확보를 위한 법적 근거가 마련됐다"고 설명했다.
이어 "스타트업을 포함한 AI 기업의 부담을 줄이기 위해 1년 이상 계도 기간을 두기로 했다. 대한민국 정부는 AI 글로벌 3강을 위해 국회와 함께 여러가지 지원을 하고 있고, 특히 스타트업 지원을 꾸준히 이어가고자 한다"고 말했다.
