[ET 시론] AI법 제정, AI 발전과 안전 활용의 초석

이종호 과기정통부 장관

지난 해 11월 제1차 인공지능(AI) 안전성 정상회의(AI safety summit)가 영국 '블레츨리 파크'에서 개최됐다. 블레츨리 파크는 AI의 아버지라고 불리는 앨런 튜링이 독일군의 암호생성 기계 '애니그마'를 해독한 곳이다. 다른 사람은 풀지 못했던 암호를 앨런 튜링이 해독한 것은 '기계가 생각할 수 있는가?'라는 기존 접근에서 탈피해 '기계가 인간이 생각하는 방식을 모방(imitation)할 수 있는가?'로 접근했기 때문이다.

이 같은 접근 방식은 문장의 맥락을 학습한 후, 다음에 올 단어를 추론하는 생성형 AI와 연관이 깊다. 생성형 AI는 인간과 유사한 방식의 학습·추론을 통해 상상 이상의 성능을 보여주면서 세계적 주목을 받고 있다.

◇모두를 위한 AI

학술지 네이처(Nature)는 지난해 세계 과학계에서 화제를 불러일으킨 인물을 선정하는 '네이처 10'에 비인간으로는 최초로 생성형 AI 챗봇, 챗GPT를 선정했다. 영국의 케임브리지 사전도 '할루시네이트(Hallucinate)'를 올해의 단어로 선정했다. 케임브리지 사전은 할루시네이트에 대해 생성형 AI 등장으로 '사용자의 의도에 반하는 거짓 정보를 생성해 진실인 것처럼 현혹하는 행위'라는 새로운 의미를 갖게 됐다고 설명했다. 미국 IT컨설팅기업 가트너는 2024년 10대 기술트렌드에서 '보편화된 생성형AI'와 'AI 신뢰, 위험 및 보안관리', 'AI증강개발' 등 인공지능과 직접 관련된 기술만 3가지를 제시했다.

글로벌 기업의 경쟁도 가열된다. 오픈AI가 2022년부터 챗GPT 열풍을 불러일으키자 마이크로소프트(MS)는 지난해초 오픈AI에 약 12조원을 추가 투자해 전략적 협력관계를 구축한 데 이어, 챗GPT 기술력을 결합한 '코파일럿' 서비스를 제공하기 시작했다. 이에 대응하는 구글은 지난해말 차세대 범용AI '제미나이(Gemini)'를 공개하고 도전에 나섰다. 국내에서도 네이버 '하이버클로바X', 카카오 '칼로', SK텔레콤 '에이닷', KT '믿음', LG '엑사원' 등은 물론이고, 다양한 스타트업 서비스가 서비스가 등장해 시장 선점 경쟁을 펼치고 있다.

이같은 경쟁 속에 생성형 AI 기술은 놀라운 속도로 발전하고 있다. 검색, 번역, 창작 지원, 코딩 등 기능은 이미 일상에서 광범위하게 활용되고 있고, 앞으로 의료, 금융, 교육 등 그 활용이 무궁무진하게 확대될 것이다. 나아가 식량, 에너지, 기후에 이르기까지 인류 공통의 과제에 대한 해법을 제공하는 데도 큰 역할을 할 것으로 예상된다. 세계가 AI 기술 발전 자체뿐 아니라 '모두를 위한 AI'에 주목하는 이유다.

◇AI 규제 접근, 글로벌 시장 천차만별

AI 글로벌 시장 경쟁 활성화와 동시에 국제사회는 생성형 AI가 내포하고 있는 위험성에도 주목하고 있다. AI의 잠재적 성능이 뛰어날수록 잘못 활용되었을 때의 부작용 역시 막대하기 때문이다. 조 바이든 미국 대통령은 생성형 AI의 안전·보안·신뢰 확보를 위한 8대 원칙을 발표하고, 빅테크 기업 15곳으로부터 원칙 이행에 대한 자율 서약을 받았다. 나아가 공공부문의 안전하고 신뢰할 수 있는 AI 활용을 위한 '행정명령'에도 서명했다.

유럽연합(EU)는 안면인식 등 실시간 생체정보 수집을 금지하고, 고위험 AI를 분류하는 등 AI 위험도를 4단계로 나누고, 금지행위를 위반할 경우 글로벌 기업의 세계 매출액의 7%에 달하는 과징금을 부과하는 등 세계 최초로 AI를 강력하게 규제하는 법안 제정에 합의한 바 있다.

이에 더해 G7 '히로시마 AI 프로세스', UN '고위급 AI 자문기구 운영', 'AI 안전성 정상회의' 등 다자간 협력 차원에서의 움직임도 활발히 진행 중이다. 이처럼 AI 규범에 대한 주도권 경쟁이 치열하게 전개되는 가운데, 각 국의 산업 수준 및 특성, 사회·문화적 인식의 차이로 인해 상이한 정책 수단과 규제 수준이 제시되고 있어 업계의 혼란 또한 높아지는 상황이다.

미국식 자율규제와 EU의 고강도 규제 등 국제적으로 서로 다른 규율이 추진되고 있는 상황에서 우리는 어떤 입장을 취해야 할 것인가. 대한민국은 정보통신기술(ICT) 강국이자, 독자적 AI 생태계를 보유하고 있는 몇 안 되는 나라 중 하나다. AI의 기반 산업인 반도체 분야의 경쟁력도 세계적이다. 또한 디지털 권리장전 등 누구나 디지털의 혜택을 온전히 누릴 수 있는 디지털 공동번영 사회 구현에도 리더십을 발휘 중이다. 오는 5월에는 AI 안전성 미니 정상회의를 개최할 예정으로 글로벌 AI 규범 논의를 주도해나갈 수 있는 여건도 마련하고 있다.

◇한국, AI 진흥과 규제 조화 추구

우선, 과기정통부는 이같은 상황을 고려해 AI 경쟁력을 확보하기 위한 다양한 정책을 추진해왔다. 취약계층을 보살피고 민생현안을 해결하기 위해 상용 AI를 국민 생활 곳곳에 확산하는 '전국민 AI 일상화 프로젝트'를 진행했다. 독거노인 AI돌봄로봇, 소상공인 AI콜센터 등을 추진 중이다. 공공·행정 영역에도 AI 접목을 확대하고, 의료·제조 등 주요 산업분야에도 AI 솔루션 적용을 지원하고 있다.

과기정통부는 새해에도 세계 시장을 선도할 AI 경쟁 주도권을 확보하기 위한 다양한 활동을 전개할 예정이다. 초거대AI 시장 선점을 위해 초거대AI 플래그십 프로젝트를 새롭게 추진하고, 기업이 필요로 하는 AI 고급인재 양성과 규제혁신도 힘있게 추진할 계획이다. AI가 가져오는 혁신의 과실을 국민이 생활 속에서 경험할 수 있도록 헬스케어, 교육, 돌봄 등 국민 개개인의 일상에 필요한 AI 서비스를 제공한다. 기존 반도체보다 에너지 소모를 대폭 줄인 국산 AI반도체로 저전력, 고효율 데이터센터를 구축하고 클라우드와 AI 서비스를 연결하는 K-클라우드 생태계도 활성화한다. 디지털권리장전을 토대로 국제 사회의 AI 규범 논의를 선도하기 위해 UN·경제협력개발기구(OECD) 등 국제사회 논의에도 적극 참여하는 한편, 새해 5월 영국과 공동개최하는 'AI 안정성 미니 정상회의'를 성공적으로 개최하기 위해 노력을 경주할 예정이다.

AI R&D, 경쟁력 강화전략과 더불어, AI 규제 차원에서 보면, 우리의 입장을 종합적으로 고려할 때, 산업 육성과 규제 어느 한쪽에 치우친 규범 체계를 수립하는 것은 바람직한 방향이라고 보기 어렵다. AI 경쟁력을 바탕으로 혁신의 기회를 잘 살리면서도, 안전하고 신뢰할 수 있는 AI 개발·활용의 토대를 만드는 균형잡힌 접근이 필요하다. 과기정통부는 우리에게 주어진 혁신의 기회를 잘 살리면서, 개인과 사회의 안전에 위협이 되지 않도록 하는 조화로운 접근을 추진하고 있다.

◇AI 법안 조속한 통과 필요

이런 의미에서 지난해 2월 과학기술정보방송통신위원회 법안심사 소위원회 통과 이후 아직 국회에 계류 중인 AI 법안은 AI 발전과 신뢰 기반 조성을 아우르며 적절한 균형을 갖추고 있다. 법안은 국회 과방위에서 여야 의원이 발의한 AI 관련 7개 법률안을 통합해 대표성을 지녔다.

AI 법안은 AI 산업 진흥과 자율 규제의 조화를 원칙으로 한다. 주요 내용을 살펴보면, AI 산업을 체계적으로 육성하기 위해 기술개발, 학습용 데이터 구축 및 창업 지원 등의 근거를 마련한다. 정부가 3년마다 인공지능 기본계획을 수립하고 이를 관장하는 컨트롤타워로 국무총리 산하에 인공지능위원회를 두도록 한다. 표준화, 국제협력을 위한 사업을 추진할 수 있도록 규정하고 있다. 동시에, AI 활용에 따른 부작용에 선제적으로 대응하기 위해 고위험영역 AI를 정의하고, 고위험영역 AI에 대해서는 이용자 대상 사전고지와 함께 신뢰성 확보도 의무화하는 등 사업자 책무를 규정하는 적정 수준의 규제를 포함했다

자유로운 산업 육성만 강조하거나, EU와 같이 고위험 영역을 금지하는 데 초점을 맞추는 등 어느 한쪽으로 쏠린 법안이 아니다. AI와 관련된 규제정책을 한꺼번에 마련하는 것이 아니라, 정부와 기관의 역할 분담을 명확히 하고 법적 근거를 만드는 기본골격을 우선 제정하고, 향후 발생 가능한 여러 문제를 모니터링해서 바로 대응하며 순차적으로 풀어가는 접근 방식이다.

과기정통부는 이같은 AI 법안 기본 내용에 더해 최근 생성형 AI 관련 글로벌 논의 동향을 반영해 AI 산출물에 대해 워터마크를 도입하는 등 이용자 보호를 위한 필요 최소한의 규제를 추가하는 부분에 대해서도 국회와 적극 소통 중이다.

아무리 좋은 정책도 타이밍을 놓치면 효과가 반감될 수밖에 없다. 지금같이 국내법 체계가 정립되지 않은 채 규제의 틀에 대한 논의가 지속되는 것은 결국 규제의 불확실성을 증가시키고, 산업의 혁신을 저해할 것이다. 우리가 주춤하는 사이 미국, EU 등 주요국들은 AI 분야 주도권을 차지하기 위해 숨 가쁘게 달려가고 있다. AI 법 제정은 날로 격화되는 패권경쟁에서 대한민국이 AI 분야 기술혁신을 앞당기고 글로벌 규범 논의를 주도해 갈 수 있는 초석이 될 것이다. 글로벌 AI 선도국을 향한 도전에 모두가 뜻과 마음을 모아 주시기를 바란다. 과기정통부도 AI 법의 조속한 국회 통과에 최선의 노력을 다하겠다.

이종호 과학기술정보통신부 장관

과기정통부 주요 AI 정책과 AI 법안 내용 - 과기정통부 주요 AI 정책과 AI 법안 내용

〈필자〉반도체 분야 세계적 석학으로, 윤석열 정부 첫 과학기술정보통신부 장관으로 임명돼 임무를 수행하고 있다. 경북대 전자공학과를 졸업하고 서울대 대학원 전자공학과에서 석·박사 학위를 받았다. 한국전자통신연구원과 미국 매사추세츠공대(MIT) 마이크로시스템 기술연구소 연구원으로 재직했다. 원광대·경북대 교수를 거쳐 2009년부터 서울대 교수로 재직했다. 2016년에는 국제전기전자공학회(IEEE) 석학회원에 선임됐으며, 2018년부터 서울대 반도체공동연구소장을 지냈다. 2002년 세계 최초로 3차원(3D) '벌크 핀펫'(Bulk FinFET)을 개발, 반도체 소자기술의 새 장을 열었다.