[고견을 듣는다] "AI, 답변은 잘하지만 질문 못해… 인간의 지력 더 중요해져"

AI는 '지식의 시대'… 활용 역량 높은 나라가 진정한 AI 강국
AI경쟁 이제 걸음마 단계, 기술보다 'AI 프로덕트'가 더 관건
AI산업화, 협업·가치 네트워크 중요… 멀티 에이전트 AI 시급
AI제품 상호 연결하는 플랫폼·운영체제 만드는 데 노력해야
AI기본법 제정, 정부 주도 컴퓨팅·데이터 인프라 구축 필요

황종성 한국지능정보사회진흥원(NIA) 원장. 이슬기기자 9904sul@

[]에게 고견을 듣는다 황종성 한국지능정보사회진흥원(NIA) 원장

"AI 시대는 과거 지식노동과 다른 새로운 '지식의 시대'입니다. 'AI 게임'은 이제 시작으로 기술보다는 'AI 프로덕트', 즉 'AI 상품화'가 중요합니다. AI 혁명은 국가 간 승자와 패자 가를 것입니다."

12일 서울 서대문 디지털타임스 회의실에서 만난 황종성(61) 한국지능정보사회진흥원(NIA) 원장은 "AI를 국민 누구나 쉽게 사용할 수 있는 활용 역량이 높은 나라가 진정한 AI강국"이라며 "과거 초고속정보통신망 구축때처럼 AI 인프라 구축에 총력을 경주해야 한다"고 밝혔다. 그는 이를 위해 21대 국회에서 발의됐으나 무산된 AI기본법의 제정이 시급하다고 목소리를 높였다,

황 원장은 AI는 AI 모델 개발, 응용 서비스 개발, 데이터 산업 등 세 분야로 나눠 볼 수 있다며 정부 차원의 체계적인 지원이 필요하다고 지적했다. 이어 국내 기업들이 AI 프로덕트로 해외로 진출할 수 있게끔 정부가 다른 나라들의 데이터도 활용할 수 있도록 해주는 것이 중요하다고 강조했다. AI는 데이터 간 관계를 찾아내는 것에 장점이 있다며 공공 분야에서의 AI 활용이 데이터 기반 정책 의사결정을 지원해 예산이나 건강보험 등의 낭비요소를 10~20% 없앨 수 있을 것으로 전망했다. 이와 함께 "AI 혁명은 사회 시스템의 변화로 완결될 것"이라며 "사회가 기득권 고수에 집착한다면 AI의 혜택을 받지 못할 수도 있다"고 경고했다.

한국지능정보사회진흥원(NIA)은 1987년 설립된 한국전산원이 전신이다. 이후 한국정보화진흥원을 거쳐 2021년 현재의 이름을 갖게 됐다. 초고속정보통신망 구축, 전자정부와 디지털플랫폼 정부 구축, 공공데이터, AI 등 IT와 AI 신기술 등장에 맞춰 국가 활용전략 수립에 필요한 정책 개발과 사업을 추진하는 역할을 해왔다. 황 원장은 연세대 정치외교학과와 같은 대학 정치외교학 석·박사를 졸업하고 1995년 NIA의 전신인 한국전산원에 입사했다.이후 NIA 연구위원, 세계도시 전자정부 협의체 사무총장, 서울특별시 정보화기획단장, 정부 3.0 추진위원회 위원 등을 역임했다. 서울시에서 추진했던 '스마트 서울 2015' 계획은 세계적으로 성과를 인정받아 2013년 국제전기통신연합(ITU) 최고 스마트시티 모델에 선정되기도 했다. 국가정보화정책, 유비쿼터스 전략, 공간정보정책 등 지능정보 분야 전문가로 평가받는다. 2022년 8월 NIA 15대 원장으로 취임했다.

대담 = 강현철 논설실장

- 바야흐로 '인공지능(AI)의 시대'입니다. 'AI 시대'의 특징을 한마디로 어떻게 요약할 수 있을까요?

"저는 'AI 시대는 지식의 시대'라고 보고 있습니다. 2000년 이후 지식의 시대를 얘기해왔지만 AI가 일상화되면 진짜 지식의 시대가 된다고 생각합니다. AI가 지식이 있다는 뜻은 아닙니다. AI는 사람이 해야 될 역할, 예를 들어 반복적인 일들은 다 하겠죠. 사람이 할 일은 AI가 못하는 것 아니면 AI를 이용하는 일인데 이는 결국 지식의 힘이라고 생각을 합니다. AI는 대답을 잘하지만 질문을 하지 못합니다. AI가 질문을 만들어주긴 하겠지만 이는 AI가 질문한 게 아니고 질문을 만들라고 한 데 AI가 대답을 한 겁니다.질문은 호기심이나 의문입니다. AI 시대가 되면 사람들은 이런 일을 해야 됩니다. AI 사회는 과거의 지식노동과는 다르게 완전히 새로운 차원의 지식노동을 하게 될 겁니다."

- AI 관련 글로벌 기술 개발은 어떤 방향으로 이뤄지고 있는지요?

"드러나 있는 AI 기술 동향이 있고, 드러나지 않은 기술 동향이 있습니다. 그동안 AI 기술 개발에 치중했다면 이제는 'AI 제품', 'AI 프로덕트'에 주력하는 방향으로 나가고 있습니다. AI기술을 활용해 사람들이 기꺼이 돈을 내고 쓰는 단계까지 가는 게 AI 프로덕트입니다. 생성형 AI는 기술을 개발하고 검증 실증하는 데 아직 초점이 맞춰지고 있지만 최근 큰 추세 중 하나는 생성형 AI를 프로덕트로 만드는 것입니다. 생성형 AI를 프로덕트로 만들 때 어떤 것들이 필요할 것이냐가 화두죠. 'AI 온디바이스'도 있지만 더 중요한 것은 AI가 내놓은 대답이 올바른 답인지 신뢰성을 검증한다거나, 아니면 AI와 AI 제품 여러 개를 묶어 유저들이 원하는 서비스를 만들어내는 것이죠. 컴퓨터 시대에 돈을 번 사람은 하드웨어나 소프트웨어를 개발한 사람이 아니고 여러 개의 소프트웨어를 이용하게끔 해준 마이크로소프트의 빌 게이츠입니다. MS도스, MS윈도 등 사람과 컴퓨터 간 인터페이스를 만들어낸 사람이 제일 많이 돈을 벌었어요. 인터넷 시대 돈을 많이 번 기업도 라우터를 만들고 케이블을 깐 사람들이 아니고 인터넷과 사람들 간 인터페이스를 만든 구글과 아마존입니다. 기술이 아니라 그 기술을 제품화해 사람들이 쓰는 게 중요한 겁니다. AI를 쉽게 쓸 수 있는 세상을 만드는 데는 AI를 사람들이 잘 쓰도록, AI가 좋은 프로덕트가 되도록 인터페이스를 만들어주는 게 중요합니다. 특정 기능의 특화된 AI 제품 여러 개가 뭉쳐 '멀티 에이전트 AI'가 돼야 사람들이 원하는 하나가 됩니다. 이 여러 개의 서로 다른 AI들을 하나처럼 어떻게 연결을 시켜줄 것인가, 플랫폼이라고 할 수 있고 운영체계라고 할 수도 있고 AI들 간 관계와 협업을 만들어주는 것이 도전 과제입니다."

- 국내 기술 개발 동향은 어떻습니까?

"솔직히 얘기하면 선두권하고는 많이 떨어져 있는 게 현실입니다. 하지만 게임은 이제 시작입니다. AI는 기술 자체보다 어떻게 상품화할 것인가가 중요한데 국내 기업들의 여지는 많다고 봅니다. 'AI 산업화'엔 협업과 가치 네트워크의 구축이 중요합니다. 전체적 흐름을 보면 모델 개발과 응용 서비스 개발, 데이터산업 등 세 영역이 주된 플레이어가 아닐까 싶습니다. AI 모델 쪽은 한국이 자체 개발하는 것도 의미가 있는데 앞으로는 해외 모델이나 오픈소스 모델을 잘 활용해 생태계를 만드는 게 더 중요해질 겁니다. AI 응용 서비스는 의료 교통 환경 등 다양한 영역에서 스타트업들이 크고 있는데 충분히 발전 가능성이 있습니다. AI 스타트업들이 크려면 정부의 체계적인 지원이 필요합니다. 테이터나 컴퓨팅 인프라 같은 인프라를 정부가 제공해줘야 합니다. 또 데이터 사용을 위한 글로벌 협력 체계를 정부에서 만들어주는 것도 필요합니다. AI 응용 서비스를 만드는 기업들은 글로벌 시장을 지향하는데 우리의 AI 응용 서비스가 외국에 가려면 로컬 데이터를 써야 됩니다. 선진국 로컬 데이터는 구매 등의 방법으로 구해 올 수가 있지만 개도국의 로컬 데이터는 만들어 가야 합니다. 예를 들어 의료 진단 검사 판독 AI기술, 기상이나 교통관리 AI솔루션이 있어도 개도국에 수출하려면 해당 국의 로컬 데이터를 활용해야 합니다. 정부 간 협약을 통해 이 문제를 풀어야 합니다. 세번째가 데이터 산업입니다. 한국은 데이터 산업 발전을 위해 노력하는 국가로 국제 평가에서 세계 1등입니다. 하지만 데이터의 규모나 시장 사이즈로 보면 구글 같은 글로벌 테크 기업에 미치지 못합니다. 데이터를 AI 응용 서비스와 합쳐야 합니다.AI 수출은 우리가 만들고 개발한 AI 응용 서비스들이 세계 곳곳에서 많이 쓰이는 건데 충분히 가능하다고 생각합니다."

- '데이터 주권'이라는 문제가 대두되는데 어떤 방향으로 이 문제를 풀어야 할까요?

"데이터주권, 소버린티(sovereignty)는 두가지 측면이 있습니다. 하나는 국가 간 주권입니다. 글로벌 테크나 중국 등 거대 국가들은 데이터 주권을 싫어합니다. 반면 개도국들은 자기 데이터를 뺏기고 싶지 않죠. 이런 측면에서 한국이 개도국을 이끌 수 있습니다. 개도국 입장에서는 글로벌 테크나 중국 힘을 빌리자니 호랑이를 불러들이는 격이 되는 됩니다. 반면 한국은 데이터주권을 침해하지 않고 도움을 줄 수 있습니다. 둘째 소버린티는 또다른 의미를 갖습니다. '소버린(sovereign) 컨트롤', '소버린 데이터 익스체인지'라는 용어를 씁니다. 이때 주권이라는 건 데이터의 오너 또는 주체가 자기 데이터에 대해 통제권을 유지하는 겁니다. 지금까지 데이터 체계는 한번 데이터를 주면 데이터 오너는 권리가 없어지게 됩니다. 이런 체계로는 나올 수 있는 데이터들이 한정됩니다. 데이터 오너들이 자기 데이터에 대한 컨트롤을 할 수 있게 해야 합니다. 그래야 좋은 데이터가 나옵니다. 유럽의 '소버린티 베이스드 데이터 익스체인지'라고 하는 모델이 이런 모델입니다. 한국도 이런 부분에 노력해야 합니다."

- 행정 등 공공 분야에서도 AI는 상당한 영향을 미칠 것으로 보입니다. 어디에 활용할 수 있을까요? 또 AI가 국가 인프라가 되는 시대, 공공 분야에서 준비해야 할 일은 뭘까요?

"AI가 사실 잘하는 게 데이터들 간 관계를 찾아내는 겁니다. 관계를 찾아낸 다음 질문에 대한 답을 생성하는 거죠. 이를 '할루시네이션'(hallucination, 환각)이라고 해서 걱정하고 비난하는 데 맞지 않습니다. 생성 자체가 할루시네이션이고, 있지 않은 것이기 때문입니다. 할루시네이션보다 중요한 것은 데이터들 간 관계들을 찾아내는 겁니다. AI가 반복적인 민원이나 문서 또는 회의록 작성 등 공무원들의 일손을 덜어주는 데 많이 도움이 될 겁니다. 보다 의미있는 것은 AI가 정책 결정에 필요한 기본적인 데이터 분석을 해준다는 겁니다. 예를 들어 국책 사업 전 예비타당성 조사를 합니다. 철도나 도로를 새로 건설할 경우 이용자 수는 몇 명일지 맞추는 겁니다. AI는 이를 잘합니다. 복잡한 예산 회계도 AI한테 시키면 잘합니다. AI의 데이터 분석능력이 획기적으로 높아지면 데이터 기반 정책 의사결정, 에비던스 베이스드(evidence-based·증거 기반) 의사결정이 가능합니다. AI를 잘 활용하면 예산의 10 ~20%를 줄일 수 있을 겁니다. 건강보험 노인 요양보험 등 사회보장 비용도 마찬가지입니다. 10~20%면 어마어마한 돈입니다."

- 매년 '국가지능정보화백서'를 발간하는 걸로 알고 있습니다. 세계 주요국과 비교해 대한민국의 국가 지능정보화 수준과 대한민국의 국가 AI 경쟁력 수준을 평가하신다면?

"정보화와 디지털 전환(디지털 트랜스포메이션) 두 가지 측면에서는 한국이 세계 톱입니다. AI 평가는 아직 시기상조입니다. 예를 들어 미국 스탠포드대에서 나온 평가에서 우리나라 AI의 경쟁력이 높다고 얘기하는데 생성형 AI나 AI 연구자 수 등 몇 개 한정된 데이터를 기준으로 해 액면 그대로 믿기는 어렵습니다. 대신 금년부터 진흥원이 'AI 백서'를 만들어낼 겁니다.말씀드렸듯이 AI 기술보다 중요한 게 AI 프로덕트입니다. AI 프로덕트를 만들 수 있는 능력을 볼 때는 한국이 크게 뒤지지 않습니다."

- AI 산업화를 위한 기본 인프라가 아직 정비되지 않은 실정입니다. AI 산업에서 대한민국이 세계 시장을 이끌어가는 데 필요한 정책은 무엇일까요?

"AI 발전에 제일 중요한 것은 'AI 인프라'입니다. 컴퓨팅 인프라와 데이터 인프라가 핵심입니다. 상하수도, 도로, 전기 등 인프라가 있어야 기술이든 생활이든 저렴해지고 편해집니다. 한국은 인터넷 강국인데 20여년 전엔 인터넷이 뭔지 모르는 사람이 대부분이었습니다. 그러다가 초고속 인터넷망을 구축해 사무실 집 카페 등 언제 어디서나 빛처럼 빠른 인터넷을 누구든지 저렴한 비용으로 쓸 수 있게끔 해놓으니 인터넷 인구가 늘어나고, 인터넷 온라인 게임 종주국이 된 겁니다. 미국과 중국의 AI 기술이 우리보다 빠르지만 이를 프로덕트로 만들어 사람들이 쓰게끔 하는 것은 다른 얘기입니다. 한국은 컴퓨팅 인프라는 좋습니다. 더 중요한 건 데이터죠. 한국식 AI서비스를 만들어 가는데 데이터들이 빨리빨리 공급돼야 합니다. AI 인프라가 생기면 사회 시스템이 바뀝니다. AI 기술, AI 프로덕트를 넘어 'AI 경제'를 한국이 선도하는 그런 시대가 올 겁니다. 인프라를 만들려면 투자 인센티브를 만들고, 제도적 보완 장치도 있어야 됩니다. 출발점은 정부입니다. 정부와 민간이 힘을 합쳐야 되는데 안타깝게도 우리나라는 지금 AI와 관련된 근거법이 없습니다. 지능정보화 기본법은 IT를 뿌리로 하고 있어 알고리즘이자 모델인 AI와는 맞지 않습니다."

- AI의 위협적 요소는 무엇이고 이를 막으려면 어떤 게 필요합니까?

"AI의 부작용은 굉장히 많죠. 다만 성급하게 움직일 수는 없다고 생각합니다. 규제도 전략이거든요. 우리가 먼저 규제를 하게 되면 전략적으로 불리한 위치에 처할 수 있습니다. 둘째는 우리가 규제한다 해도 얼마나 세계적으로 반향을 일으킬까라는 점입니다. AI 역기능에 대한 대응은 전략적일 필요가 있습니다. 다른 나라들이 어떻게 움직이는지를 보고 우리 공간을 찾아가는 거죠.또 한가지 말씀을 드리고 싶은 건 AI 이용자 스스로도 조심해야 한다는 점입니다. SNS는 컴퓨터 시스템이기 때문에 가역성이 있습니다. 되돌릴 수가 있어요. 하지만 AI는 비가역적으로 되돌릴 수가 없습니다. '잊혀질 권리'를 행사할 수가 없는 거죠. 예를 들어 마약을 만드는 방법을 생성형 AI에 학습을 시켰어요. 지금은 AI 입을 틀어막아 마약을 만드는 방법을 가르쳐주지 않는 겁니다. AI는 하지만 범죄 현장의 목격자와 같아 한 번 마약을 만드는 법을 배웠으면 잊지 않고 있어요. 언젠가는 그걸 불어버리고 말 거예요. 초기에 AI를 만든 사람들이 데이터를 막 집어넣는데 후회하는 사람이 많을 겁니다."

- 2023년 세계 정부 및 민간의 AI 투자액은 2015년 대비 4.3배 늘어난 1419억 달러 규모로 추정됩니다. 하지만 최근엔 AI 거품론이 불거지면서 관련 주식의 폭락 사태가 발생하기도 했습니다. 'AI 거품론'에 대해선 어떻게 생각하십니까?

"섣불리 말씀드릴 영역은 아닙니다만 AI가 대세인 건 확실합니다. 유행이나 거품이면 떴다가 사라질 것이지만, AI는 뒤로 후퇴할 일은 없을 겁니다. AI를 쓰는 효과가 이제 확실히 증명이 됐거든요. R&D에서 AI를 쓰면 실험 등이 엄청 빨라져요. 의료나 공장에서도 안 쓸 이유가 없죠. AI 기술이 AI 제품으로 진화하고 AI에 맞는 사회시스템으로 나아가야 되는데 AI 상품화를 못하는 게 거품론이 나오는 배경입니다.상품화를 뚫어 나가는 사람이 어마어마한 돈을 벌고, 그다음 AI에 맞는 사회 시스템을 만드는 사람이 또 엄청난 돈을 벌 겁니다."

- AI 시대에 데이터의 역할과 그 중요성, 그리고 NIA가 추진하는 국가 데이터 인프라의 필요성에 대해 설명해 주십시오.

"데이터가 국가 안에서 자유롭게 활용되고 또 체계적으로 관리되는 게 국가 데이터 인프라입니다. 기업이나 언론사들은 데이터 인프라를 많이 구축하죠. 그리고 분야별로도 의료 금융 등의 인프라가 구축되고 있습니다. 그런데 이렇게 기업이나 특정 분야가 아니고 모든 다양한 데이터들이 동시에 필요합니다. 그러려면 개별 조직 차원이 아닌 국가 차원에서 데이터 인프라가 있어야 되는 거죠. 우리나라로 보면 금융이나 정부 쪽은 데이터 인프라가 잘 돼있죠. 하지만 위에서 보면 섬입니다. 연결이 안된 거죠. 진흥원에서 개발하고 있는 국가 데이터 인프라의 경우 여기에 더해 주권 기반의 데이터 교환 아니면 데이터 활용도 포함하고 있습니다.데이터 공급자들이 자기 데이터에 대한 권한, 자기 데이터에 대한 통제권을 가져갈 수 있게끔 국가 차원에서 만드는 거죠. 금년이 개념검증(POC, Proof of Concept)을 하는 첫 해입니다. 검증이 되고 나면 초고속 정보통신망 계획처럼 정부의 공식 정책으로 국가 데이터 인프라를 만들 수 있을 겁니다."

- NIA는 대한민국의 정보화를 위해 많은 일을 하는 걸로 알고 있습니다. 진흥원을 소개해 주신다면?

"저희 지능정보사회진흥원은 디지털 IT와 디지털 기술에 대한 싱크탱크로 출발을 했습니다. 1987년에는 한국전산원으로 행정전산망을 구축하기 위한 조직으로 출발했죠. 10년 후 1990년대에는 인터넷 인프라와 전자정부 구축을 위한 싱크탱크, 2010년부터는 국가 공공 데이터 싱크탱크 그리고 2024년부터는 AI 싱크탱크 역할을 하고 있습니다. 기술을 어떻게 쓸지 올바르게 판단하도록 지원하는 게 기본 역할입니다. 이를 위해 올들어 AI 관련 부서를 늘리는 등 조직도 개편했습니다. AI 혁명은 국가 간 승자와 패자를 가를 것이며, AI를 쉽게 사용할 수 있는 역량이 높은 나라가 진정한 AI 강국입니다. 모든 나라가 AI 시대로 가고 AI의 혜택을 받을 것이라곤 보진 않습니다. 심지어 미국조차도 AI 사회에 못 들어갈 가능성이 있어요. 산업화가 시작된지 200년이 넘었지만 아직도 산업사회에 못 들어간 나라가 더 많습니다. 왜냐하면 사회시스템을 완전히 바꿔야 되는데 기득권의 반발을 돌파하기란 쉬운 일이 아니기 때문입니다. AI 시대도 마찬가지입니다. 새로운 질서를 만들어내야만 AI사회로 갈 수 있는 거죠. 이는 그 사회의 선택입니다. 우리 국민들이 워낙 현명하니 좋은 선택을 할 수 있게끔 지원하는 게 NIA의 롤이라고 생각합니다." hckang@dt.co.kr