[고견을 듣는다] "AI 시대, 기술보다는 `가치 네트워크` 구축이 더 중요"

AI강국 되려면 데이터가 원활하게 사용될 수 있도록 사회제도 전반 혁신해야
AI기술에 대한 과신은 금물… 의사결정시 오류 염두에 두고 검증 체제 갖춰야
AI를 국가전략산업으로 키우기 위해선 무엇을 우선해야 할지 분명한 목표 필요
9월 출범 예정 AI위원회, R&D 투자만이 아닌 범정부 전략 짜는 역할 수행해야
AX 사회에선 정부·민간 경계 흐려져… 산업사회형 정부 더이상 존재 안 할 것

권헌영 고려대 정보보호대학원장. 박동욱기자 fufus@

[]에게 고견을 듣는다 권헌영 고려대학교 정보보호대학원장

"정부가 인공지능(AI)을 국가전략산업으로 키우겠다는 청사진을 밝혔습니다. 그렇게 하기 위해선 무엇을 우선해야 할지 분명한 목표가 필요합니다. 9월 출범 예정인 국가 AI위원회는 연구개발(R&D) 투자만이 아니라 AI를 국가전략산업으로 육성하기 위한 범정부 전략을 짜는 역할을 수행해야 합니다."

29일 서울 중구 디지털타임스 회의실에서 만난 권헌영 고려대학교 정보보호대학원장은 "세계적으로 인공지능 트랜스포메이션(AX)이 진행되고 있다"며 "AI를 국가적 산업으로 육성하기 위해선 무엇보다 전략 마련이 시급하다"고 강조했다. 그는 "AI는 결국 우리가 추구하는 가치를 찾아 실현하는 것으로, AI혁명을 통해 공동체 본연의 가치를 구현하는 네트워크를 구축해야 한다"며 "이것이 'AI 가치 네트워크'의 본질"이라고 밝혔다.

권 원장은 " AI는 스스로 창의적인 솔루션을 낼 수 있는 제너러티브(Generative·생성형) AI 수준까지 발전할 것"이라며 "인간처럼 생각하고 행동하는 기계가 출현할 것"으로 예상했다. 이어 "AI 시대엔 센서를 통해 모은 다양한 정보를 AI가 분석하고 이를 바탕으로 예측하게 될 것"이라며 "AI강국 되려면 데이터가 원활하게 사용될 수 있도록 사회 전반의 혁신이 필요하다"고 역설했다. 또 "AI기술에 대한 과신은 금물"이라며 "정책이나 경영 의사 결정시 반드시 오류를 염두에 두고 검증 체제 갖춰야 한다"고 말했다. 정부와 민간 간 경계가 흐려져 산업사회형 정부는 더이상 존재하지 않게 될 것으로 내다봤다.

권 원장은 서울 배명고를 나와 연세대학교에서 법학 학사·석사·박사 학위를 취득했다. 정보통신정책연구원, 한국정보화진흥원(현 한국지능정보사회진흥원), 광운대학교 법과대학 교수를 거쳐 2015년부터 고려대 정보보호대학원 교수로 재직중이다. 총리 소속 공공데이터 법제도분야 전문위원회 위원장, 정부 3.0추진위원회 법제도특별위원회 위원장 등으로 활동했으며 디지털정부혁신위원장, 디지털플랫폼정부위원회 정보보호분과 위원장이기도 하다. IT 법·제도, 디지털정부, 공공데이터 · 개인정보보호 분야의 전문가로 꼽힌다.저서(공저)로 '웹 3.0 넥스트 이코노미', 'AI와 미래행정' ,'디지털 포용사회와 비대면 교육', '비트전: 사이버전의 혁신' 등이 있다.

대담 = 강현철 논설실장

- 'AI(인공지능)의 시대'가 다가오고 있습니다. AI는 인터넷과 모바일 이상으로 인류에 혁명적 변화를 가져올 것입니다. AI는 어떻게 사회를 어떻게 변화시킬까요?

"디지털 대전환을 디지털이 모든 것을 바꾼다는 뜻으로 '디지털 트랜스포메이션(DX)'이라는 말을 써왔습니다. 지금은 AX, AIX(인공지능 트랜스포메이션)로 바뀌었는데, AI가 모든 것을 바꾼다는 뜻이죠. 인터넷 혁명, 모바일 혁명이 3차 산업혁명이었다면 4차 산업혁명은 IoT(사물인터넷) 센서로 사물을 통제할 수 있는 사물 네트워크 시대입니다. 모든 사물에서 수집된 데이터를 분석, 처리해 원하는 형태로 만들려면 AI가 없으면 안되죠. 데이터를 빠르게 처리하고 사람이 필요할 때 쓸 수 있게 만드는 게 AI의 제일 큰 힘입니다. '라지 랭귀지 모델'(LLM·거대언어모델)처럼 텍스트로 돼있는 것을 학습해 AI가 대신 읽고 내가 필요한 걸로 요약해 줍니다. 회의자료 보도자료도 작성해주죠. 지금은 기계가 대신 공부하는 수준까지 와 있습니다. 텍스트 말고 영상 사진 등 눈으로 보는 것을 컴퓨터가 대신 보는 게 컴퓨터 비전(Computer Vision) AI에요. 다음이 수치 데이터입니다. 하수종말처리장에 센서를 넣어 검출된 마약을 분석해 어떤 성분이 사용되고 어느 지역에 마약을 이용하는 사람들이 있는지를 찾아내는 겁니다. 이처럼 모든 분야에 적용되는 데이터 처리가 AI를 통해 이뤄지는 세상이 AIX입니다. AI를 쓰는 것과 AI를 쓰지 않는 건 엄청난 격차를 보일 겁니다. AI 전쟁에서 이겨야 디지털 경제에서도 살아남을 수 있습니다. 국가의 존망이 걸린거죠."

- 챗GPT 등 생성형 AI가 화두입니다. AI 기술의 진화 방향은 어떻게 보십니까?

- 챗GPT 전 나온 알파고가 많은 사람들을 놀라게 했습니다. 그전까지도 자동화 프로그램은 있었는데 분석한 것을 가지고 미래를 예측하는 일은 못했었죠. 학습량이 일정 단계를 넘어 스스로 창의적인 솔루션을 낼 수 있는 단계까지 가는 것이 바로 제너러티브(Generative) AI의 핵심 기술입니다. AI 기술의 가장 큰 목표는 인간처럼 생각하고 행동하는 기계를 만드는 겁니다. 이제는 사람의 의도를 예측해 공부한 학습량을 기반으로 환경에 따라 다른 답변을 낼 정도까지 발전했습니다. 지식을 생성하는 단계까지 이른 거죠. 문제는 오류가 있다는 점입니다. 오류를 제로로 만드는 건 어려운 일입니다. AI가 모든 걸 해결해 줄 것으로 믿거나, 또는 AI가 인류에게 위협이 될 것으로 생각하는 사람들이 있는데 AI는 도움을 주는 쪽으로 사용하면 됩니다. 검증해 틀리지 않은 부분을 쓰면 되는 거죠. 기술은 완벽하지 않아도 충분히 가치를 제공할 수 있습니다. 챗GPT는 AI가 새로운 일을 할 수 있는 가능성을 보여줬습니다. 이는 컴퓨터 비전 AI에서도 마찬가지죠. 자율주행 자동차가 0단계부터 5단계까지 있지만 지금 3단계까지는 기술적으로 구현됩니다. 3단계는 주행을 하다가 위험이 감지되면 안전한 곳까지 이동해서 운행을 멈추도록 하는 건데 아직 상용화되진 않았죠. 마지막 단계를 해결하는 데에는 엄청난 자원과 고난도의 기술이 필요합니다. AI에 완벽을 요구하는 데 이런 식의 접근은 지양해야 합니다. AI 선진국으로 가는 길은 그때부터 시작됩니다."

- AI 전쟁 시대에 경쟁력을 확보하고 AI산업을 키우기 위해선 정책, 제도적으로 어떤 부분이 뒷받침돼야 합니까?

"대통령께서 디지털플랫폼정부와 AI 정책을 발표하고, 디지털 권리장전도 얘기하고, AI 정상회의도 개최하는 등 AI와 데이터를 국가전략산업으로 육성하겠다고 하셨습니다. 그러러면 뭘 해야 할까요? 지금은 AI 연구개발(R&D) 투자말고는 하는 게 없어요. 세계적인 AI 알고리즘을 만들 역량이 있는 인재가 있거나, AI 산업에 대한 투자가 많거나, AI로 만들어낸 솔루션을 해외에 수출하거나 해야 하는데 정책 수립은 어디서 하나요? AI 전략을 과기정통부에서만 하면 됩니까? 대통령을 위원장으로 하는 AI위원회가 출범을 앞두고 있습니다. 위원회는 단순히 AI 기술에 초점을 맞추기보다는 AI를 국가전략산업으로 키우기 위해 해야 할 일이 뭔지를 분명하게 식별해야 합니다. AI 단지에 전기 요금을 무료로 해주겠다든지, 그래픽 처리장치(GPU)를 공동으로 활용할 수 있도록 지원해준다든지, 데이터센터 운영을 위한 인프라를 구축한다든지 문제도 논의해야죠. AI 솔루션 사업을 국가전략산업으로 가져갈지, AI 인프라 사업을 가져갈 건지 아니면 사회에서의 AI 활용에 중심을 둘 건지 비전을 만들어내야 됩니다. 이런 종합 정책은 아직 부족한 상태로, AI 투자를 활성화하는데 규제 개선이 필요하다는 수준 정도까지 밖에 안 와 있습니다. 정부가 어느 분야에 투자해 먼저 AI 산업화를 시키고, 국가전략산업의 전초 기지를 만들 건지에 대한 비전을 분명히 해야 합니다."

- 데이터산업 분야도 핵심이 아닐까요?

"그렇습니다. AI가 좋은 알고리즘이 되려면 무수한 학습 데이터가 있어야 돼요. 그런데 우리는 데이터 전략을 가지고 있지 않습니다. 데이터를 AI에 피딩(feeding ·공급)하거나 더 많은 데이터가 원활하게 유통되려면 개인정보에 막혀선 안됩니다. 데이터를 AI에 활용하는 데 장애요소가 된다면 과감하게 규제를 철폐해 주거나 아니면 품질 좋은 데이터로 다시 만들어주거나 하는 작업을 해야 합니다. 돈만 쓴다고 해결되는 문제가 아니며, 국가의 데이터 거버넌스가 제대로 갖춰져 있는가를 살펴봐야 돼요. 데이터 문제는 두 종류가 있는데 하나는 데이터가 실제로 기술적으로 어디에 있는가의 문제로, '데이터 커스터디(custody)'라고 합니다. 이는 데이터 관리자입니다. 그런데 실물 데이터는 현업부서가 갖고 있는데 이를 '데이터 오너십(ownership)'이라고 합니다. 데이터나 AI를 얘기하면 커스터디 관련자만 불러 회의를 합니다. 그래선 데이터 문제를 풀 수 없습니다. 데이터 거버넌스가 안 갖춰진 상태에선 AI 연습만 하게 됩니다. 데이터 커스터디는 전기요금을 면제해준다든지 재정으로 인프라를 만드는 게 가능하죠. 그러나 그 안에서 데이터가 원활하게 돌아가는 것은 데이터 오너십이 문제로, 사회 제도 전반을 혁신하지 않으면 안됩니다. 두 가지가 이뤄져야 AI 선진국이 될 수 있습니다."

- 세계 기업들은 AI 관련 시장을 선점하기 위해 전쟁 중이라고 해도 과언이 아닙니다. 디지털타임스가 내달 4일 개최 예정인 AI포럼의 주제는 'AI시대, 가치 네트워크에 주목하라'입니다. AI시대 경쟁우위는 가치 네트워크를 장악하는 데 달려있다는 뜻인데, 원장님이 생각하시는 AI시대 기업 경쟁력은 무엇이라고 생각하십니까?

"AI 경쟁에서 낙관론을 가진 사람도 있고 비관론을 가진 사람도 있습니다. 낙관론은 한국의 디지털 전환 정도가 상당한 수준에 와 있기 때문에 이 데이터를 중심으로 해 학습을 시키면 AI 분야에서 두각을 나타낼 수 있다고 봅니다. 반면 비관론자들은 거대 빅테크들에 비해 경쟁력이 낮은 수준이어서 규모의 경제에서 성공하기는 어려울 것이라고 생각합니다. AI는 원천 기술이 중요하지만 맥락 정보도 중요합니다. 우리가 AI를 어디에 쓸 것이냐 하는 문제죠. 빅테크와 경쟁해 세계 시장에서 경쟁력을 높이자는 게 첫번째 목표는 아닙니다. 우선 빅테크에 대응해 우리 시장을 지킬 수 있는 역량까지가 첫번째 목표예요. AI는 데이터를 중심으로 운용되는 데 데이터는 로컬라이즈돼 있죠. 우리 문제는 우리 데이터로 해결해야 합니다. 우리 데이터로 미국의 솔루션을 가지고 우리 문제를 해결할 수 있어요. 지금 신경 써야 할 것은 AI를 통해 무엇을 하고자 하는가를 분명히 하는 일입니다. 사회를 합리화하고 그동안 해결하지 못한 문제를 해결하고, 또 새로운 형태의 부가가치를 만들어내서 그걸 잘 쓰게 만들어 준다면 AI를 안 할 이유가 없습니다. 저는 이 지점이 가치 네트워크의 본질이라고 봅니다. AI로 돈을 버냐 벌지 못하느냐는 그다음 입니다. 가치가 돈일 수도 있지만 AI 네트워크를 통해 어떤 가치를 누구에게 보내주고, 그 가치의 배분이 얼마나 정의롭고 공정하고 또 그 가치가 얼마나 성장하는 것인가의 문제로 바라본다면 AI를 통해 원래 생각했던 인류 본연의 가치, 우리 공동체 본연의 가치, 우리 시장 본연의 가치, 우리 사회가 추구하는 가치를 구현하느냐 못하냐가 바로 가치 네트워크의 문제입니다. AI를 통해 우리가 원래 하고자 했던 가치를 보전하고 극대화하는 쪽으로 나아가자는 비전이 가치 네트워크인 것입니다."

- AI는 결국은 가치를 찾아가는 것이라는 말씀을 해주셨습니다. AI 시대의 정부 모델에 대해선 아직 큰 논의가 많지 않은 것 같습니다. AI 시대 정부는 어떻게 달라져야 하고 그리고 우리가 지금 시작해야 될 일은 뭐라고 생각하십니까?

"AI 시대 디지털 대전환이 이뤄지면 모든 곳에 센서가 부착돼 모바일 기술로 사물을 통제할 수 있는 상태가 됩니다. 이런 시대에 정부는 과학적이지 않으면 존재하지 못하게 돼요. 새로운 시대 정부의 모델이 산업사회형으로 유지될 수 있겠습니까. 이제는 극단적으로 과학적인 시대가 오는 겁니다. 지금도 정부가 제공하는 서비스를 네이버나 카카오를 통해서도 받잖아요. 민간과 정부 간 경계가 흐려지는 거죠. 정부가 원하는 것이 무엇이고 국민이 원하는 것이 무엇인지만 남게 됩니다. 그걸 의사표시라고 해요. 예를 들면 내가 원하는 의사표시만 하면 그것이 구현되는 상태가 된다면 정부의 모델이나 자원 관리가 굉장히 달라지죠. 정부만 할 수 있는 것인지 아닌지에 대한 심사 절차에 돌입해야 될 겁니다. 그러면서 산업사회형으로 유지돼온 정부 모델을 전혀 새로운 형태의 정부 모델로 바꾸는 작업이 착수돼야 합니다. 이것이 디지털플랫폼정부의 개념이에요. 디지털플랫폼정부는 디지털 대전환이 이뤄진 이후 정부의 모델을 플랫폼 전략으로 지속적으로 혁신하는 정부입니다. 이를 위해선 제도, 문화, 시스템을 바꿔야 합니다."

- 우리 정부는 디지털정부 부문에서 앞서가고 있다는 평가를 듣고 있는데 정부의 공공부문 AI 도입 방안에 대해 소개해 주십시오.

"현재는 AI에 반복적인 업무를 학습시켜 공무원 업무를 줄여준다든지 하는 형태에 많이 사용되고 있습니다. AI는 분석하고 예측하는 일을 하는데 지금은 분석하는 쪽에 많이 활용할 수 있죠. 예를 들면 정부의 챗봇 서비스 같은 것입니다. 공무원이 학습하거나 자료 분석을 할 때도 사용될 수 있습니다. 현재 국내 6개 AI 사업자들이 공공 업무를 개발하고 있어요. 공무원이 AI의 도움을 받아 행정을 하는 시도 단계입니다. 나중에 데이터가 통합되고 더 큰 형태의 정부형 AI를 만들어내면 축적된 데이터에 바탕을 둔 AI의 예측이 경험에 의한 인간의 판단 오류를 잡아줄 겁니다. 이와 함께 정부 의사결정의 품질을 높이는 데도 AI가 사용될 겁니다. 이게 데이터 기반 행정입니다. 이런 형태로 정부가 바뀔 것입니다."

- 9월초 출범하는 국가인공지능위원회가 해야 할 일은 무엇이라고 생각하시는지요?

"정부에서 위원회를 운영하면 보통 해당 부처가 주관하게 되는데 AI위원회는 과기정통부가 운영하고, 대통령께서 위원장을 맡고 부위원장 체제로 운영하는 것으로 정리돼 있습니다. 위원회의 중요한 역할은 AI가 국가산업으로 발전할 수 있는 범정부 전략을 마련하는 겁니다. 기획재정부가 할 일 또 산업통상자원부가 해야 될 일, 지자체가 해야 될 일 이런 것들을 종합적으로 살펴야지 자칫 AI 연구개발 투자나 하고 마는 상태가 될 가능성이 있습니다.덧붙여 데이터 개혁, 교육이나 규제 개혁 등의 문제도 다뤄야 합니다. 국가교육위원회, 국무총리실 규제개혁위원회, 행안부의 정부 내부 혁신 문제도 다뤄야 합니다. 그다음 남은 3년 임기내 어디서 성과를 낼지 우선순위를 정해야 합니다. 인구 소멸 상황에서 국방 문제를 1번으로 하겠다, 전 세계에서 국민들이 AI를 가장 잘 사용하는 나라 아니면 AI 글로벌 기업을 몇 개 만들겠다 이런 구체적인 성과 목표를 제시해야 합니다."- AI가 디지털정부 서비스에 위협요인이 될 수도 있지 않을까요?

"중요한 건 AI 기술에 대해 과신하지 않는 겁니다. 기술에 대한 과신은 자칫 최악의 의사결정이라는 오류를 초래합니다. 예를 들면 데이터를 다 분석하지 않았거나 분석 기술이 적합하지 않았을 때 또는 데이터에 오류가 생겼을 때 기술만 믿고 의사결정하면 그런 결과를 나을 수 있습니다. 단순 업무에 AI를 지원받는 것은 괜찮지만 의사결정 때는 반드시 검증 작업을 해야 합니다. 또 하나는 격차의 문제입니다. AI를 사용하는 사람과 사용하지 않은 사람 간 차도 있고 또 AI 혜택을 본 사람과 그렇지 않은 사람 간 격차도 있는데 이를 살피는 게 필요합니다. 이밖에 AI 데이터를 정확하게 피딩하고 실시간으로 운용하려면 보안 문제가 있습니다. AI 오류의 문제를 염두에 두고 언제든지 의사결정의 오류를 검증할 수 있는 체계를 가져가야 됩니다. 정부의 의사결정에서는 AI 블랙박스가 됐든 아니면 검증기록이 됐든 기록장치를 유지하는 작업이 꼭 필요합니다."

- 보안과 관련해 AI는 창이자 방패 역할을 할 수 있습니다. AI시대 보안 정책은 어떻게 해야 합니까?

"지금도 북한, 중국이나 러시아 등으로부터 하루 100만건 이상의 사이버 공격이 이뤄지고 있습니다. 기계적으로나 반복적인 공격에 대한 방어는 AI한테 맡겨도 됩니다. 문제는 AI를 공격 수단으로 사용할 때입니다.이에 대한 대응 방안은 좀 더 강구해야 합니다. 또 AI를 어느 서비스에 쓸지 결정하기전 검증 작업을 먼저 하는게 좋습니다. 코딩을 할 때 오류나 취약점을 막기위한 시큐어 코딩이나 소프트웨어 인증제처럼 AI도 대응하는 제도를 만들어야 돼요."

- AI 시대에 특히 '잊힐 권리'의 중요성이 더 커질 것으로 예상됩니다. EU(유럽연합)에선 '삭제 청구권'이 법적으로 확립된 상태이기 한데 개인정보 보호를 위해선 어떤 제도적 장치가 필요할까요?

"한국의 개인정보보호법은 유럽보다 더 강력하다고 볼 수 있어요. 우리는 개인동의 없이 정보를 처리하는 것 자체가 불가능합니다. EU에서 일반개인정보법(GDPR)을 만들면서 프로파일링에 대한 거부권을 명시했는데 우리 법에는 그게 포괄적으로 포함돼 있습니다. AI가 횡단보도 앞에 있는 내 얼굴을 찍어 분석을 하면 그 자체로 엄청 스트레스를 받지는 않잖아요. 그걸 어디다 쓰는지가 더 중요한 이슈입니다. 불법 행위는 강력하게 처벌해야 하지만 큰 문제없이 데이터를 공익 목적이나 선의로 잘 쓰고 있는 상태까지 문제삼는 것은 앞으로의 시대의 안 맞는 제도 운용이라고 봅니다."hckang@dt.co.kr강현철 논설실장