[ET시론]혁신과 안전의 조화로 만들어가는 AX 혁명

홍진배 정보통신기획평가원(IITP) 원장

“1초도 안 되는 짧은 순간에 정해진 규칙 없이 복잡한 결정을 내려야 하는 도로 운전과 같은 일은 결코 자동화될 수 없다.”

지난 2004년 미국 매사추세츠공대(MIT)의 프랭크 레비와 하버드의 리처드 머네인이 공동 집필한 '노동의 분할'에서 인간과 기계의 능력을 비교하며 내놓은 주장이다. 그리고 불과 20년이 지난 지금, 이 예언은 완전히 빗나갔다. 지금의 인공지능(AI)은 사람에 근접한 창의·소통 능력과 더불어 자율주행처럼 그간 불가능하다고 여겨진 복잡한 동작과 임무 수행이 가능한 수준까지 빠르게 발전 중이다.

이러한 AI 전환(AX:AI 트랜스포메이션)은 이제 시작에 불과하다. 역사상 유례없는 속도로 광범위한 영향력을 미치는 AI는 머지않아 전기와 컴퓨터·인터넷을 이을 범용기술(GPT:General Purpose Technology)로 우리 삶에 빠르게 자리매김할 것이다.

◇혁신·안전·포용, AX 시대의 핵심 가치

생성형 AI 등장 이후 AI는 혁신의 한계를 돌파하며 경제·사회 모든 영역에서 빠르게 확산 중이다. AI 성능이 인간의 능력을 초월하는 특이점 시점 또한 2045년 이후를 예상했지만, 최근에는 5년 안에 달성될 것이라는 전망도 나오고 있다.

마이크로소프트(MS)·애플·오픈AI와 같은 글로벌 빅테크 또한 이런 변화 속도에 대응하기 위해 경쟁기업과의 합종연횡을 이어가고 있다.

동시에 AI의 실존적·잠재적 위험도 확대되고 있다. 잘못된 AI 학습과 알고리즘에 의한 편향성, AI를 악용한 사회 혼란 등 AI 혁신과 위협 사이 딜레마가 이제 현실 문제로 부상 중이다.

생성형 AI의 등장과 이에 따른 혁신 효과

이런 상황에서 지난 5월 개최된 'AI서울정상회의'에서는 '혁신·안전·포용'을 골자로 한 '서울선언'이 채택됐다. 안전하지 않은 기술은 완결성을 갖기 어렵고, 포용의 가치를 외면한 혁신은 지속될 수 없다.

이렇게 상충될 수 있는 혁신·안전·포용이라는 AI 시대 핵심 가치를 하나로 조화시키는 것이 AX의 원동력이고, 우리가 목표로 하는 AI G3 국가로의 도약 또한 여기에 달려있다.

◇세계 최고의 AI 혁신생태계 조성

AI 혁신 경쟁의 핵심은 핵심기술 확보와 인재 공급 그리고 이를 뒷받침하는 생태계 구축이다. 최근에는 AI 경쟁이 기업을 넘어 국가 단위로 확장되는 가운데, 국가안보 측면에서 AI의 중요성이 부각되면서 국가 단위의 독자적 AI 생태계를 갖추는 '소버린 AI'에 대한 관심도 높아지고 있다.

우리는 그간 딥러닝부터 생성형 AI까지, 기술 진보 분기점마다 연구개발(R&D) 역량을 결집해 왔으며, 세계에서 세 번째로 초거대 AI 모델을 개발하는 등 빠르게 선도국과의 기술격차를 좁혀왔다.

이제 축적된 역량을 기반으로 한 단계 더 진화한 범용인공지능(AGI)으로 과감하게 도전하고 있다.

AI 혁신은 방대한 데이터를 학습·추론하는 AI 모델 진보와 대규모 연산을 빠르고 효율적으로 처리하는 컴퓨팅 파워, AI 반도체 동반성장이 필수다. 지난 4월 정부는'AI-반도체 이니셔티브'를 발표하면서 AI 모델과 AI 반도체 간 상호보완적 혁신전략을 마련했다.

먼저 복합인지, 자가학습, 환경변화 적응과 같이 인간처럼 이해하고 추론·판단이 가능한 '차세대 AI 모델 확보'에 도전한다.

막대한 자금과 전력을 요구하는 초거대 모델 한계를 극복하기 위해 소량의 데이터와 학습만으로도 고성능이 가능한 '경량화 AI 모델' 개발도 병행 중이다.

AI 반도체 분야에서는 신경망처리장치(NPU)·온디바이스AI 등 고성능·저전력 경쟁력 확보에 주력하고 있다. 이와 관련해 세계에 도전장을 내밀만 한 사피온, 퓨리오사AI 등 우리 기업들도 등장하고 있다.

특히, 메모리 자체에서 연산 처리가 가능한 프로세싱 인 메모리(PIM) 기술은 메모리 분야에 강점을 가진 우리가 놓쳐서는 안 될 중요한 분야다. 이를 위해 'PIM 인공지능 반도체 핵심기술 개발사업'을 추진하며 초격차 경쟁력 확보에 나서고 있다.

아울러, 제조·서비스업 전반에서 AI의 신속한 도입을 위한 범국가적 차원의 대규모 컴퓨팅 인프라 확충은 시급한 과제다.

이와 병행해 AI 경쟁 최전선에서 혁신을 이끌 인재도 키워야 한다. AI 인재 '저변 확충'부터 '톱티어'에 이르는 촘촘하고 체계적인 AX 인재육성 시스템 구축이 중요하다. 이를 위해 전국 58개 'SW중심대학'을 통한 AI 인재 저변 확대, 'SW스타랩'을 통한 창의적 연구지원, 그리고 '대학ICT연구센터', 'AI·AI반도체·융합대학원'을 통해 AI 모델·반도체 분야의 최고급 인재로 성장할 수 있는 인재양성 체계를 만들어 가고 있다.

향후 AI반도체-X랩과 같은 기업·대학 간 밀접한 협력을 통해 인재배출 공급망을 더욱 공고히 할 계획이다. 또 글로벌 대학·기업과의 첨단 기술에 대한 국제공동연구를 확대해 글로벌 경쟁력을 갖춘 인재육성에도 매진할 것이다.

◇안전하고 책임 있는 AI로의 진화

얼마 전 MS 클라우드 장애로 전 세계 항공·통신·금융 서비스 곳곳이 피해를 입었다. 이제 디지털 재난은 단순 오작동 수준을 넘어 경제·사회 활동을 마비시키는 치명적 위협이 되고 있다.

여기에 딥페이크를 활용한 가짜뉴스, 편향적 AI가 조장하는 혐오 문화와 같이 AI 혁신 이면의 위협요인 심각성이 더해지며, 기술혁신 전제조건은 무엇보다 '안전'이라는 공감대가 형성되고 있다.

AI 추론·예측 과정을 설명할 수 있는 AI, 데이터 수집부터 모델 학습까지 AI 개발 편향성을 식별하고 제거하는 기술, 딥페이크 탐지 기술과 같은 AI 안전기술 개발에 나서야 한다.

하반기 설립될 'AI안전연구소'를 중심으로 이런 기반이 강화될 것으로 기대된다. 또 AI 안전은 제도적 정비도 많이 요구된다. 이를 위해 '민간 자율의 AI 신뢰성 검·인증 제도'와 'AI 개발안내서', 최근 개인정보보호위원회의 'AI에 이용되는 공개데이터 처리기준' 등이 마련되고 있으며, 앞으로 유럽연합(EU)의 'AI법', 미국의 'AI위험관리프레임워크' 등을 고려한 글로벌 표준화 노력도 필요하다.

그간 기술혁신이 인간의 생산성을 보조하는 수단이었다면, AI는 소통·창작·동작과 같은 인간 능력을 대체할 수 있다는 측면에서 윤리적 가치 정립 또한 중요하다. '특이점에 도전하는 AI 혁신'과 '누구나 믿고 쓰는 AI 안전' 사이의 균형을 이루기 위한 시작점으로 조속한 'AI기본법' 마련이 필요하다.

◇모두가 누리는 AI 포용 시대의 준비

우리나라의 디지털 활용률은 세계 최고지만, 생성형 AI 이용률은 아직 저조하다. 인터넷이용실태조사에 따르면 국내 생성형 AI 활용경험은 10~30대는 30%, 50대 이상의 경우 10% 수준을 넘어서지 못한다.

AI 활용 격차, AI 혜택 소외가 또 다른 사회문제 근원으로 자리 잡지 않도록 선제적 대응이 필요하다. 가깝게는 다양한 AI 활용법과 프롬프트 엔지니어링과 같은 AI 리터러시 교육의 전면 확산이 필요하다.

최근 들어 음성, 행동을 인식하고 추론하는 멀티모달 AI 기술 발전이 사람과 기계 간 인터페이스 장벽을 허물고 있는데, 이를 AI 배리어프리 실현 원천으로 적극 활용할 수 있을 것으로 기대된다. 이와 함께 AI 서비스 접근·활용을 전 국민 보편권으로 보장하고, 법제화하려는 노력 또한 시급하다.

◇대한민국이 주도하는 새로운 AX 시대

글로벌 컨설팅업체 베인앤컴퍼니에 따르면 우리나라가 국가 전반에 AI를 성공적으로 도입할 경우, 향후 3년간 국내총생산(GDP) 1.8%P 추가 성장으로 최대 300조원 이상 경제효과 창출이 가능하다고 한다.

막대한 경제효과 뿐만 아니라 글로벌 패권경쟁 승부처인 AI, 그리고 AI반도체 경쟁력 확보에 대한민국의 미래가 달려있다고 해도 과언이 아니다.

AI 혁신, 안전, 포용의 가치 실현이 기술·산업적 영역을 넘어 국가안보, 경제·사회 전반을 아우르는 국가혁신시스템으로 확장돼야 한다.

앞으로 출범할 국가AI위원회가 정부 부처는 물론 기업과 시민·사회를 하나로 모으는 국가혁신의 구심점으로 자리잡아, 한치 앞을 예측하기 어려운 AX 시대에 국가적 역량을 결집해 명실상부한 AI G3 국가로 도약하는 대한민국의 미래를 기대해 본다.

홍진배 정보통신기획평가원(IITP) 원장 jbhong09@iitp.kr

〈필자〉 1996년 38회 행정고시로 정보통신부에서 공직생활을 시작했다. 英 맨체스터대 기술경영학 박사로 30년 가까이 정보통신부, 방송통신위원회, 미래창조과학부, 과학기술정보통신부 등에서 통신정책관, 정보보호네트워크정책관, 네트워크정책실장을 역임했다. 지난 2월 정보통신기획평가원(IITP) 원장으로 부임. 정보통신기술(ICT) 연구개발(R&D)과 인재양성을 진두지휘하고 있다. 2003년 대통령 표창, 2021년에는 대통령 홍조근정훈장을 받았다.