“증명서 떼줘” “수급 신청해줘”… AI에 맡기다 ‘아차’ 할 땐 늦는다[맹성현의 AI시대 생존 가이드]

AI 앞 무방비 상태 ‘시키는 자’
국민 무료 ‘모두의 AI’ 연내 출시… 챗봇 넘어 생활 업무도 대신 처리
AI가 일 잘할수록 판단 맡기게 돼… 문제 생겨야만 잘못된 행동 확인
이용자 수보다 실제 혜택 따지고, 권한-승인-취소 안전장치 갖춰야

《올해 말이면 국민은 인공지능(AI)으로 두 가지 일을 할 수 있게 된다. 묻는 것, 그리고 시키는 것이다. 정부가 SK텔레콤, KT, 카카오와 함께 내놓는 ‘모두의 AI’에는 하나의 이름 아래 두 사업이 들어 있다. 하나는 AI 챗봇이다. 구독료를 내야 제대로 쓸 수 있는 AI 도구를 누구나 무료로 쓰게 하겠다는 것이다.》

맹성현 KAIST 명예교수·효성 AI융합연구원장

오늘의 AI 격차는 지식의 격차이기 전에 비용의 격차다. AI 이용료는 주고받는 말을 잘게 쪼갠 ‘토큰’ 단위로 매겨지고, 그 가격은 해외 기업이 결정한다. 일상의 도구가 내가 통제할 수 없는 변수에 묶여 있는 상태를 국가가 끊어주겠다는 뜻이다. 국민은 전화와 문자, 메신저를 통해 AI를 이용하게 된다.

다른 하나는 일을 대행해주는 AI다. 예컨대 83종의 증명서를 대신 떼어주되, 받을 자격이 있는지 확인하고 신청까지 대행한다. 복지는 어떤 서류를 어디서 떼어 제출해야 하는지 몰라 받지 못하는 사람이 적지 않다. 절차적 사각지대를 AI로 없애겠다는 것이다. 여기에 기업이 다양한 AI 서비스를 내놓는 장터까지 열리면 절차를 대신 밟아 주는 일 자체가 하나의 산업이 된다. 대출서류 제출, 병원 예약, 이사와 전입 신고처럼 사람이 몇 시간씩 매달리던 일들이 그 대상이다.

두 사업은 성공의 조건도 다르다. 챗봇은 품질 싸움이다. 국민이 이미 챗GPT, 제미나이, 클로드 등 최신 외산 AI를 써본 만큼 곧바로 비교되고, 품질이 뒤처지면 외면받는다. 대행형 AI는 연계 싸움이다. 온라인 행정 플랫폼인 ‘정부24’와 본인 인증, 각 부처 시스템을 얼마나 긴밀하게 연결하느냐가 핵심이다. 외산 AI는 경쟁자로 뛰어들기 어렵다. 한국이 승산을 가질 수 있는 영역은 대행형 AI다.

정부는 총 2500억 원(GPU 비용에 1700억 원)을 들여 연간 1000만 명에게 서비스를 제공한다는 목표를 세웠다. 그러나 하루에 몇 차례, 어느 정도까지 쓴다고 가정한 것인지는 밝히지 않았다. 질문에 답하는 데 드는 비용과 일을 대신 처리하는 데 드는 비용은 몇 배씩 차이가 난다. “증명서 떼 줘”라는 한마디를 수행하려면 조회와 연계, 확인을 위해 시스템을 수십 차례 오가야 한다. 예산이 빠듯해지면 비싼 기능부터 제한할 가능성이 크다.

정부 ‘2025 인터넷 이용 실태조사’에 따르면 생성형 AI 서비스를 이용하는 국민은 100명 중 44.5명이다. 스마트폰은 정해진 데이터 용량을 모두 써도 통신이 끊기지는 않지만 속도가 느려진다. AI 역시 이용자가 늘어나면 사용량을 제한하거나 작고 값싼 모델로 돌리거나, 쓸 만한 기능을 유료화하는 것 말고는 방법이 없다.

역설은 다른 데 있다. 묻는 AI는 사람에게 잘못을 발견하고 바로잡을 기회를 남긴다. 그러나 시키는 AI는 그 기회조차 주지 않는다. AI가 일을 잘 처리할수록 사람은 확인하지 않게 되고, 확인하지 않으니 무엇이 잘못될 수 있는지도 끝내 배우지 못한다. 조종사가 자동 조종에 익숙해질수록 계기를 덜 들여다보게 되는 현상과 같다.

필자는 앞선 칼럼에서 ‘지식의 외주화’를 걱정했다. 대행형 AI는 이를 ‘판단의 외주화’로 옮겨놓는다. 틀린 답은 읽어보면 걸러낼 수 있지만, 틀린 행동은 몇 주 뒤 탈락 통지서로 알게 된다. 몰라도 일이 되도록 하는 게 시스템의 목적인데, 알아야 안전하다고 말한다면 설계가 스스로 목적을 배반하는 셈이다. 필요한 것은 인터페이스와 제도다. 어디까지 맡길지 미리 정하는 화면, 금액과 정보의 민감도에 따라 달라지는 승인 단계, AI가 내 이름으로 무엇을 했는지 보여주는 이력, 되돌리기와 이의 제기 창구가 필요하다. 사용자가 몰라도 안전하려면 설계가 책임을 져야 한다.

올해 시행된 일명 ‘인공지능기본법’은 AI 기반 제품 및 서비스임을 사전에 고지하고, 생성형 AI의 결과물임을 표시하도록 규정하고 있다. 챗봇에 맞는 규제다. 대행에 필요한 권한의 범위와 취소 절차, 피해 배상과 책임 귀속에 대해선 올해 7월 ‘에이전틱 AI 이니셔티브’를 통해 검토를 시작했을 뿐 아직 규칙을 마련하지 않았다.

산업 쪽도 짚어야 한다. 우리에겐 국가가 소프트웨어를 개발해 무료로 배포하다가 민간 산업을 위축시킨 경험이 있다. 인도와 싱가포르, 스위스는 AI 모델과 계산 기반까지는 공공이 지원하되, 그 위에 올라갈 서비스는 시장 경쟁에 맡긴다. 기반을 넓게 깔고 여럿이 겨루게 하는 편이 잘 만든 하나를 국가가 나눠주는 것보다 산업 경쟁력을 높이는 데 유리하다. 게다가 SK텔레콤, KT, 카카오 등 세 컨소시엄의 품질을 서로 견줄 공개된 잣대도 아직 없다.

그러니 이 사업을 잘 지켜봐야 한다. 첫째, 단순 이용자 수가 아니라 절차를 몰라 복지와 행정 혜택을 받지 못하던 사람이 혜택을 받게 됐는가. 둘째, AI가 내 이름으로 한 일을 내가 들여다보고 되돌릴 수 있는가. 이 두 척도로 재지 않으면 우리는 ‘공짜’라는 말에 만족해 정작 AI가 내 일을 대신 결정하는 데 익숙해질 것이다. 묻는 AI는 편리할 뿐 아니라 잘 쓰면 생각을 넓혀 준다. 그러나 시키는 AI는 우리 눈을 가린 채 미처 알지 못한 위험으로 데려갈 수도 있다.

맹성현 KAIST 명예교수·효성 AI융합연구원장