일본은 왜 AI혁명 앞에서 다시 조심스러워졌나

[주장] 오픈AI의 찬사 뒤 숨은 질문... 한국, AI 안전 거버넌스 준비됐나

오픈AI가 한국을 AI 핵심 인프라 시대의 최적 파트너로 꼽았다. 그런데 찬사 뒤에는 날카로운 질문이 숨어 있다. 빠르게 도입하는 나라가 아니라, 잘못됐을 때 되돌릴 수 있는 나라가 진짜 선도국이다. <기자말>

[김영근 기자]

▲ 제이슨 권 오픈AI 최고전략책임자(CSO)가 27일 서울 서초구 JW 메리어트 호텔에서 열린 기자간담회에서 발언하고 있다. ⓒ 오픈AI 제공, 연합뉴스

5월 27일, 서울 서초구 JW 메리어트 호텔. 오픈AI 최고전략책임자 제이슨 권은 한국 기자들 앞에서 "인공지능(AI)이 이제 세 번째 국면에 들어섰다"고 말했다. 챗봇처럼 질문에 답하던 단계, 복잡한 문제를 추론하던 단계를 지나 이제는 경제와 행정의 바닥을 움직이는 '핵심 인프라'가 되는 시대라는 뜻이다. 그는 이어 "한국이 이 단계를 주도할 최적의 위치에 있다"고 평가했다.

근거는 세계 최고 수준의 반도체 생산 능력, 5G 통신망, 빠른 디지털 적응력, 빽빽한 제조 생태계 등 구체적이었다. 오픈AI가 내놓은 '한국 경제 블루프린트'는 삼성·SK와의 스타게이트 협력, 데이터센터 구축 논의, 교육·의료·중소기업 분야 적용 가능성을 강점으로 꼽았다.

같은 날 발표된 '한국 사이버 액션 플랜'은 더 직접적이다. 정부 기관과 핵심 기업에 AI 기반 사이버 방어 도구를 본격적으로보급하겠다는 계획이다.

여기서 잠깐 멈춰야 한다. 사이버 방어 AI는 공공기관 문서 자동화와 차원이 다르다. 시스템 취약점을 찾아내고 해결책을 제안하는 능력은 선의의 방패이지만, 접근 권한과 감사 기록이 허술하면 같은 능력이 내부 위협으로 뒤집힐 수 있다. 그래서 이번 발표는 기술 협력 소식이면서 동시에 안전거버넌스 소식이기도 하다.

일본이 먼저 걸어간 길, 그 균열

한국이 찬사에 들떠 있을 때 가장 먼저 살펴볼 곳은 일본이다. 오픈AI는 2024년 도쿄에 아시아 첫사무소를 열었다. 일본 정부는 '세계에서 가장 AI 친화적인 나라'를 표방해 왔고, 고령화와 노동력부족을 AI로 해결하겠다는 기대도 컸다.

그런데 현실은 다른 이야기를 들려준다. <로이터>가 일본 기업을 조사했을 때, 이미 AI를 도입한 기업은 네 곳 중 하나 정도였고, 40% 넘는 기업은 도입 계획 자체가 없다고 답했다. 이유는 낯설지 않다. 직원들의 일자리 감소 불안, 전문 인력 부족, 비용 부담, 기술 신뢰성 문제. 기술은 준비됐는데 현장이 따라오지 못하는 장면이다.

공공 행정의 상처도 남아 있다. 일본 정부의 마이넘버 통합 신분 제도는 건강보험과 복지 지급 정보가 잘못 연결되는 사고를 겪었고, 총리가 공개 사과를 했다. 이것은 AI 사고가 아니다. 하지만 공공데이터가 잘못 묶일 때 시민의 신뢰가 얼마나 빠르게 무너지는지를 보여준 뼈아픈 사례다. AI 행정은 결국 신분, 건강, 금융, 복지 데이터 위에서 작동하기 때문이다.

최근에는 중국의 희토류·갈륨 수출 통제와 대만 해협 긴장까지 겹치며 일본은 공급망 리스크를 다시 실감하고 있다. AI도 전기, 반도체, 핵심 광물, 클라우드 위에서 돌아간다. 기술 주권은 코드만으로 완성되지 않는다.

물론 일본이 손 놓고 있었던 건 아니다. 2025년에는 AI 연구·개발·활용 촉진법을 만들고, 총리 직속 전략본부와 기본계획을 세웠다. 흥미로운 점은 강한 처벌 규정 대신 자율 지침과 기존 법의 조합을 선택했다는 것이다. 혁신을 살리는 선택일 수 있지만, 사고가 났을 때 책임이 흐려질 수 있는 여백이기도 하다.

안전혁명 없는 기술 전환은 모래 위의 성

한국도 올해부터 AI 기본법의 틀 안에 들어섰다. 사회에 큰 영향을 미치는 AI와 글·그림을 만들어내는 생성형 AI를 구별하고, "AI는 투명하고 안전하게, 믿을 수 있게 만들어야 한다"는 원칙을 법으로 정했다. 첫발은 내디뎠다. 하지만 법 조문이 있다고 해서 현장 문제가 저절로 해결되지는 않는다.

공공기관이 AI 프로그램을 살 때 어떤 내용을 기록으로 남겨야 하는지, AI가 잘못된 결과를 냈을 때누가 즉시 작동을 멈출 수 있는지, 피해를 입은 시민은 어디에 가서 억울함을 호소할 수 있는지, 일자리를 잃은 노동자는 어떤 교육을 받고 새 직장으로 옮겨갈 수 있는지, 이 구체적인 내용들이 하나씩 채워져야 법이 비로소 살아 움직인다.

특히 공공 조달이 첫 번째 시험대가 될 가능성이 크다. AI 모델의 성능표만 보고 도입하면 나중에문제가 생겼을 때 책임이 사방으로 흩어진다. 계약서에는 데이터 보관 위치, 보안 사고 통보 기한, 사람이 반드시 최종 판단해야 할 영역, 외부 감사 가능성, 서비스가 멈췄을 때의 대체 절차가 반드시 들어가야 한다. 이런 조건이 빠진 AI 도입은 새 엔진을 얹고도 브레이크를 확인하지 않은 차와다르지 않다.

AI 안전혁명은 거창한 구호가 아니다

위험을 미리 잘게 쪼개 살피고, 사고가 나기 전에 책임선을 그어 두고, 무언가 고장 나도 사회 전체가 무너지지 않게 만드는 습관이다. 미국 국립표준기술연구소(NIST)의 AI 위험관리 틀이 강조하는 '신뢰할 수 있는 AI'도 결국 안전성·보안성·설명 가능성·공정성·책임성을 함께 챙기라는 요구다.

옛이야기 속 인물은 배를 타고 가다 칼을 강에 빠뜨렸다. 그는 배 난간에 금을 긋고 나중에 그 자리에서 칼을 찾으려 했다. 배는 이미 흘러왔고 강물도 움직였는데, 그는 표식만 믿었다. 각주구검(刻舟求劍)이다.

지금 AI 규제도 이와 닮았다. 법은 여전히 사람이 직접 판단하고 실행한다는 전제 위에 서 있는데, 현장의 AI는 이미 판단 보조와 자동 실행 사이를 오가고 있다. 사이버 방어 AI가 취약점을 찾아 해결책을 제안했다면, 그 판단의 근거와 기록은 어디에 남아야 할까. 홍수 위험을 예측하고 방류 결정을 돕는 물 관리 AI의 최종 책임자는 누구일까. 병원에서 AI가 환자 분류를 돕다가 오류가 났을 때, 의료진과 개발사와 기관 사이의 책임은 어떻게 나뉠까.

이 질문들을 뒤로 미룬 채 '최적 파트너'라는 말만 붙잡고 있으면, 배에 새긴 금만 바라보다 강을 놓치는 꼴이 된다. 공공 안전과 국가 핵심 산업을 다루는 AI 접근 범위가 넓어질수록, 감사 기록·접근통제·사후 책임 체계도 같은 속도로 촘촘해져야 한다.

오픈AI가 한국을 주목한 것은 분명 기회다. 하지만 찬사는 목적지가 아니다. 한국이 단순한 시장이나 실험장으로 남을지, 안전한 AI 사회를 함께 설계하는 주체가 될지는 지금부터의 선택에 달려 있다.

지금 필요한 것은 거창한 선언보다 차분한 점검이다

- 공공 데이터는 어느 범위까지 AI에 열어줄 것인가
- 핵심 인프라 AI에는 어떤 사람 감독 장치를 둘 것인가
- AI가 틀렸을 때 시민은 어떤 말로 설명을 들을 수 있는가
- AI 도입으로 밀려난 노동자는 어디서 다시 배울 수 있는가

이 질문들이 행정 문서의 부록이 아니라 정책의 첫 줄에 올라와야 한다. 안전사회는 사고가 전혀 없는 사회가 아니다. 사고를 미리 예감하고, 작은 단계에서 막고, 실패에서배우는 사회다. 일본의 디지털 전환이 남긴 균열은 한국을 겁주려는 이야기가 아니라, 더 나은 설계를 요구하는 신호다.

AI 패러다임 3단계가 정말 핵심 인프라의 시대라면, 한국의 대답도 달라져야한다. 오픈AI의 찬사에 박수치는 것에서 멈추지 말고, 미래 위험 관리를 국가 운영의 기본 문법으로바꾸는 일. 그것이 지금 한국형 AI 안전혁명의 출발점이다.

덧붙이는 글 | 글쓴이 김영근은 고려대학교 글로벌일본연구원 겸 인문학과동아시아문화산업과정 교수이며, 사회재난안전연구센터 소장을 맡고 있다. 도쿄대학교에서 국제관계학 박사를 취득한 후 현대경제연구원 연구위원 및 계명대학교 일본학과 조교수를 역임하였다. "AI시대의 안전경제학: 글로벌 불확실성 및 위기관리" 및 "북핵 리스크 관리와 국제안보레짐의 변용", 『포스트 제국주의』(공저), 『한일관계사 1965-2015. II: 경제』(공저), 『한일 관계의 긴장과 화해』(편저) 등 다수의 논문과 저서가 있다.