AI발 속도조절은 사다리 걷어차기? 후발주자 한국은 어떻게

왼쪽부터 샘 올트먼 오픈AI 최고경영자(CEO), 다리오 아모데이 앤트로픽 CEO, 일론 머스크 스페이스X CEO. AFP연합뉴스

인공지능(AI) 개발 속도조절론의 현실화 여부 못지 않게, 미·중 양강 구도를 뒤쫓고 있는 한국의 AI 정책 방향에 속도조절론이 어떤 영향을 미칠 것인지도 주목할 부분이다. 전문가들은 속도조절론이 나온 배경에는 공감하면서도, 추격자 입장인 한국에 진입장벽이 될 가능성을 우려했다. 일종의 선도그룹의 ‘사다리 걷어차기’가 될 수 있다는 것이다. 한국이 관련 질서를 만드는 국제 논의에 적극 참여하고, 국가 차원의 사이버 보안체계를 구축하는 등 구체적 전략을 마련해야 한다고 조언한다.

강정수 블루닷에이아이 연구센터장은 15일 통화에서 “기업의 선한 의지나 지속가능성에 대한 철학과 무관하게 (AI가) 의도하지 않고도 남에게 피해를 줄 수 있다는 것을 보여주는 일련의 사건들이 발생하고 있다”며 “앤트로픽이나 오픈AI만의 문제가 아니라 한국 기업들에게도 경각심을 주는 사례이고 한국 기업의 경쟁력 차원에서도 문제가 될 수 있다”고 했다.

이재명 대통령은 전날 밤 엑스에 속도조절론에 대해 “좋은 지적이지만 AI는 도덕과 당위를 떠나 이미 현실이 됐다”며 “위기는 기회다. 피할 수 없으면 즐겨야 한다”고 썼다. AI의 안전은 중요한 문제지만, AI로의 전환이라는 흐름 자체를 거스르기는 어렵다는 취지로 풀이된다.

문제는 AI 안전 기준을 누가 만드느냐다. 미국 기업들이 이미 AI 시장을 선점하고 있기 때문에 이들을 중심으로 강화된 기준이 만들어지면 한국과 같은 후발주자에게는 새로운 시장 진입장벽이 될 수 있다. 이승현 한양대 에리카 글로벌문화통상학부 겸임교수는 “물론 안정성과 신뢰성을 고민해야 하지만 자칫 잘못하면 ‘사다리 걷어차기’가 되고, 격차를 좁히지 못하게 만들 수 있다”며 “글로벌 스탠다드를 미국 기업들이 리딩하고 싶다는 것인데 그러면 모든 AI가 미국 중심으로 갈 수 있는 것”이라고 했다. 이 교수는 “한국도 글로벌 논의에 참여해야 한다”며 “미국과 중국이 담합해 스탠다드를 만드는 것도 바람직하지 않기 때문에 한국이 여기서 어떤 입장을 취할지 심도 깊은 논의가 필요하다”고 했다.

일각선 미국 AI 기업들의 말과 행동이 다른 점을 지적하기도 한다. 속도조절론은 미국 AI 기업들이 막대한 개발·학습 비용 문제를 개선하려는 의도라는 해석도 있다. 이번 사태를 볼 때 이들의 산업적 이해관계까지 고려해야 한다는 것이다. 이홍락 LG AI연구원 공동연구원장도 지난 14일 토크콘서트 행사에서 속도조절론에 대해 “(미국 기업들이) 계산량이나 연구개발에 있어 가속을 했으면 했지, 감속하는 것으로 예상하진 않는다”며 “모델 출시 전 조금 더 신중하게 검토가 필요하다 정도로 이해하고 있다”고 말했다.

이재명 대통령이 지난 7월 23일(현지시각) 미국 샌프란시스코 한 호텔에서 다리오 아모데이 앤트로픽 대표를 면담하기에 앞서 악수를 하고 있다. 이준헌 기자

AI 안전과 사이버 보안은 ‘AI 주권’과도 연결된다. 이미 지난 6월 앤트로픽은 보안 협력체 ‘프로젝트 글래스윙’을 만들어 소속 기관에만 미토스 최신 모델을 공개했고, 미국 정부는 AI 보안 문제를 국가안보 사안으로 규정해 미토스 수출 통제를 단행한 전례가 있다. 당시 한국은 수출 통제의 타격을 입을 수밖에 없었다.

한국은 최근에야 정부가 사이버 보안 특화 AI 파운데이션 모델 개발 수행기관으로 네이버클라우드 컨소시엄을 지정해 시작 단계다. 결국 AI를 이용하는 데서 나아가 스스로 위험을 판단하고 필요한 경우 멈추고 복구할 수 있는 국가적 역량을 갖춰야 한다는 의견이 나온다. AI 안전과 사이버 보안 분야에 집중할 경우 새로운 경쟁력이 될 수도 있다.

이원태 국민대 특임교수(국가인공지능전략위원회 보안특별위원장)는 “정부는 ‘개발이냐 규제냐’라는 이분법을 넘어 국내 프런티어 AI 역량을 신속히 확보하는 동시에 이를 독립적으로 시험·검증·통제할 수 있는 AI 주권을 갖춰야 한다”고 했다.

이 교수는 “안전·보안·복원력을 독파모(독자 AI 파운데이션 모델)의 설계와 평가에 반영하고, 단기적으로는 국내외 복수 모델을 안전하게 선택·교체할 수 있는 보안전용 하네스(AI 에이전트의 작업 환경과 실행 과정을 관리·통제하는 체계)와 국가 AI 레드팀 체계를 구축해야 한다”며 “중장기적으로는 보안 특화 파운데이션 모델과 독자적 평가 플랫폼을 확보하고, 국제협상에서는 한국 평가기관의 참여, 평가기준의 상호인정, 최신 모델 접근권과 공동 레드팀 참여를 요구할 필요가 있다”고 했다. 강정수 센터장은 “에이전트 AI에 대한 거버넌스, 예를 들면 관제탑 같은 것이 필요하다”며 “자율적 규제는 어렵고 국가가 에이전트 AI의 활동을 관찰할 수 있어야 한다”고 했다.

이혜리 기자 lhr@kyunghyang.com