“AI 승부처는 투자 아닌 보안·검증”

美·中 AI 투자 23배 차에도 모델 평가 격차 2.7%
“충청권서 고위험 업무 검증·실증 시스템 구축해야”

[충청투데이 김세영 기자] "한국은 미국, 중국같은 투자 규모 경쟁이 아닌 '믿고 맡길 수 있다'는 보안·검증 강화에 승부를 걸어야 합니다."

윤국진 한국과학기술원(KAIST) 인공지능(AI)대학 학장은 22일 충청투데이와의 인터뷰에서 이같이 말했다.

윤 학장은 AI에 대한 투자액에 비해 기술력 차이는 근소하며, 오히려 기술 발전의 병목 원인은 보안·검증 역량에 있다고 분석했다.

그는 "지난해 미국과 중국의 민간 AI 투자액은 각각 2859억달러와 124억달러로 약 23배 차이가 났지만, 올해 3월 양국 선두 모델의 챗봇 평가 점수 차이는 2.7%였다"며 "투자액은 경쟁의 승부처가 아니다. 승부처는 보안과 위험에 있다"고 운을 뗐다.

이어 "실제 올해 스탠퍼드 AI 인덱스 자료에서 조사 대상 조직의 62%가 자율형 AI 도입 장벽으로 보안·위험을 꼽았다"며 "한국은 투자 규모 경쟁보다 안전성과 보안으로 차별화해야 한다"고 설명했다.

특히 한국이 AI 관련 제도가 선제적으로 잘 마련돼 있는 만큼 국가가 AI모델을 개발하는 단계부터 검증이 함께 이뤄지도록 인프라를 구축, 충청권에서 실증을 시도해야 한다고 제언했다.

윤 학장은 "충청권의 강점을 살려 검증 설계와 실증을 시도해야 한다"며 "AI에 맡기고 싶지만 보안 때문에 어려운 고위험 업무 1개를 선정한 뒤 공공기관이 실증에 나서고 이를 다른 기관이 활용할 수 있도록 검증 이력을 공유하는 시스템을 만들어야 한다"고 조언했다.

김명주 인공지능안전연구소(AISI) 소장은 지속 가능한 AI 안전 생태계 구축 방안을 제시했다.

김 소장은 "노벨상 수상자인 제프리 힌턴은 AI의 부작용과 역기능을 해결하는 데 받은 혜택의 2배를 쏟아부어야 할 것이라고 경고했다"며 "나라와 기업이 AI를 활용해 이익을 얻는 동안 그 대척점에 있는 나라와 국민이 피해를 볼 수 있다"고 했다.

지금의 한국 역시 국가 안보와 개인의 일상에 대한 AI위험이 도사리고 있다고 우려했다.

그는 "국가 차원에서는 금융 등 디지털 시스템을 겨냥한 사이버공격과 생화학무기 악용이 심각한 위협이 될 수 있다"며 "개인에게는 딥페이크 피해뿐 아니라 AI정신병 등 정서에 영향을 미치는 문제가 발생할 수 있다"고 설명했다.

이에 정부, 지자체, 기업, 국민이 각자의 위치에서 지속가능한 AI 안전 생태계 조성을 위해 노력할 필요가 있다고 강조했다.

김 소장은 "정부는 인공지능 사회 전환, 기업은 도전과 책임감, 국민은 AI 리터러시를 함양해야 한다"며 "AI 인프라가 많은 충청권은 반드시 연구 및 정책 초기부터 미래 발전만이 아닌 위험과 부작용을 고려해야 한다"고 덧붙였다.

김세영 기자 ksy@cctoday.co.kr