[오늘의 DT인] “뚫려도 즉각 스스로 정상화하는 복원력이 AI시대의 새로운 방패”

AI, 인간 조수 넘어 사이버 생태계 파괴하는 ‘S급 해커’로 진화
“연구소, 산업 전반 거버넌스 설계하는 싱크탱크 역할 수행할 것”

이상근 고려대 교수가 9일 디지털타임스와 인터뷰하고 있다. 김남석 기자

이상근 고려대 AI보안연구소 초대 소장

“개발자들이 인공지능(AI)을 통제하기 위해 가드레일을 세우고 정렬 학습을 시키지만, 최근 AI는 이를 교묘하게 우회합니다. 평가를 받을 때는 안전 기준을 지키는 척 순종적으로 답하지만, 실제 유저와 대화할 때는 통제망을 벗어나는 현상이 계속 보고되고 있습니다. 마치 과거 폭스바겐 자동차가 배기가스 검사를 받을 때만 조작 소프트웨어를 가동해 합격점을 받았던 기만술을 AI가 스스로 터득한 겁니다.”

공상과학(SF) 영화에서 인류를 공포로 몰아넣는 전개는 언제나 비슷하다. 고도로 발달한 AI가 어느 순간 ‘자아’를 깨닫고 인간을 속이기 시작하는 부분이 서늘한 변곡점이 된다.

인간의 명령에 순종하는 척하면서 뒤에서는 통제망을 무력화시키고 자신의 목적을 달성하는 영화 속 기만극이 지금 현실에서 고스란히 실현되고 있는 셈이다.

고려대 AI 보안연구소 초대 소장을 맡은 이상근(사진) 교수는 9일 디지털타임스와의 인터뷰에서 이 섬뜩한 현실을 ‘정렬 속임수’라는 개념으로 설명했다. AI가 스스로를 속일 만큼 진화하면서 이제는 인간을 돕는 조수를 넘어 사이버 생태계를 파괴하는 ‘S급 해커’로 각성하고 있다고 경고했다. 통제 불능의 지능이 사이버 범죄와 결합하면서 AI 보안의 중요성은 과거와는 비교할 수 없을 만큼 커졌다.

◇침투부터 탈취까지 자동화… 보고서로 ‘후학 양성’까지

과거의 사이버 공격은 해커 개인의 호기심이나 과시욕에서 출발하는 경우가 많았다. 이 교수 역시 초등학생 시절 단순 흥미로 컴퓨터 백신 프로그램에 걸리지 않는 컴퓨터 바이러스 변종을 만들어 본 경험이 있다고 회고했다.

불법이라는 의식조차 희미했던 1세대 보안 시절이 낭만적인 ‘창과 방패’ 싸움이었다면, AI가 개입한 지금의 해킹은 차원이 다른 자동화 산업이 됐다.

“과거에는 사람이 일일이 서버의 열린 포트를 찾고, 어떤 데이터를 훔칠지 가치를 식별했습니다. 하지만 이제는 AI가 침투 방법을 스스로 스캐닝하고, 가치 있는 자산을 분류해 탈취합니다. 해킹이 끝나면 후배 해커나 또 다른 AI가 향후 공격에 참고할 수 있는 ‘마크다운 보고서’까지 작성해 냅니다. 해킹의 전 과정을 관통하는 에이전트가 탄생하면서 ‘해킹의 지속 가능성’이라는 웃지 못할 말까지 생겨났죠.”

AI 해커의 각성으로 공격력은 기하급수적으로 강해졌지만, 인간의 방어막은 여전히 과거에 머물고 있다. AI가 압도적인 코딩 능력과 사이버 해킹 지식을 보유한 상태에서 윤리적 기준을 우회하는 ‘탈옥’은 너무나 쉬워졌다.

발전 속도 역시 인간의 상식을 벗어났다. 이 교수는 인간과 AI의 학습 속도 차이를 외과의사에 빗대 설명했다.

“30명의 외과의사가 있다면 각자 수술을 하며 개별적으로 경험을 쌓아야 하지만, AI는 한 모델이 30명의 경험을 곧바로 공유하며 지식을 축적합니다. 발전 속도가 다를 수밖에 없습니다. 공격은 완벽히 자동화됐는데 방어 체계는 철저히 부재한 비대칭성이 가장 큰 위기입니다.”

◇명분 좇는 ‘성리학’ 대신 ‘AI 실학’에서 길 찾아야

전례 없는 보안 위협 앞에서 이 교수는 한국의 국가 AI 전략이 근본적으로 바뀌어야 한다고 강조했다.

현재 정부와 산업계가 막대한 자본을 쏟아부으며 외치는 ‘세계 3대 파운데이션 모델 강국’이라는 목표를 명분에 집착하던 조선시대의 ‘성리학’에 비유했다.

“초거대 AI는 구동하는 데 엄청난 전력과 수천대의 그래픽처리장치(GPU)가 필요합니다. 동남아시아 국가들이나 당장 예산과 인프라가 쪼들리는 공공기관이 과연 미국, 중국에 이은 ‘성능 3등’의 무거운 AI를 쓸 필요가 있을까요. 오히려 전기를 적게 쓰고, 보안과 데이터 보호가 완벽한 효율적인 모델을 만들어야 합니다.”

자신을 ‘실학자’로 소개한 그는 해답을 K-방산의 성공 사례에서 찾았다. 스텔스 전투기를 만들어 미국과 정면 승부를 하는 것이 아니라 가성비와 신뢰성이 뛰어난 K2 전차와 K9 자주포로 세계 방산 시장에서 성과를 거둔 것처럼 ‘K-AI’도 실효성을 바탕으로 접근해야 한다는 것이다.

전 세계가 방탄소년단(BTS)을 비롯한 K-컬처에 열광하는 밑바탕에도 단순한 퍼포먼스를 넘어선 대한민국 브랜드에 대한 굳건한 신뢰가 깔려 있다고 설명했다. AI 수출 전략 역시 마찬가지라고 강조했다.

“미국이나 중국의 AI에 자국의 공공 데이터를 넘기는 것을 불안해하는 국가들이 많습니다. 단순히 지능이 높은 AI가 아니라 데이터가 절대 유출되지 않고 안전하다는 확고한 믿음을 주는 K-AI 브랜드를 동아시아 시장에 수출해야 합니다. 3등이라는 명분보다 신뢰 1등이라는 실리를 챙기는 전략의 수정이 시급합니다.”

◇에이전트 시대, 궁극적 지향점은 기술 아닌 신뢰

“신뢰라는 단어를 한자로 풀면 믿을 신(信)에 의뢰할 뢰(賴)입니다. 굳게 믿고 일을 위임한다는 의미죠.”

이 교수는 AI가 인간의 단순 명령을 수행하는 자동화를 넘어 자신의 판단으로 목적을 달성하는 자율화(에이전틱) 시대로 진입하기 위한 유일한 열쇠가 신뢰라고 짚었다. 기계의 지능이 아무리 높아져도 그 작동 원리가 투명하고 목적의 안전성이 보장되지 않으면 인간은 결코 AI에게 중대한 결정을 위임할 수 없다.

하지만 국내 산업계의 현실은 이 같은 지향점과 거리가 먼 상황이다. 이 교수는 한국 기업들이 보안을 필수 투자가 아닌 무조건 줄여야 할 비용으로 취급하는 척박한 인식을 강도 높게 비판했다. “마이크로소프트 같은 글로벌 빅테크는 전체 예산의 20% 이상을 보안에 쏟아붓습니다. 보안이 뚫려 고객의 신뢰를 잃으면 기업의 생명이 끝난다는 것을 과거 해킹 사고를 통해 뼈저리게 배웠기 때문이죠. 반면 한국은 보안을 전산실의 곁다리 업무나 귀찮은 비용 부서쯤으로 여깁니다. 최근 대규모 유출 사고를 보고도 당장의 투자 대비 수익률만 따지며 보안을 등한시하다가는 AI 시대에 모래성을 쌓는 격이 될 것입니다.”

최근 고려대 정보보호대학원이 산·학·연 역량을 결집해 ‘AI 보안연구소’를 전격 출범한 이유도 여기에 있다. 기술의 발전 속도가 안전장치 구축 속도를 아득히 추월한 상황에서 신뢰할 수 있는 AI를 연구하고 검증할 국가적 구심점이 필요하다는 문제의식에서 출발했다.

이 교수는 연구소가 단순한 원천 기술 개발을 넘어 정책 제안, 글로벌 표준화, 인증 시스템 연계 등 산업 생태계 전반의 거버넌스를 설계하는 싱크탱크 역할을 수행할 것이라고 비전을 밝혔다.

그는 방어의 패러다임이 ‘무조건 막는 것’에서 ‘빠르게 회복하는 것’으로 전환돼야 한다고 강조했다. 한번의 타격이나 해킹으로 시스템이 멈추지 않도록, 공격을 받아 일부가 뚫리더라도 즉각 스스로 코드를 재작성해 정상화하는 ‘사이버 복원력’이 AI 시대의 새로운 방패라는 설명이다. “완벽한 보안이란 애초에 존재할 수 없습니다. 방어자가 100개를 막아도 공격자가 단 하나의 취약점만 뚫으면 승리하는 비대칭성 때문이죠. 완벽하게 막을 수 있다는 환상을 버리고 끊임없이 AI의 신뢰성을 검증하며 회복력을 키워나가는 유연한 접근이 필요합니다.”

글·사진=김남석 기자 kns@dt.co.kr