화웨이 보안 총괄 “AI, 인간 통제불능 수준 이를 수도…보안 촉구”

장먀오 장먀오 화웨이 사이버보안 신뢰구축 총괄 [코드게이트 페이지 캡처]

장먀오 화웨이 사이버보안 신뢰 구축 총괄은 “인공지능(AI)이 인간의 통제를 넘는 수준에 이를 것”이라고 우려했다.

장 총괄은 17일 서울 코엑스 그랜드볼룸에서 열린 ‘국제해킹방어대회 & 보안 콘퍼런스 코드게이트 2025’ 기조 강연에서 이같이 밝히면서 “인간의 삶이 AI의 영향력 아래 있는 디지털 세계에서도 이어지는 만큼 AI 보안이 더욱 중요해질 것”이라고 전망했다.

장 총괄은 이날 ‘젠(GEN) AI 시대를 위한 사이버 보안 거버넌스 프레임워크 구축’란 주제의 기조 강연을 통해 AI 보안의 중요성을 거론했다.

그는 “물리적 세계와 디지털 세계가 연결되고 있는 만큼 (그 둘을) 매핑(데이터 분석)하는 게 중요하다”며 “개인의 안전은 물리적 세계뿐만 아니라 디지털 세계와도 이어져 AI 보안이 더욱 중요해질 것”이라고 말했다.

장 총괄에 따르면 AI 보안 위협은 크게 컴퓨터에 대한 공격, AI 모델에 대한 공격, AI 프롬프트에 대한 공격 등 3가지로 분류된다. AI 보안을 위한 화웨이의 노력으로는 AI 서비스의 취약점을 파악하고 AI 거버넌스를 구축하는 일을 꼽았다.

장 총괄은 “매일 화웨이 팀에서 글로벌 사이버 보안 문제는 없는지, 고객이 AI 서비스를 사용했을 때 취약점은 없는지 파악한다”며 “AI 관련 프로세스를 확립하기 위해 AI 관련 취약점이나 리스크가 발견됐을 때 이를 경감할 방법을 찾는다”고 설명했다.

이어 “화웨이의 AI 거버넌스 6대 원칙은 투명성, 보안 기능, 프라이버시 보호 등으로 구성된다”며 “데이터, 모델, 콘텐츠, 앱, 실제 운영, 유지·보수 등 5가지 차원에서 AI 보안을 위한 가드레일을 마련해야 한다”고 덧붙였다.

예컨대 데이터 가드레일의 경우 특정 AI 데이터에 들어가선 안 되는 정보가 실제로 들어갔는지 확인하는 식이다.

한편 이날 과학기술정보통신부 주최로 열린 코드게이트 대회는 국내 최대 규모 해킹방어대회 올해는 66개국 2778명이 온라인 예선에 참가했다.

이중 일반부 13개국 20개 팀, 주니어부 4개국 20명이 본선에 진출, 지난 10일부터 경연해 이날 우승자가 발표됐다. 일반부에서는 ‘블루 워터’ 팀이, 주니어부에서는 박진우씨가 우승해 과기부 장관상과 상금을 받았다.

김나인 기자 silkni@dt.co.kr