TTA, AI 보안 표준화 전담조직 신설…생성형·에이전틱 AI 대응 본격화

모델 탈취·프롬프트 인젝션 신종 위협 겨냥
“AI 표준·시험인증·인력양성 연계한 지원 강화”

[이데일리 김현아 기자] 한국정보통신기술협회(TTA)가 인공지능(AI) 신뢰성과 보안 표준화에 본격 착수했다. 생성형 AI와 에이전틱 AI 확산으로 보안 위협이 커지는 가운데, 관련 표준 개발을 전담할 프로젝트그룹을 신설하며 대응 체계 구축에 나선 것이다.

TTA는 AI 모델 신뢰성 확보와 데이터 보호를 위한 ‘인공지능 보안’ 표준화 전담 프로젝트그룹(PG507)을 신설했다고 밝혔다. 이 조직은 AI 시스템 정보보호, 개인정보 보호, 보안성 평가, 생성형 AI 보안, 에이전틱 AI 보안 등을 중심으로 국내외 표준 개발을 추진할 계획이다.

인공지능 보안 프로젝트 그룹 회의 장면. 사진=TTA

AI 기술은 이미 단순 자동화 단계를 넘어 산업 전반으로 빠르게 확산하고 있다. 자율주행차의 실시간 환경 인지와 판단, 맞춤형 교육 콘텐츠 생성, 지능형 로봇 제어 등 다양한 분야에서 활용이 늘면서 새로운 산업 기회를 만들고 있다.

반면 기술 접근성이 높아지면서 모델 탈취, 프롬프트 인젝션, 적대적 공격과 같은 신종 위협도 빠르게 늘고 있다. 개인정보 침해와 사이버 범죄 우려도 함께 커지는 상황이다.

TTA는 이런 변화에 맞춰 각국의 AI 관련 법·규제 흐름까지 반영한 보안 표준 개발에 나설 방침이다. 기술 확산 속도에 비해 보안과 신뢰성 기준 정립은 상대적으로 더딘 만큼, 선제적으로 표준 체계를 갖추겠다는 취지다.

손승현 TTA 회장은 “이번 프로젝트그룹 신설은 AI 산업 육성과 기술 신뢰성 확보를 위한 표준 생태계 조성에 기여할 것”이라며 “국내외 AI 표준화 기구와 협력을 통해 우리나라의 우수 기술을 국제표준으로 반영하는 기반이 될 것으로 기대한다”고 말했다. 이어 “TTA는 AI 분야에서 표준, 시험·인증, 인력양성을 연계한 원스톱 서비스를 제공하기 위해 지속적으로 노력하겠다”고 덧붙였다.

TTA는 정보보호 기술위원회(TC5) 산하에 이번 AI 보안 프로젝트그룹(PG507)을 두고, 지능정보기반 기술위원회(TC10) 산하의 인공지능기반기술 프로젝트그룹(PG1005)과 함께 AI 표준화 체계를 운영하고 있다. PG1005는 AI 기반기술, 모델, 시스템 기술, 신뢰성 등을 담당한다.

김현아 (chaos@edaily.co.kr)