박윤규 "챗GPT 악용한 사이버 위협 대응 보안 체계 구축해야"

박윤규 과학기술정보통신부 2차관은 13일 서울 송파구 이글루코퍼레이션에서 열린 챗GPT 등 생성형 AI의 보안 위협 대응 방향 모색을 위한 현장 토론회에 참석해 참가자들과 함께 기념사진을 찍고 있다. 사진=구자윤 기자

“우리는 생성형 인공지능(AI)을 적극 활용하면서 경제·사회·기술 발전을 촉진하도록 하는 한편 생성형 AI의 잠재적 보안 위협에 선제적으로 대응할 필요가 있다. 오늘을 기점으로 챗GPT를 악용한 사이버 위협을 막을 수 있는 보안 체계를 구축하고 생성형 AI를 사이버 보안에 접목하는 등 다양한 대책이 모색되길 바란다”

박윤규 과학기술정보통신부 2차관은 13일 서울 송파구 이글루코퍼레이션에서 챗GPT 등 생성형 AI의 보안 위협 대응방향 모색을 위한 현장 토론회를 열고 이 같이 말했다. 이날 토론회는 최근 이슈가 되는 챗GPT 등 생성형 AI 서비스 이용 확산에 따른 국내외 보안 위협 동향과 산업적 파급 효과 등을 공유하고 국가 차원의 보안 위협 대응방향을 논의하기 위해 마련됐다.

최근 챗GPT가 확산되면서 이를 악용해 악성코드, 랜섬웨어, 피싱메일 제작 등 사이버공격에 활용할 가능성과 개인정보 및 기업의 영업 기밀 정보가 유출되는 등 보안 문제가 대두된 바 있다. 또한 미국, 유럽연합(EU) 등 해외 주요국에서는 챗GPT 등의 안전한 사용과 신뢰 환경 구축을 위한 규제 방안 논의에 착수하고 있는 상황이다.

이에 과기정통부는 생성형 인공지능 서비스의 안전한 활용과 보안 위협에 대한 현장의 생생한 의견을 듣고 향후 정책 대응 방향을 논의하는 자리를 마련했다.

이날 토론회는 외부의 다양한 의견을 폭 넓게 수렴하기 위해 인공지능 기술을 정보보안에 접목하고 있는 정보보호기업을 비롯해 인공지능 관련 산업계, 학계, 유관기관 등이 참여했으며 각 분야 전문가의 주제 발표와 심층토론으로 진행됐다.

이상근 고려대학교 교수는 ‘챗GPT 기술의 진화, 그리고 사이버보안’을 주제로 △챗GPT 등 생성형 AI 기술의 발전 동향 △생성형 AI의 한계와 보안 위협 분석 △생성형 AI 기술의 발전에 대비한 심층 연구 필요성에 대해 발표했다.

정일옥 이글루코퍼레이션 기술위원은 ‘챗GPT 등 AI가 보안 산업에 미치는 영향’을 주제로 △국내외 AI 활용한 사이버보안 산업 동향 분석 △AI를 접목한 사이버보안 위협·탐지 기술의 성장 가능성을 발표하고 자체 개발한 인공지능 모델과 챗GPT를 연계해 사이버 위협 정보를 판단하는 보안 솔루션 '이글루XAI'를 시연했다.

김정희 한국인터넷진흥원 미래정책연구실장은 ‘챗GPT의 보안위협 동향분석 및 대응방향‘을 주제로 △디지털 패러다임 변화에 따른 보안 위협 대응 현황 △생성형 AI를 통한 보안위협 현황 및 사례분석 △생성형 AI의 보안위협 예방을 위한 대응방안을 발표했다.

이날 전문가들은 생성형 AI의 보안 위협 대응 필요성에 공감하며 생성형 AI의 안전한 이용과 인식제고, 생성형 AI를 악용한 사이버공격에 대한 예방·대응체계, AI를 활용한 사이버보안 대응역량 제고 방안 등에 대해 심도있게 논의했다.