[2024 사이버보안] 김연진 과기정통부 과장 “생성형 AI로 해킹 장벽 낮아져… 안전한 AI 시대 위한 정책 추진”

김연진 과학기술정보통신부 정보보호기획과장이 20일 서울 소공동 웨스틴조선호텔에서 진행된 ‘2024 사이버보안콘퍼런스’에서 발표를 하고 있다./조선비즈

“올해는 생성형 인공지능(AI) 기반 사이버보안이 산업 전체의 메가 트렌드다. 해킹 관련 진입 장벽이 낮아지면서 무분별한 사이버 범죄가 생길 위험성도 높아지고 있다.”

김연진 과학기술정보통신부 정보보호기획과장은 20일 서울 소공동 웨스틴조선호텔에서 진행된 ‘2024 사이버보안콘퍼런스’ 강연에서 이같이 말했다.

김 과장은 사이버보안 트렌드가 생성형 AI 등장 전과 후로 나뉜다고 했다. 그는 “지난 2022년 11월 오픈AI가 챗GPT를 공개했고, 직장인 85%는 AI 사용으로 인한 업무 성취감 등 긍정적인 부분도 많았으나, 저작권 문제, 다양성 존중 등 AI 윤리 이슈도 동시에 떠올랐다”고 전했다.

김 과장은 그러나 “최근에는 AI 기술을 악용한 사이버 공격이 늘고있다”면서 “과거에는 전문 해커가 했다면, 요즘에는 특별한 기술이 없더라도 공격자가 AI 프로그램을 활용해 피싱 메일을 손쉽게 작성하는 등 진입장벽이 낮아지고 있다는 특징”이라고 분석했다.

김 과장은 “피싱 메일, 스미싱, 보이스피싱 등 최근 사이버공격의 약 91%가 피싱 이메일로 시작되고 있으며, 미국만 하더라도 피해 규모가 약 5208만달러로 추산된다”고 전했다.

보안 위협 중 AI가 만든 ‘악성코드’에 대한 위험도 커지고 있다. 김 과장은 “AI 보안 위협 중 또 다른 문제로 지적되는 것은 ‘악성코드 제작’”이라면서 “AI는 소스 코드 생성 및 분석에도 용이하고, AI 해킹에 대한 진입장벽이 낮아지면서 무분별한 사이버 범죄가 생길 위험성도 높아지고 있다. 가짜 뉴스, 딥페이크로 인한 신뢰성 낮은 정보가 작성 및 유포될 가능성도 커지고 있는 상황”이라고 전했다.

김 과장은 이어 “영국, 미국, EU 등에선 국가 안보도 AI 기술로 인해 위협받을 것이라고 상당히 심각하게 인식하고 있다”면서 “국내에서도 과학기술정보통신부 뿐 아니라 국가정보원, 금융위원회, 개인정보위원회 등이 적극 나서고 있는 상황”이라고 했다.

과학기술정보통신부는 현재 안전한 AI 시대를 대비하기 위해서 다각적인 정책을 추진하고 있다. 사이버보안 기술을 12대 국가 전략 기술로 선정하고, 지난 4월부터는 생성형 AI 보안 위협 기술 개발 과제가 새롭게 착수됐다. 이 밖에 ‘AI 안전 연구소’도 조만간 설립될 예정이다.

김 과장은 “업계의 이야기를 들어보면 AI 분야 보안 인력이 상당히 부족하다고 한다”면서 “과기정통부는 미래를 책임질 인재 양성을 위해 ‘사이버 10만 인재 양성’을 위해 체계적으로 실행해 나가고 있다”고 전했다. 이 밖에도 “올해부터는 AI기술 발전에 따라 나타나는 역기능 해소를 위해 정보보호 특성화 대학, 박사후연구원, 최정예 화이트해커 양성 지원도 하고 있다”고 덧붙였다.

- Copyright ⓒ 조선비즈 & Chosun.com -