"생성형 AI發 보안 위협은 이제 현실…AI 보안기술 적극 연구해야"

챗GPT 등 생성형 AI(인공지능)로 촉발된 새로운 보안위협에 대한 전문가들의 우려가 쏟아졌다. 전문가들은 생성형 AI를 악용한 사이버공격에 대응하기 위해 선제적인 규제와 동시에 생성형 AI를 보안에 접목시켜야 한다고 강조했다.

이상근 고려대학교 정보보호대학원 AI연구실 교수는 13일 오후 과학기술정보통신부가 개최한 '생성형 AI 보안 위협 대응방안 토론회'에서 "생성형 AI에 프로그램 취약점을 이용한 공격코드를 생성해달라고 하면 처음에는 만들어주지 않지만 우회해서 질문하면 공격코드를 만들어주는 것은 물론 공격의 원리까지 설명해준다"고 말했다.

이어 "GPT-4의 경우 빙(bing)이라는 검색엔진을 사용해 최신 정보를 검색할 수 있는데 이로 인해 최신 보안 취약점을 검색할 수 있고 공격코드도 만들 수 있다"며 "공격자들이 생성형AI의 학습 원리를 이용해 민감한 개인정보를 빼낼 가능성도 있다"고 지적했다.

김정희 KISA(한국인터넷진흥원) 미래정책연구실장은 생성형 AI로 인한 보안 위협으로 △피싱 메일·스팸 생성 △우회 질문을 통한 악성코드 생성 △시스템 취약점 노출 △민감 데이터·개인정보 유출 △생성형 AI 자체에 대한 공격 등 5가지를 꼽았다.

김 실장은 "사이버공격의 약 91%가 피싱 메일로 시작되는데 생성형 AI를 통해 사람이 작성한 것보다 정교한 피싱 메일을 생성할 수 있다"며 "악성코드도 바로 생성은 불가했지만 우회 방법을 통해 단계별로 생성이 가능한 상황이라 전문 해커조직이 생성형 AI를 활용해 범죄에 활용할 가능성이 있다"고 말했다.

이어 "생성형 AI를 통해 식별한 프로그램이나 SW(소프트웨어) 취약점을 악용해 공격에 이용할 수도 있다"며 "기업 영역의 민감데이터나 개인정보 등의 유출 가능성은 이미 여러 사례를 통해 알 수 있다. 생성형 AI는 사용자가 입력한 데이터를 재학습할 수 있어서 유출 가능성이 충분하다"고 덧붙였다.

이날 전문가들은 생성형 AI로 인한 보안위협에 대처하기 위해 XAI(설명 가능한 AI) 등 생성형 AI를 접목시킨 보안 기술에 대한 적극적 연구가 필요하다고 강조했다. 또 적극적 R&D(연구개발) 투자 및 거점 클러스터 등 초거대 AI 개발 민간과 정부의 협력 생태계 구축이 필요하다고 주문했다.

김 실장은 "MS(마이크로소프트)나 구글 등 글로벌 빅테크 기업들도 생성형 AI를 이용한 보안에 투자를 늘려가고 있다"며 "사이버공격을 전방에서 막아내야 하는 일반 기업들의 경우 생성형 AI를 접목시킨 보안 기술로 시간소모적이고 노동집약적이던 보안 업무를 효율적으로 할 수 있을 것"이라고 말했다.

그러면서 "기업의 중요 데이터나 개인의 민감정보를 보호할 수 있도록 생성형 AI 안전 활용 가이드를 만들고 인식제고를 위한 노력을 계속해야 한다"며 "생성형 AI가 만든 악성코드를 탐지했을 때 정부와 민간이 이를 분석하고 정보를 공유할 수 있는 유기적인 체계를 만들어 나가야 한다"고 강조했다.

이날 토론회에 참석한 박윤규 과기정통부 제2차관은 "AI 기술 발전은 경제와 사회 전반에 파괴적 혁신을 가져올 것이라는 기대와 함께 기술이 내포한 한계와 잠재적 위협요인, 우려가 공존한다고 보는 게 냉정한 현실"이라며 "AI를 적극 활용해 경제·사회의 발전을 촉진할 수 있도록 하는 한편 잠재적 보안 위협에 선제적으로 대응할 필요가 있다"고 말했다.

이정현 기자 goronie@mt.co.kr