정부 "AI 악용 보안위협 본격대응 …사이버 팬데믹 막아야"

과기정통부, 생성형 AI 악용 보안위협 대응방향 토론회

박윤규 과학기술정보통신부 2차관이 13일 서울 송파구 이글루코퍼레이션에서 열린 '생성형 AI 보안 위협 대응방안 토론회'에서 AI를 활용한 보안 관제 설명을 듣고 있다. [과기정통부 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 조성미 기자 = 과학기술정보통신부는 생성형 인공지능(AI)을 악용한 보안 위협에 대한 대응을 본격적으로 모색한다고 13일 밝혔다.

과기정통부는 이날 서울 송파구 이글루코퍼레이션에서 박윤규 2차관 주재로 현장 토론회를 열어 생성형 AI를 악용한 보안 위협 동향을 공유하고 대응 방향을 논의했다.

박 차관은 "한반도는 미·중 기술 패권 경쟁 이전부터 북한이라는 현실적인 존재에 의해 무수한 사이버 공격을 당한 지역으로 최근 챗GPT까지 나와서 복합적으로 사이버 위협이 증가하는 상황"이라고 진단했다.

그러면서 "정부는 생성형 인공지능 서비스를 국민이 안심하고 이용하도록 안전한 사이버 환경을 조성하는 한편 갈수록 지능화·고도화하는 사이버 위협 대응 역량을 갖추겠다"고 했다.

김정희 한국인터넷진흥원(KISA) 미래정책연구실장은 "생성형 AI 등장으로 고도의 해킹 기술이 필요한 분야의 진입장벽이 낮아지며 침해 사고 피해 규모도 기하급수적으로 늘어날 것"이라며 "최근에는 보안 패치가 아직 적용되지 않은 취약점을 AI가 빠르게 찾아내 공격할 우려도 커지고 있다"고 강조했다.

김 실장은 "지금 보안 업계 상황은 AI 기술을 악용해서 발생하는 공격과 AI를 활용해서 방어하는 기술 간에 끊임없는 공방전이 일어나는 것과 같다"면서 "마이크로소프트 발표에 따르면 보안에 AI를 적용한 기업과 아닌 기업 사이에 사이버 공격 발견 시차가 74일에 달했다고도 하는데, 국내 침해사고 대응 체계를 어떻게 유기적으로 적용해갈지 협력 네트워크가 필요하다"고 했다.

정일옥 이글루 코퍼레이션 연구위원은 "아직 사이버 팬데믹은 오지 않았고 만약 온다면 AI가 그 시발점이 될 것이라는 이야기가 있다"면서 "오픈AI 같은 초거대 AI 서비스 제공 업체가 해킹당할 가능성도 있다"고 경고했다.

박환석 KT 상무는 "생성 AI에 대한 사내 관심이 높아 마이크로소프트와 KT 전용 GPT 공간을 활용하는 방안을 협력 중인데, 암호화된 기업·개인 정보를 해제해야 하는 부담이 있다"면서 "암호화된 상태로 학습시키는 방안에 대한 전문 보안업체와 함께 고민할 것"이라고 말했다.

이상근 고려대 정보보호대학원 교수는 "AI에 내재적, 논리적 오류가 있지 않은지, 해커로부터 공격받고 있지는 않은지 설명하는 'XAI 기술'에 대한 적극적인 연구가 필요하다"며 연구개발 거점 활성화, 초거대 AI 개발 민주화, 정부-군-민간의 공동 대응 및 협력 생태계 구축을 제언했다.

csm@yna.co.kr

▶제보는 카톡 okjebo