공격과 방어 '양날의 검' 챗GPT…"사고 예방하려면 지금부터 고민해야"

과기정통부 '생성형 AI 보안 위협 대응 방안 토론회' 개최
보안 가이드라인 등 자구책 마련…"생성형 AI로 보안 강화에도 힘써야"

과학기술정보통신부는 박윤규 2차관 주재로 정보 보호 기업 및 학계, 유관기관 전문가들과 서울 송파구 이글루코퍼레이션에서 현장 토론회를 13일 개최했다. 2023.6.13/뉴스1 ⓒ News1 윤지원 기자

(서울=뉴스1) 윤지원 기자 = 챗GPT 등 생성형 인공지능(AI) 기술을 활용한 사이버 공격과 개인정보 유출 우려가 커지고 있다. 보안업계에서는 AI 기술을 활용해 방어에도 만전을 기해야 한다고 보고 있다.

과학기술정보통신부는 박윤규 2차관 주재로 정보 보호 기업 및 학계, 유관기관 전문가들과 서울 송파구 이글루코퍼레이션에서 '생성형 AI 보안 위협 대응 방안 토론회'를 13일 개최했다.

최근 챗GPT의 등장으로 개인정보 유출과 사이버 위협 증가 우려가 커지고 있다. 특히 우회로를 통해 챗GPT로 악성코드나 피싱메일을 제작할 수 있게 되면서 해킹의 진입장벽이 낮아지고 있다.

특히 개인정보 및 기업의 영업 기밀 정보 유출 가능성도 높다. 향후 목소리 재현 기술을 활용한 보이스피싱 등 범죄 피해도 예상된다.

윤두식 지란지교시큐리티 대표는 "과기정통부뿐만 아니라 경찰, 통신사, 학계 등의 협력을 통해 대응 방안을 만들지 않으면 큰 사고가 터질 것"이라며 "적극적인 고민이 필요하다"고 말했다.

유출 우려로 일부 기업에서는 챗GPT 활용 자체 가이드라인을 마련했다. 곽규복 LG CNS 보안사업담당 위원은 "기업들은 폐쇄된 환경에서만 챗GPT를 쓸 수 있게 하거나 모니터링 툴을 적용해서 필터링을 거는 식으로 대응하고 있다"고 말했다.

박환석 KT 보안기획담당은 "마이크로소프트와 KT 전용의 챗GPT 공간을 활용하는 방안을 논의 중"이라며 "챗GPT가 입력 데이터를 재학습, 재활용하는 것을 거부할 수 있도록 직원들에게 안내하고 있다"고 말했다.

주성범 카카오 보안위협분석팀장은 "개인정보나 대외비 정보가 있을 때 챗GPT를 이용할 수 없도록 지침을 마련했다. 대외비라고 해도 개인정보 부서나 보안 부서의 검토를 받도록 하고 있다"고 말했다.

정주환 네이버클라우드 리더는 "챗GPT 사용 보안 가이드라인을 구축해 운영하고 있다"며 "현재 하이퍼클로바는 사용자 질문값을 수집하고 데이터 성능 개선 목적으로 활용될 수 있다고 이용약관에 고지하고 있다. 8월말에 나올 네이버의 초거대 AI '하이퍼클로바X'는 이용자가 선택적으로 동의할 수 있도록 기능을 개선할 예정"이라고 말했다.

동시에 생성형 AI 기술은 보안 강화에도 활용되고 있다. 이상근 고려대학교 교수는 "보안 전문 인력이 60의 능력이 있다면 챗GPT로 100의 능력을 발휘할 수 있다"고 말했다.

보안기업 이글루코퍼레이션은 챗GPT를 활용해 AI가 사이버 공격 여부를 판별할 수 있도록 하는 솔루션을 개발했다. 정일옥 이글루코퍼레이션 기술위원은 "챗GPT는 사이버 위협이 되기도 하고 보안을 강화할 수도 있는 양날의 검과 같다"고 말했다.

정부 차원에서 보안 인증 제도 등을 마련하는 것이 필요하다는 목소리도 나왔다. 오중효 금융보안원 데이터혁신센터장은 "클라우드 보안 인증제처럼 자체적으로 생성형 AI를 구축할 수 없는 사업자를 위해 서비스 인증 제도를 마련해주면 좋겠다"고 말했다.

박윤규 차관은 "지난 4월에 발표한 초거대 AI 경쟁력 강화 방안에 초거대 AI 개발 기업 5개사가 합의 하에 외부 평가를 받겠다고 하는 내용이 포함됐다"며 "다만 오늘 말씀 주신 정보 보안 문제 관련된 인증 제도 문제는 한번도 논의되거나 검토된 적이 없다"고 말했다.

g1@news1.kr