"사장님 전화인줄 알았는데…AI에 속았다"

경찰, '챗봇 서비스 상용화에 따른 사이버범죄 대응 방안 연구용역' 발주

지난 3월 9일 오후 서울 시내 대형서점에 진열된 챗GPT 관련 도서. /사진=뉴시스

'인공지능(AI) 챗봇' 챗GPT 상용화로 해킹과 보이스피싱 등 사이버범죄의 양상이 달라질 것이라는 전망이 나온다. 경찰이 챗GPT를 악용한 범죄에 대응하는 역량을 강화하기 위한 방안 마련에 나섰다.

18일 경찰에 따르면 경찰청은 최근 대화형 인공지능 챗봇 서비스 상용화에 따른 사이버범죄 대응 방안 연구용역을 발주했다. 해당 연구에서는 범죄에 악용될 수 있는 상황·기술·기법 등을 분석해 선제적으로 범죄를 예방하고 대응할 수 있는 방안을 검토한다.

챗GPT를 범죄 수사에 활용할 수 있는지도 살펴볼 예정이다. 인공지능을 이용해 수사 단서를 분석하거나 수사에 적용할 수 있는 기술·기법을 연구해 이를 활용할 수 있는 시스템을 구축하는 방안 등이다.

챗GPT는 오픈AI가 개발한 대화 전문 인공지능 챗봇이다. 높은 활용도로 주목받고 있지만 쉽게 악성코드나 해킹 공격 프로그램을 만들거나 학생의 숙제나 논문 등을 대신 작성하는 등 인공지능이 만들어낸 거짓 정보나 조작된 이미지, 영상이 범죄에 악용될 소지가 있다는 우려도 나온다.

해외에서도 챗GPT를 비롯한 인공지능 발달이 보이스피싱 등 범죄로 악용될 수 있다는 지적이 제기됐다. 최근 워싱턴포스트에는 새로운 피싱 사례도 소개됐다. 사이버 보안 업체 Z스케일러의 임원이 CEO(최고경영자)로 보이는 인물로부터 전화를 받았는데 당시 휴대전화에 CEO의 사진이 뜨고 음성도 실제와 비슷했지만 알고보니 조작된 음성이었다는 것이다.

이밖에도 인공지능을 통해 특정인의 아바타를 만든 뒤 가족에게 접근해 개인 정보를 빼내거나 심지어 은행의 생체인식 시스템을 통과해 고객 정보를 얻을 수 있다는 주장이 나온다.

정부도 챗GPT 이용에 따른 개인정보 또는 비공개자료 유출 우려를 인식하고 대응에 나섰다. 국가정보원은 이달 초 '챗GPT 등 언어모델 인공지능 활용 시 보안 유의사항 안내'라는 제목의 공문을 통해 전부처 공무원에게 챗GPT를 이용할 때 민감 정보가 아닌 공개 정보만 활용할 것을 당부했다.

경찰 관계자는 "범죄에 악용될 가능성에 대비해 현황·제도·정책 등을 분석하고 수사에 활용할 수 있는 방안을 검토해 수사에 필요한 기초 자료와 범죄 예방 정책 수립에 활용하겠다"고 밝혔다.

강주헌 기자 zoo@mt.co.kr