한국인터넷진흥원(KISA) '인공지능(AI) 보안 세미나'서 특별강연 "범죄자들이 수집하는 개인정보, 누구도 말하지 않는 민감정보 아냐" 최근 딥페이크 사태관련해선 "아이들이 딥페이크 영상에 접촉하지 않도록"
권일용 교수가 한국인터넷진흥원(KISA) '인공지능(AI) 보안 세미나'서 특별강연하고 있다(사진=송혜리 기자) *재판매 및 DB 금지
[서울=뉴시스]송혜리 기자 = "현대사회의 강력범죄 시작은 개인정보 수집·해킹으로부터 시작됩니다."
국내 1호 프로파일러 권일용 동국대학교 교수는 서울 용산 로얄파크컨벤션에서 열린 한국인터넷진흥원(KISA) '인공지능(AI) 보안 세미나'에서 이같이 설명했다.
이날 세미나는 AI와 관련된 다양한 사이버 위협 사례 공유와 대응 방안을 논의하기 위한 자리로, 권일용 교수는 '편리함의 역습'이라는 특별강연을 진행했다.
"강력범죄 시작은 개인정보 수집"
권 교수는 "현재의 강력범죄는 모든 것이 개인정보를 수집하면서 비롯되고 있다"면서 "스토킹을 해서 일가족을 살해하는 범죄 등 언론에 노출되는 많은 범죄들을 보면 전부 개인정보의 불법 수집을 통해 이뤄지고 있다"고 말했다.
권 교수는 지난해 발생한 '정유정 사건'을 예로 들었다. 정유정은 자신과 연고도 없는 또래 여성을 살해한 뒤 훼손해 유기했다.
권 교수는 "주목해야 하는 것은 이 사건의 피해자가 어떻게 선정됐는가"라며 "정유정은 처음에 가해자에 접근했던 것은 과외 알선 앱을 통해서였으며, 이를 통해 자신의 희망 직업인 교사를 범행 대상으로 선택했다"고 말했다.
이어 "우리가 편리하고자 만들어 놓았던, 많은 사람들한테 이익을 주기 위해 만들어 놓은 정보들 속에서 범죄자들은 피해 대상자를 선정하고 있었다는 것이 우리가 한번쯤 깊이 생각해 볼 문제가 아닌가라는 생각을 한다"고 말했다.
권 교수는 아파트에 주차된 차량 번호와 차종, 차 색깔, 차주의 휴대폰 전화번호를 수집을 해서 파는 사람들이 있었다는 사례를 들며 "범죄자들이 수집하는 개인정보는 누구도 말하지 않는 그런 민감한 정보를 말하는 것이 아니다"라고 말했다.
딥페이크·딥보이스 활용해 경찰관 사칭…기술의 역기능
권 교수는 "아이러니하게도 우리가 편리하고자 만든 수많은 것들을 범죄자들이 이용하기 시작하면서, 지금 기술의 역기능 대부분이 범죄에서 등장하고 있다"고 설명했다.
권 교수는 AI 기술발전에 따라 등장한 딥페이크, 딥보이스가 보이스피싱에 악용되는 양상에 대해서도 설명했다.
그는 "요즘 사람들이 '00경찰입니다'하면 믿지 않으니 범죄자들은 영상통화를 하자고 한다"면서 "세트장과 딥페이크를 이용해 실제 경찰관인 양 영상통화를 한다"고 말했다. 이어 "목소리도 마찬가지"라며 "단 몇 초면 본인 목소리와 똑같은 사람이 등장 할 것"이라고 말했다.
이어 "N번방 사태 때도 딥페이크로 성착취물을 합성한 영상으로 피해자에게 접근해, 문제를 해결해 주는 척하면서 개인정보를 탈취해 다양한 범죄에 활용하는 수법도 있었다"고 말했다.
권 교수는 기술의 역기능이 범죄에 악용되지 않도록 구체적인 법률제정을 위한 논의, 악용 감지 시스템 개발, 국제 협력 등이 필요하다고 강조했다. 아울러 최근 사회를 발칵 뒤집어 놓은 딥페이크 범죄 관련해서 "아이들이 딥페이크 영상 자체에 접근할 수 있는 경로를 차단하는 것부터 비롯돼야 하지 않겠는가 생각한다"고 말했다.
한편 이날 세미나에서는 권일용 교수의 특별강연을 시작으로 ▲기업용(B2B) 대형언어모델(LLM) 도입 사례 ▲AI LLM 해킹 기법 및 보안전략 ▲진화하는 사기(Fraud), AI FDS로 막는다 ▲AI 범죄와 보안대책 ▲AI 기반 보안 기술 및 적용 사례를 주제로 발표가 이어졌다.
