[New & Good] 다크웹 범죄 쉽게 추적하고, 딥페이크 잡아내고..."AI로 사회 문제 해결"

다크웹 언어 특화 '다크버트' 개발한 S2W
문맥 기반 학습, 마약 은어 등 포착 가능
수사 전용 검색 엔진 싱가포르·인니 공급
이미지 변조 가린 '페이크체크' 만든 샌즈랩
의심 이미지 업로드 하면 가짜 이미지 판별
무료 서비스로 재학습→탐지율 높여
두 프로그램 모두 과기부 산하 IITP
'고도화된 범죄 대응' R&D 지원 성과

빅데이터 분석 인공지능(AI) 기업 S2W의 사이버 범죄 추적 플랫폼 '자비스'를 통해 다크웹에서 유통되는 불법 정보를 추적한 모습. S2W 제공

인공지능(AI)의 발전으로 인한 역기능을 가장 먼저 체감할 수 있는 것은 사이버 공간이다. 해킹 공격은 빈발하고 있고 범죄의 방식도 다양해졌다. 여기에 대응하기 위해 사이버 보안 기업들이 꺼낸 무기도 AI다. 탐색과 대응 능력을 강화하고 AI로 만든 거짓 정보에 대응할 수 있도록 AI 기술을 담금질하며 '사회 문제'가 된 AI에 적극 대응을 펼치고 있다.

올해 하반기 기업공개(IPO)를 앞둔 빅데이터 분석 AI 기업 S2W는 2023년 세계 최초로 다크웹 영역에 특화한 언어모델 '다크버트(DarkBERT)'를 공개했다. 다크웹과 메신저 애플리케이션(앱) 텔레그램의 단체 채팅방처럼 일반적으로 검색하기 힘든 장소에서 불법으로 빠져나간 정보나 상품을 거래하려는 시도를 쉽게 포착해 준다.

이를 바탕으로 사이버 범죄 수사 전용 검색 엔진 '자비스'를 만들어 싱가포르·인도네시아 정부 기관 등에 공급하고 있다. 다크웹의 '지저분한' 데이터를 깔끔하게 정리해 주기 때문에 마이크로소프트(MS)의 '시큐리티 코파일럿'에도 데이터가 들어간다. 윤창훈 S2W 제품개발센터장은 "사이버 공간에서 벌어지는 다양한 범죄와 사회적 문제를 해결하는 것을 미션으로 생각하고 있다"고 말했다.

다크웹이나 텔레그램에서의 대화에서 범죄 정보만 찾아내기는 어렵다. 범죄자들은 결코 일상 회화로 대화하지 않고 범죄의 대상을 가리키는 은어도 수시로 바뀐다. 예를 들어 마약은 종류에 따라 '아이스' '캔디' 등으로 부른다. 여기서 다크버트 특유의 '문맥 기반 학습'이 빛을 낸다. 정진우 S2W AI총괄이사는 "다크웹을 오랫동안 연구해 왔고 그 내용을 잘 파악할 수 있도록 학습시키는 노하우가 있다"면서 "한 번 학습이 되면 문맥 기반으로 '아이스'가 마약인지 얼음인지 파악해 구별할 수 있다"고 설명했다.

가짜뉴스 확산 대응·SNS 추적 기능도 연구 중

샌즈랩이 무료로 공개한 딥페이크 이미지 판별 서비스 '페이크체크 2.0' 홈페이지.

AI 기반 보안 기업 샌즈랩은 AI를 통한 얼굴 등 이미지 변조, 이른바 '딥페이크'를 잡아내는 '페이크체크'를 2024년 9월 공개했다. 이어 올해 5월에는 '페이크체크 2.0'을 출시해 GPT 등 생성형 AI로 만든 이미지도 분별할 수 있게 성능을 개선했다. 다른 딥페이크 감지 제품과 달리 사회적 관심을 염두에 두고 '대국민 서비스'를 표방해 무료로 공개했는데 출시 뒤 수십만 건 이상의 이미지가 업로드됐고 재학습 과정을 거쳐 탐지율을 끌어올린 상태다. 최민준 AI기술개발팀장은 "주로 온라인에서 논란이 된 딥페이크로 추정되는 이미지나 유튜브, 사회관계망서비(SNS) 틱톡 등을 통해 퍼진 이미지를 업로드해 가짜 여부를 확인하는 경우가 많다"고 전했다.

페이크체크는 조만간 AI 이미지뿐 아니라 영상을 탐지하는 기능도 포함할 계획이다. 기술적으로 개발은 마쳤고 현재는 최적화 작업을 거치고 있다. 또 AI로 만든 거짓 이미지에 이어 거짓 정보를 탐지하고 SNS로의 확산을 서둘러 탐지할 수 있게 모니터링하는 시스템도 개발 중이다. 최 팀장은 "사회적으로 큰 문제를 불러일으키는 딥페이크·가짜뉴스 등 AI 악용 사례가 많아지는 만큼 책임감을 가지고 다양한 서비스를 개발·제공하기 위해 노력하고 있다"고 밝혔다.

"능동형 보안 패러다임으로 전환 위한 기술에 투자"

양승용(왼쪽부터) S2W 과제TF 수석, 윤창훈 제품개발센터장, 정진우 AI총괄이사가 ##일 경기 성남시 S2W 본사 사무실에서 한국일보와 인터뷰하고 있다. S2W 제공

S2W의 다크버트와 샌즈랩의 페이크체크는 모두 과학기술정보통신부 산하 정보통신기획평가원(IITP)의 정보보호 분야 연구개발(R&D) 지원이 성과를 낸 사례다. 기업들은 AI 기술에 필요한 그래픽처리장치(GPU)와 데이터 저장소, 전문 인력 등을 확보하는 데 IITP 지원이 큰 도움이 됐다고 밝혔다. 윤창훈 센터장은 "다크웹 추적 기술은 수요가 공공 수사 기관 정도로 한정된 영역"이라면서 "IITP는 이 기술을 사회 문제를 해결하기 위한 프로젝트로 평가하고 투자해 왔다"고 밝혔다.

홍진배 IITP 원장은 "생성형 AI 발전과 함께 지능화·고도화된 사이버 공격이 늘고 그 양상 또한 빠르게 진화하고 있다"면서 "과기정통부와 IITP가 이에 대응하기 위해 AI 기반 능동형 보안 패러다임으로 전환하는 데 도움이 되는 보안 기술 등을 확보하기 위해 전방위로 도울 예정"이라 밝혔다.

인현우 기자 inhyw@hankookilbo.com

IT/과학