[유미's 픽] "여친이 음란물에?"…딥페이크 범죄 온상된 韓, '이 기업'에 돈 몰린다

정부 딥페이크 대책 언급에 라온시큐어·플랜티넷 주가 들썩…향후 기술 발전에 기대감 ↑

(지디넷코리아=장유미 기자)최근 딥페이크 성범죄가 확산되면서 이를 탐지·대응하는 기술이 주목 받고 있는 가운데 정보보안 업체들이 집중 조명받고 있다. 아직까지 국내에서 딥페이크 범죄를 완벽하게 막을 수 있는 기술은 없지만, 사회적으로 크게 문제가 되자 관련 기업들의 움직임에 대한 시장의 기대감이 높아지는 분위기다. 

30일 업계에 따르면 라온시큐어는 오는 10월께 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탑지 서비스를 자사 개인용 모바일 백신 애플리케이션에 탑재할 계획이다. 이 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 비교 분류할 수 있도록 인공지능(AI)을 학습시키는 방식이다. 

라온시큐어는 지난 5월 설립한 AI 연구센터를 통해 이 기술을 개발했다. 딥페이크 감지 안면인식 기술, AI가 생성한 콘텐츠 탐지 기술 등을 향후 기업이나 기관이 이용 할 수 있도록 API 형태로도 제공할 예정이다. 

라온시큐어 관계자는 "AI가 작성한 콘텐츠를 탐지하는 부분도 연구하고 있다"며 "이를 통해 사람이 직접 생성한 데이터인지 여부를 탐지하는 서비스로 확장할 계획"이라고 밝혔다.

(사진=이미지투데이)

샌즈랩도 딥페이크 대응 기술을 가진 기업으로 분류되고 있다. 이곳은 지난해 4월부터 정부의 생성형 AI 역기능 억제 기술 개발 공동 사업에 참여하고 있다. 샌즈랩 외에도 LG유플러스, 포티투마루, 로그프레소, 카이스트 등이 함께 사업에 뛰어 들었다. 이 프로젝트는 딥페이크, 보이스피싱, 음성 합성 등 AI 역기능 방지 기술과 사이버보안 특화 온프레미스용 소형언어모델(sLLM)을 개발하는 것을 목적으로 한다. 

샌즈랩은 딥페이크 영상과 이미지를 보다 정확하고 정밀하게 찾아내기 위한 기술 개발에 집중하고 있다. 이를 위해 심층 학습 기반의 알고리즘과 멀티모달 데이터 분석 기법을 개발 중이다.

플랜티넷은 국내 최초로 텔레그램 등 소셜미디어서비스(SNS)를 비롯한 인터넷망을 통한 유해 콘텐츠 차단 서비스를 제공해왔다는 점에서 시장이 주목하고 있다. 이곳은 지난 2021년도부터 정부기관(ETRI)과 함께 디지털 범죄 방지를 위한 연구에 지속 참여해왔다. 해당 연구과제들은 '딥페이크 성범죄'에 이용된 영상물의 유해성 판별 및 SNS 유포 방지를 위해 필요한 것으로 평가된다.

또 플랜티넷은 올해 초 AI 전문 연구개발 인력으로 구성된 AI테크랩을 신설해 AI 기술을 활용한 불법영상물 차단 및 판별 정확도 향상에도 집중하고 있다. 여기에 스미싱·보이스피싱 같은 전자금융사기 탐지 및 차단을 위한 기술 개발도 진행 중이란 점에서 향후 실적에 대한 기대감이 크다.

플랜티넷 관계자는 "과제가 종료되는 내년부터는 딥페이크 음란물 필터링, 보이스피싱 및 스미싱 차단 등 준비된 기능들을 기존 서비스에 고도화해 반영하고 상용화에 집중할 계획"이라며 "2026년부터는 이러한 협력과 사업이 회사의 주요 성장동력으로 자리 잡아 가시적인 성과를 나타낼 것으로 기대하고 있다"고 말했다.

딥페이크 (제공=이미지투데이)

이 같은 기술 덕분에 각 기업들의 주가는 '딥페이크 테마주'로 묶이며 최근 상한가를 기록하고 있다. 라온시큐어의 주가는 지난 26일 종가 기준 1천877원이었으나, 이날 종가는 2천390원으로 27.3%나 올랐다. 플랜티넷도 지난 27일부터 주가가 상승세를 보였는데 당시 주가는 전 거래일 대비 18.29% 오른 2천425원에 마감된 데 이어 ▲28일 2천425원 ▲29일 3천225원 ▲30일 3천255원을 기록했다. 이틀 전에 7천950원을 기록했던 샌즈랩 주가도 이날 9천660원에 마감됐다.

이는 정부가 딥페이크 대책 마련에 나선 것이 주효했다. 최근 한 대학 단체 대화방에서 여학생 얼굴을 음란물에 합성한 딥페이크 영상물이 유포되는 사건이 알려지며 사회적 파장이 커졌기 때문이다. 이후 중고등학교와 군대에서도 유사한 범죄가 확인돼 더 충격을 줬다. 

이에 방송통신심의위원회는 긴급 전체 회의를 열고 음란물의 유통 경로인 텔레그램 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하기로 했다. 또 여야는 물론 윤석열 대통령까지 나서 딥페이크 대책 마련을 주문하면서 이들 테마주의 주가 상승폭이 커졌다. 딥페이크 성범죄 영상물을 조기에 색출해 차단하는 과정에서 관련 기업들의 기술이 적용될 것이란 기대감이 반영된 탓이다. 

다만 일각에선 딥페이크 방지 기술과 관련이 없는 정보보안 기업들의 주가도 함께 상승해 투자자들이 주의할 필요가 있다고 지적했다. A사의 경우 딥페이크 테마주로 묶이며 주가가 하루 새 15% 넘게 뛰자 내부적으로 당황스러워 하기도 했다. A사는 데이터 보안 분야에서 주목 받고 있는 곳으로, 딥페이크와는 크게 관련이 없는 것으로 알려졌다.

업계 관계자는 "보안 기술과 관련해 연관성이 있어도 실제 사업 성과로 이어지기 어려운 경우가 많고, 아직 딥페이크 방지 관련 법안도 제대로 갖춰지지 않은 상황"이라며 "딥페이크 기술을 원천적으로 막는 보안 프로그램을 강제로 판매하지 않는 이상 실제 매출로 이어지기도 쉽지 않다"고 말했다.

그러면서 "워터마크 표식 등을 남겨 딥페이크를 구별하는 방법들이 대안으로 얘기되고 있지만 사실상 이를 활용할 범죄를 완전히 막을 수 있는 방법은 없다"며 "딥페이크가 무조건 나쁜 기술이라고는 볼 수 없지만, 이를 악용할 시 강력하게 처벌하는 방안에 대해선 깊게 고민해 봐야 할 것"이라고 덧붙였다.

장유미 기자(sweet@zdnet.co.kr)