美공항 최첨단 인식시스템도 뻥 뚫려

비대면 신원확인 시스템 등
보안심사 기술 강화됐지만
딥페이크 발전 속도 못 미쳐
페북이 진행한 감지 대회서
우승자도 65% 잡는데 그쳐

◆ AI의 역습, 딥페이크 ② ◆

델타항공이 3년 전부터 도입하려던 자동 안면인식 여권·신원 확인 시스템. 코로나19 시대 비대면 서비스로 기대를 모았지만 "딥페이크 기술을 활용하면 누구나 쉽게 사진을 조작할 수 있다"는 보안업계 경고가 나왔다. [사진 제공 = 델타항공]

미국 애틀랜타 하츠필드 잭슨 공항에 내리면 안면인식을 통해 자동으로 여권 대조 검사를 하는 장면을 목격할 수 있다. 미국 델타항공이 2018년부터 도입을 시도해온 이 기술은 코로나19 시대에 대면 접촉 없이 탑승객 신원을 확인할 수 있는 기술로 미국 언론의 각광을 받았다.

하지만 보안 회사 맥아피가 이런 안면인식 신원 확인 시스템에 대한 문제를 제기하면서 분위기가 싸늘하게 식었다. 스티브 포볼니 맥아피 연구원은 2020년 8월 낸 보고서를 통해 "보안심사를 통과할 수 없는 테러범이라도 일반인 얼굴과 합성한 여권 사진을 이용하면 이런 시스템은 매우 손쉽게 뚫린다"고 밝혔다. 컴퓨터는 여권 사진을 보고 테러범인지, 아닌지를 판단하고 보안검색대 카메라를 통해 탑승객 실물과 여권 사진이 일치하는지를 검사한다. 그런데 사진으로는 테러범이 아니라고 판별되지만, 보안검색대에서는 실물과 사진이 일치한다고 나오게끔 절묘한 비율로 사진을 조작하는 것이 매우 쉽다는 것이다. 포볼니 연구원은 "누구나 이런 조작이 매우 쉽게 가능하다는 것이 문제"라고 했다.

딥페이크가 발전하는 속도만큼 딥페이크를 막을 수 있는 인공지능(AI) 기술도 발전하고 있지만 속도는 더디다. 페이스북은 2019년 12월부터 딥페이크를 잡아내는 기술을 공개적으로 모집했다. 약 6개월 동안 진행된 이 대회에는 2114명이 참가했고 딥페이크 감지모델 총 3만5000개가 제시됐다. 하지만 우승자마저 딥페이크를 65% 정도만 잡아낼 수 있을 뿐이었다.

유튜브 역시 효과적 대응을 하고 있는지에 대한 평가는 유보적이다. 예를 들어 낸시 펠로시 미국 하원의장의 발언을 고의적으로 늘어뜨리게끔 편집해 올린 악의적 영상은 딥페이크 수준에도 미치지 못하는 기초적 조작이었지만, 유튜브는 이를 재빠르게 삭제하지 못했다. 마이크로소프트(MS)는 '비디오 진짜 판독기'라는 딥페이크 판독 소프트웨어를 2020년 9월 발표했다. 사진이나 동영상을 보고 조작 가능성이 얼마나 되는지를 %로 판독해 보여주는 기능을 갖고 있다. MS 클라우드 서비스인 '애저'를 구독하면 쓸 수 있는데, 이 제품이 얼마나 사용되는지는 현재까지 발표된 바 없다. 정보기술(IT) 기업 어도비 역시 '진짜 영상 판독기' 소프트웨어를 개발 중이지만 성과가 나오지 않았다. 샨타누 나라옌 어도비 최고경영자(CEO)는 "콘텐츠가 진짜인지를 확인하는 소프트웨어 시장은 개척해나가야 할 새로운 영역"이라고 말했다.

국내에서도 변조와 합성을 탐지하는 연구에는 관심이 적었던 것이 사실이다. 이 때문에 기술적 대비에 대한 목소리도 높아지고 있다. 종합편성채널 MBN(매일방송)과 함께 김주하 앵커의 모습을 본떠 국내 최초 AI 앵커를 탄생시킨 머니브레인은 최근 영상 진위 여부를 판단하는 능력을 갖춘 딥러닝 모델을 만드는 일에 주력하고 있다. 현재 이를 위한 기초 작업인 데이터 수집을 진행 중이다. 특히 딥페이크를 탐지하는 해외 연구 사례가 대부분 서양인 데이터를 통해 구성돼 있기 때문에 데이터를 쌓는 작업이 우선적으로 이뤄져야 한다. 장세영 머니브레인 대표는 "인간에게 이로운 인공지능 영상 합성과 딥페이크 기술을 향상시키기 위해 노력해왔고, 이에 따라 발생할 수 있는 악용이나 부작용을 방지하기 위한 딥페이크 변조 영상 탐지 기술의 지속적인 연구 필요성을 느끼고 있다"고 밝혔다.

[실리콘밸리 = 신현규 특파원 / 서울 = 이용익 기자]