[뉴스룸에서] 사기꾼이 AI를 이용하는 세상

게티이미지뱅크

“어쩜 이렇게 하늘은 더 파란 건지~”

록의 전설 임재범이 아이유의 ‘좋은 날’을 불렀다. 그의 허스키한 목소리는 “나는요 오빠가 좋은걸”을 간드러지게 소화한 뒤 “아이쿠, 하나 둘” 하며 클라이맥스 문턱에 다가서고, 결국 천둥 같은 3단 고음까지 발사한다.

유튜브에 올라온 이 곡은 실제 임재범이 부른 노래가 아니다. 생성형 인공지능(AI)으로 만든 임재범의 음성을 아이유 곡에 얹은 거다. 특정 목소리를 어떤 노래와도 결합할 수 있는 멋진 신세계가 찾아온 것. 국내 커버(기존 노래를 다른 가수가 부름) 중엔 프레디 머큐리가 부른 ‘서른 즈음에’도 있고 해외 커버엔 프랭크 시나트라의 ‘빌리 진’도 있다.

생성형 AI는 실물과 똑 닮은 영상을 뚝딱 만들거나 사람처럼 대화를 주고받을 수 있다. 음성, 영상, 대화(텍스트). 미디어를 구성하는 이 필수요소들을 AI에 맡기면 창작 영역은 무한대로 넓어지고 가상세계 구축에 필요한 시간·비용은 극적으로 감소한다.

과거 신문물의 도입, 이를테면 마이카 시대나 핸드폰 대중화, 인터넷 보급이나 스마트폰 체제로의 재편 등 그 어떤 기술의 전파보다 생성형 AI의 침투 속도는 빠르다. AI는 인간의 공간을 비약적으로 넓혀 새 부가가치를 창출할 것이고 죽은 가족 음성을 재현해 유족을 위로하는 예처럼 인간을 위해 이용될 것이다. 이미 한강 자살 시도자를 찾는 일에 AI가 쓰인다.

이렇게만 쓰이면 얼마나 좋을까마는, 유사 이래 사람과 돈이 모이는 곳에 필연적으로 꼬이는 게 있으니 바로 범죄다. 기업이 생성형 AI 쓰임을 찾으려 골몰하는 것처럼 사기범들도 범행에 써먹을 방도를 호시탐탐 노릴 게 뻔하다.

생성형 AI의 가치는 ‘이용자가 가상임을 인지하고 기꺼이 속아줄 때’만 유용하다. 허상을 실재처럼 호도하거나 가상을 실상인 양 기만하는 순간부터 기술은 사람을 속이는 범죄(사기)를 위해 복무한다. 생성형 AI를 이용한 신종 피싱, 무분별한 딥페이크, 정교한 영상·음성 위조를 이용한 가짜뉴스. 이런 사기범죄는 기술 덕에 완성도를 높이며 새 먹잇감을 찾을 것이다. 전청조 사태에서 보듯 사기범들은 사람들이 믿고 싶어 하는 지점을 정확하게 공략하며 신뢰를 얻는다. 그 신뢰 형성의 과정에 AI는 유용한 도구가 된다.

그러나 우리는 그런 AI 기술이 악용될 초고도 사기범죄에 대응할 준비를 하지 못했다. 어떤 사기가 가능할지, 그것이 어떤 피해를 가져올지, 아직은 전혀 알 수 없으며 예측 자체가 사실 불가능하다. 결국 피싱, 파밍, 스미싱 등 과거 신종 사기범죄 등장 때 그랬던 것처럼 신속한 대응체계를 먼저 갖추고 단속·예방에 힘 쏟는 수밖에 없다.

어떤 법관이 했던 말이 있다. 그는 “사법은 세상 흐름보다 반 발 뒤에서 따라가야 한다”고 했다. 사법은 세상에 없는 것을 스스로 만들어선 안 되기에 약간 보수적이어야 하되 변화의 흐름을 놓치지 않을 만큼 진취적이야 한다고 했다.

지금까지와 같은 변화 속도에선, 그 ‘반 발 간격’ 유지에 필요했던 자세는 신중함이었다. 그러나 AI 기술이 눈부시게 발전하는 지금 가장 필요한 덕목은 기민함이다. 미래 범죄의 시작과 끝이 될지 모를 AI 기술로부터 반 발짝이라도 뒤에서 따라가려면, 속도 문제(재판 지연)에 허덕이고 있는 법원과 검찰의 대응은 지금보다 훨씬 빨라야 한다.

이영창 사회부장 anti092@hankookilbo.com