[매경데스크] 가려진 얼굴, 벗겨진 가면

세계 첫 AI규제법 발효되고
주요국 줄줄이 규제한다지만
AI는 데이터 장악한 지 오래
'과잉투자론'은 빙산의 일각
최소한의 규제마련 서둘러야

"중국 데이터라벨링 하도급 회사들은 이제 안면인식 작업은 하지 않아요. 왜냐하면 이미 다 끝내놓아서 할 필요가 없거든요."

글로벌 딥러닝 산업을 취재하던 중 전문가 한 분이 농담 반 진담 반이라며 해준 말이다. 데이터라벨링이란 사람이 보는 사진이나 영상을 인공지능(AI)이 인식할 수 있게 '표식'을 달아주는 작업을 말한다.

전 세계가 AI에 올인하고 있는 판에 그게 뭐가 충격이냐고 생각할 수도 있겠다. 저 이야기를 들은 것이 2020년 6월께, 4년도 더 된 일이라는 것만 빼면 말이다. 당시만 해도 생소하던 데이터라벨러를 새로운 부업이라고 소개했는데, 지금은 그마저도 AI가 자동으로 라벨을 달아주는 시대가 됐다. 지난 4년간 AI는 얼마나 많은 데이터를 '무차별적으로' 학습했을 것이며, 얼마나 무섭게 진화했을 것인가.

텍사스주와 개인정보 보호법 위반 소송을 벌이던 메타는 이용자 '얼굴 값'으로 2조원에 달하는 합의금을 내기로 했다. 이 회사가 이용자 동의 없이 안면인식 데이터를 가져다 쓴 것은 2010년부터 2021년까지다. 메타는 2021년 관련 서비스를 폐지하면서 "10억명 이상의 이용자 생체인식 데이터를 삭제할 것"이라고 밝혔다. 자그마치 10억명 그리고 그들의 10년치 정보다. 앞서 언급한 중국의 전 국민 안면인식 데이터 확보 이야기가 마냥 우스개만은 아니겠다 싶은 이유다.

얼굴은 지문과 홍채 정도를 빼면 가장 고유한 생체 정보다. 요즘 AI는 사진 몇 장으로 그 사람의 딥페이크 영상까지 만들 수 있으니, 곳곳의 CCTV를 따라 동선을 추적하는 것 정도야 식은 죽 먹기 아니겠나. 그래서 지난주 터져 나온 주요국 정보기관들의 실패와 블랙요원들의 신변 위협, 하마스 1인자 이스마일 하니야 암살 같은 뉴스가 예사롭게 보이지 않았다. 실제로 이스라엘은 가자전쟁 국면에서 안면인식 등 AI 기술을 대거 활용하고 있다고 밝힌 바 있다.

전 세계 증시를 흔들고 있는 'AI 과잉투자론'은 최근 1~2년간 몰린 천문학적인 자금에 포커스를 맞춘다. 하지만 챗GPT가 어느 날 갑자기 하늘에서 뚝 떨어진 것이 아니라는 점을 생각해볼 필요가 있다. 개별 투자자 입장에서야 순환매 기회를 노리면 된다지만, 인류 전체로 보자면 이미 거대한 '데이터 댐'이 터진 재난 상황이다. 이뿐인가. 꽁꽁 숨겨놓았던 비밀 데이터 금고까지 이미 다 털렸다고 봐야 할 것이다.

더 큰 문제는 '다른 데이터와의 결합'이다. 지문에 홍채에 유전체 정보에 민감한 의료기록까지, 이제 모든 가면이 벗겨지는 건 시간문제다. 중국은 '국가 인터넷 신분증'까지 만든다고 한다. 인터넷 주민번호와 '인터넷 신분 인증'을 도입해 개인정보를 노출하지 않도록 한다는데, 속내는 모든 오프라인 정보를 장악했으니 그나마 '가려진 얼굴'까지 들춰가며 추적하겠다는 이야기로 들린다. 선쿠이 베이징대 법학과 교수가 지적한 것처럼 모든 온라인 활동이 실제 신원으로 연결되는 '완전한 노출(complete exposure)'이다.

빅테크 기업 최고경영자(CEO)라면 누구나 'AI를 향해 전력 질주'를 외칠 수밖에 없는 이유다. 미국 빅테크들은 올 상반기에만 144조원이 넘는 돈을 AI에 쏟아부었다. 앞으로 5년간 예정된 전 세계 데이터센터 투자금은 최대 1조달러(약 1360조원)가 넘는다고 한다.

가면 뒤에 숨어 내 모든 정보를 들여다보는 AI를 어떻게 할 것인가. 유럽연합(EU)이 세계 최초로 제정한 포괄적 AI 규제법이 1일(현지시간) 발효됐다. 미국은 안전 보장 관점에서 AI를 개발하는 사업자에게 보고 의무를 부과했고, 일본도 AI법을 만들면서 4대 기본 원칙을 정리했다. 한국도 최소한의 안전장치라도 서둘러 마련해야 한다. 지킬 수 있는 것이 얼마 남지 않았다.

[신찬옥 글로벌경제부장]