AI 시대의 역설, 인간이 인간임을 입증해야 한다

오픈AI 올트먼이 그리는 미래

17일 미국 샌프란시스코에서 열린 월드코인 '새로운 세상' 이벤트에서 샘 올트먼 오픈AI 최고경영자(CEO·오른쪽)와 알렉스 블라니아 툴스 포 휴머니티 CEO가 기조연설을 하고 있다./툴스 포 휴머니티

‘인간의 증거(Proof of Human)’.

17일 미국 샌프란시스코 오픈AI 옛 본사 ‘파이어니어 빌딩’에서 약 300m 떨어진 곳에 위치한 한 행사장. 샘 올트먼 오픈AI 최고경영자(CEO)가 주도한 가상 화폐 프로젝트 ‘월드코인’의 첫 글로벌 행사 ‘새로운 세계(A New World)’의 기조 연설 무대엔 이 같은 글귀가 큼지막하게 쓰여 있었다. 기조 연설자로 무대에 오른 올트먼 CEO는 “우리는 인공지능(AI)이라는 역사상 가장 거대한 기술 혁명의 한가운데 서 있다”며 “향후 월드코인이 세계 기초 인프라에서 핵심 역할을 할 것”이라고 말했다.

지난해 7월 올트먼 주도로 정식 출범한 월드코인은 사람의 홍채 정보를 제공받는 대가로 가상 화폐(월드코인)를 주는 것이다. AI의 발달로 딥페이크(AI를 이용한 진짜 같은 가짜)처럼 가짜와 진짜의 경계가 모호해지자, 홍채 정보를 통해 인간이 스스로 진짜 인간임을 증명하고 개인을 식별할 수 있는 ‘신원 확인 네트워크’를 구축하겠다는 것이 올트먼의 구상이다. 이 프로젝트는 ‘툴스 포 휴머니티(TFH)’라는 기업이 담당한다. 올트먼과 함께 연단에 오른 TFH의 앨릭스 블라니아 CEO는 “’인간 증명’은 미래에 반드시 존재해야 할 기술”이라며 “최대한 많은 사람이 하루빨리 월드ID를 생성할 수 있도록 할 것”이라고 했다.

◇진격하는 월드코인

17일 미국 샌프란시스코에서 열린 '월드코인: 뉴월드' 행사에서 참가자가 오브를 사용해 홍채 등록을 하고 있다./오로라 특파원

실제로 TFH는 이날 ‘월드ID’의 확장을 위해 사활을 건 모습이었다. 월드코인이 인기인 라틴 아메리카에선 현지 1위 배달앱 ‘라피(Rappi)’와 손을 잡고 홍채 정보 인식 기기인 ‘오브’를 집으로 배송하는 사업을 펼치기로 했다. 치킨을 주문하듯 ‘오브’를 주문해 집에서 편하게 홍채 스캔을 할 수 있게 하겠다는 것이다. 이날 앨릭스 블라니아 TFH CEO가 현장 참가자 500명을 향해 “이 자리에서 홍채 스캔을 한 모두에게 엔비디아 젯슨 칩셋을 탑재해 홍채 수집 속도를 향상한 신형 ‘오브’를 한 대씩 선물하겠다”고 하자, 현장에선 환호와 박수가 쏟아지기도 했다. 오브 한 대 가격은 2500달러(약 340만원). 고가의 오브 선물을 통해 주변인에게 월드ID 가입을 독려하라는 것이다.

이와 함께 TFH는 향후 홍채 정보가 없어도, NFC(근거리 무선 통신)를 지원하는 여권 정보를 사용해 월드ID를 생성할 수 있게 하겠다고 밝혔다. 이는 미국 등 민감 생체 정보 수집을 문제 삼아 홍채 스캐너인 ‘오브’의 도입을 막은 국가에서도 월드ID 가입자를 들이기 위한 수단으로 풀이된다. TFH는 이날 행사에서 프로젝트명을 ‘월드코인’에서 코인을 뗀 ‘월드’로 정식 변경하기도 했다. 월드ID를 생성하는 대가로 월드코인을 주는 가상화폐 프로젝트에서, 인간 증명이라는 전인류적 사명을 내세운 인도주의적 기업의 이미지로 변신하겠다는 것이다.

TFH는 AI로 늘어나는 딥페이크 문제를 자사 기술로 해결하겠다는 의지도 내비쳤다. 에이드리언 루드위그 TFH 최고정보보안책임자(CISO)는 “요즘 금융권에선 갑자기 회사 CEO, CFO가 줌 미팅을 통해 송금을 하라고 명령하는 딥페이크 피해가 일어나고 있다”고 했다. 고위 임원의 얼굴과 목소리를 모방해 금융 사기를 펼치는 사례를 언급한 것이다. 그는 “이를 막기 위해 화상회의의 상대방이 (딥페이크가 아닌) 사람임을 확인해주는 ‘월드ID 딥페이스’를 시범 출시할 것”이라며 “이 기능은 줌·구글미트·팀스 등 다양한 화상회의 도구에 모두 적용할 수 있다”고 했다.

◇사기업에 ‘인간 증명’ 맡겨도 되나

샘 올트먼 오픈AI 최고경영자(CEO)가 지난해 7월 홍채 정보를 수집하는 '오브' 앞에서 자신의 홍채를 스캔하고 있다. 울트먼이 공동창업자인 툴스 포 휴머니티(TFH)는 지금까지 홍채스캔으로 '월드ID'를 생성한 인원이 696만명에 달한다고 말했다./X

‘월드코인’ 사업이 속도를 내면서, 홍채라는 민감한 생체 정보를 민간 기업이 확보하고 관리하는 것에 대한 위험성을 경고하는 목소리는 커지고 있다. 개인 정보 유출 가능성뿐 아니라, 시스템 오류로 발생할 수 있는 혼란에 어떻게 대처해야 하는가에 대한 문제가 남는다. 행사에 참석한 한 독일 기자는 “글로벌 10억명의 홍채 정보가 사기업에 수집되는 것은 어쩌면 구글이 사용자 정보를 꿰고 있는 것보다도 위험한 일일 수도 있다”고 했다. 이런 우려 때문에 콜롬비아에서 개인 정보 보호 관련 조사를 받고 있고, 포르투갈 등 여러 나라에서도 사업이 강제로 중단되기도 했다. 블라니아 CEO는 이에 대해 “홍채 정보가 블록체인에 익명화돼 분산 저장되는 만큼, 우리는 해당 정보를 보관하지도 않고, 식별할 수도 없다”고 했다.

전문가들은 기술 문제로 중요한 ‘인간 증명’에 오류가 생겼을 경우 문제는 더욱 커진다고 지적한다. 예컨대 가까운 미래에 인간임을 증명하려는 이용자가 로봇으로 잘못 판정 났을 경우, 어떤 사회적 불이익을 겪게 될지 모른다는 것이다. TFH 측은 이 같은 지적에 “다양한 기술 테스트를 통해 최대한 문제가 일어나는 것을 방지하고 있다”고 했다.

17일 미국 샌프란시스코에서 열린 월드코인의 글로벌 행사 '새로운 세상'에서 대담하는 샘 올트먼(가운데) 및 알렉스 블라니아(오른쪽) TFH 공동창업자./오로라 특파원

올트먼은 이날 ‘이 같은 거대한 프로젝트는 정부가 주도해야 하지 않는가’라는 질문에 “그렇다. 인간과 같은 범용 인공지능(AGI)도 기본적으론 정부 프로젝트가 됐었어야 한다”면서도 “하지만 지금의 정부가 과연 그런 일을 할 수 있는지는 의문”이라고 했다.

☞월드코인

샘 올트먼 오픈AI 최고경영자(CEO)가 주도해서 만든 가상화폐 프로젝트. 스타트업 ‘툴스 포 휴머니티(TFH)’가 운영한다. 축구공 크기의 ‘오브(한국에 8곳 설치)’라는 기기로 홍채 정보를 스캔하면, 개인별 고유 코드가 생성된다. 이 코드는 위·변조가 블가능한 ‘블록체인’으로 관리된다. 홍채 정보를 등록할 때 ‘월드코인’이라는 가상화폐를 받는다. TFH가 주기적으로 홍채 정보 등록자에게 ‘월드 코인’을 지급하며, 현재 1개 가격은 약 2980원이다. 지난해 7월 출시된 후 지금까지 696만명이 홍채 정보를 등록했다.