올트먼 오픈AI CEO, AI 이용한 '복제 사기' 경고

"곧 현실과 구분 불가한 영상 통화 나올 것"

샘 올트먼 오픈AI CEO [로이터 연합뉴스 자료사진. 재판매 및 DB 금지]

(서울=연합뉴스) 황정우 기자 = 챗GPT 개발업체 오픈AI의 샘 올트먼 최고경영자(CEO)가 인공지능(AI)으로 인한 '사기 위기'(fraud crisis)를 경고했다.

22일(현지시간) 미국 방송 CNN에 따르면 올트먼 CEO는 "저를 정말 두렵게 하는 것은 아직도 일부 금융 기관이 음성 인식(voice print)을 돈을 이체하거나 다른 일을 처리하는 데 인증 수단으로 쓰고 있다는 점"이라며 "예컨대 사용자가 특정 문구를 말하면 그걸로 그렇게 해버리는 것"이라고 말했다.

이어 "지금도 그렇게 되고 있다는 게 말도 안 되는 일이다. AI는 사람들이 현재 사용하는 대부분의 인증 방식을 완전히 무력화시켰다. 비밀번호를 제외하고는"이라고 덧붙였다.

올트먼 CEO는 이날 미국 중앙은행 연방준비제도(Fed·연준)에서 열린 AI의 경제·사회적 영향에 관한 한 행사에서 이같이 언급했다.

올트먼 CEO의 발언을 듣고 있는 제롬 파월 연준 의장 [AFP 연합뉴스 자료사진. 재판매 및 DB 금지]

앞서 미국 연방수사국(FBI)도 지난해 AI 음성 또는 영상 '복제'(cloning) 위험에 대한 경고를 내놓은 바 있다.

AI 음성 기술을 이용해 자녀가 위험에 처한 것처럼 부모들을 속여 돈을 요구한 사례도 다수 보고됐다.

이달 초 마코 루비오 미국 국무장관을 사칭한 사람이 AI를 활용해 조작한 목소리와 문자 메시지 등을 외국 외무장관들과 미국 주지사, 미국 연방 의원 등 최소 5명에게 보낸 것으로 드러나기도 했다.

올트먼 CEO는 "나는 지금 우리가 중대한, 임박한 사기 위기를 앞두고 있다는 점에서 매우 불안하다"며 "지금은 음성 통화지만 곧 현실과 구분할 수 없는 영상 통화나 페이스타임이 될 것"이라고 했다.

그러면서 오픈AI가 이런 모방 도구를 개발하고 있진 않지만, AI가 계속 발전함에 따라 세계가 곧 직면하게 될 도전이라고 경고했다.

그는 AI로 인해 온라인에서 무엇이 진짜인지, 누가 진짜인지 구분하기 어려운 세상에서 '인간임을 증명'(proof of human)할 수 있는 수단을 제공하는 기업들도 있을 정도라고 했다.

한편 올트먼 CEO는 AI가 고용에 미치는 영향에 대해선 "앞으로 어떤 일이 일어날지 아무도 모른다"고 단언했다.

그는 "정말 똑똑해 보이는 예측들이 많다. (하지만) 아무도 모른다. 내 생각엔 이 시스템은 너무 복잡하고, 너무 새롭고 영향력이 큰 기술이어서 예측하기가 매우 어렵다"고 말했다.

jungwoo@yna.co.kr

▶제보는 카톡 okjebo