이태리 최고 AI윤리 전문가 “실리콘밸리 빅테크, AI로 하느님 행세, 멈춰”

이탈리아 총리실 산하 인공지능(AI)위원회 위원장인 파올로 베난티 로마 교황청 그레고리오대 윤리·기술 전공 교수가 AP통신과 인터뷰를 하고 있다. 로마 AP 연합뉴스

프란치스코 교황과 유엔(UN)에 인공지능(AI) 윤리 정책을 자문하는 파올로 베난티(50) 로마 교황청 그레고리오대 윤리·기술 전공 교수가 미국 실리콘밸리의 빅테크 기업가들에게 “AI 기술을 활용해서 마치 하느님이 된 양 행세하는 일을 당장 그만두라”고 경고했다.

베난티 교수는 19일(현지시간) 영국 일간 더타임스 인터뷰에서 “실리콘 밸리에는 좋든 싫든 사람들을 위해 좋은 일을 한다며 하느님 행세를 하는 가부장주의가 팽배해 있는데 저는 여기에 반기를 들고 싶다”고 말했다.

그는 “AI보다 인간의 어리석음이 더 걱정된다”고 했다. 인간의 의사결정능력을 능가하는 범용인공지능(AGI)의 등장이 인류 존속을 위협할 가능성보다는 인간이 AI를 전쟁에 쓸 무기로 전용하는 등 불순한 목적으로 사용하는 것을 더 우려한다는 것이다.

그는 같은 날 AP통신과의 인터뷰에서는 “중요한 건 AI 거버넌스”라며 “이 시대의 가장 시급한 문제 중 하나는 AI가 인류의 삶을 풍요롭게 하는 동시에 사람들을 착취하지 않도록 적절히 통제 가능한 수준에 대해 사회적 합의에 이르는 것이 가장 중요하다”고 강조했다.

베난티 교수는 로마의 명문대인 라사피엔차 대학에서 공학 학위를 취득한 지 1년여 만에 프란체스코 수도회에 입회해 사제품을 받았다. 가톨릭과 AI를 통섭하는 전문지식을 갖춘 그는 둘 사이의 균형을 맞줄 최고 권위자로 평가받는다.

유엔 인공지능 자문기구 위원이자 AI가 생성한 허위조작정보로부터 저널리즘을 보호하는 방법에 대한 권고안을 제공하는 이탈리아 정부위원회 위원으로, 최근 빌 게이츠 마이크로소프트(MS) 창립자와 조르자 멜로니 이탈리아 총리의 대담에 사제복을 입고 배석해 눈길을 끌었다.

바티칸 교황청에서는 생명아카데미 컨설턴트로서 프란치스코 교황에 자문을 해왔다. 지난해 바티칸에서 열린 프란치스코 교황과 브래드 스미스 MS 회장의 대담에서 ‘AI가 인류를 어떻게 이익이 되고 해악을 끼칠 수 있는지’ 논의하는 데 다양한 자문을 했다.

최영권 기자