‘AI 윤리’ 전문가 “AI보다 인간의 어리석음이 더 걱정”

“인공지능(AI)의 오남용 위험보다 이를 불순한 목적으로 사용하려는 인간의 어리석음이 더 걱정된다”

AI의 윤리 문제를 둘러싼 전세계적 관심이 높아지고 있는 가운데 신과 인간의 가교 역할을 하며 현실 윤리를 탐구하는 가톨릭 성직자가 AI 윤리 전략에 관해 각국 정재계 지도자에게 조언하고 있어 관심을 끈다. 바로 이탈리아 총리실 산하 AI 태스크포스(TF)에서 활동하고 있는 파올로 베난티 프란치스코 수도회 수사(50·사진)다.

그는 18일 조르자 멜로니 이탈리아 총리와 빌 게이츠 미국 마이크로소프트(MS) 창업자의 회담에 배석해 AI에 관한 각종 조언을 했다. 지난해 바티칸에서 열린 프란치스코 교황과 브래드 스미스 MS 회장의 만남 때도 자리했다.

19일 AP통신, 영국 더타임스 등에 따르면 그는 ‘AI가 신(神)을 자처하거나, AI의 오남용 위험이 인류에 악영향을 끼치면 어떻게 대처해야 하느냐’는 질문을 받고 “AI보다 인간의 어리석음이 더 걱정된다”고 답했다.

AI에 관한 과도한 규제 또한 반대한다고 밝혔다. 보건의료 등 AI가 가져 올 혁신이 인간에게 미치는 긍정적 효과도 크다는 것이다. 그는 “사회적 맥락 내에서 올바른 AI 사용 수준을 찾아야 한다”고 거듭 강조했다.

다만 AI가 전세계의 양극화를 가중시킬 수 있다는 점을 우려했다. AI로 일자리를 잃을 수 있는 사람은 대부분 단순 노동에 종사하는 각국 저소득층, 개발도상국 국민인데도 AI용 데이터의 대부분은 개도국의 저임금 근로자에 의해 제공된다는 것이다. 베난티 수사는 “나의 종교적 소명이 허위 정보를 읽는 사람, 일자리를 잃은 사람 등 AI 피해자들에게 집중하게 만들었다”며 이 문제를 반드시 해결해야 한다고 강조했다.

베난티 수사는 이탈리아 명문 라사피엔차 대학에서 공학을 전공했지만 학위 취득을 1년 앞두고 대학을 중퇴한 후 성직자가 됐다. 현재 프란치스코 교황의 AI 윤리 담당 고문을 맡고 있다. 또 각국 전문가 38명이 모여 AI의 위험, 도전, 기회 등을 논의하는 유엔의 ‘AI 고위급 자문기구’에도 유일한 이탈리아 출신 위원으로 참여하고 있다.

김보라 기자 purple@donga.com