“AI보다 인간의 어리석음이 더 걱정”

바티칸 AI 윤리고문 베난티 교수
“인간이 도덕적 딜레마 답 못내”

“실리콘밸리(미국 캘리포니아에 있는 전자·컴퓨터 산업 중심지)에는 신(神)처럼 행동하려는 경향이 있다.”

이탈리아와 바티칸에서 인공지능(AI) 윤리 분야 최고 권위자로 꼽히는 파올로 베난티(50·사진) 로마 그레고리안대 도덕신학·생명윤리·디지털 윤리학 교수가 19일(현지시간) 영국 타임스와 한 인터뷰에서 AI를 둘러싼 여러 우려에 대해 입을 열었다.

그는 공학자이자 가톨릭 프란체스코 수도회의 신학자로, 프란치스코 교황의 AI 윤리 부문 고문을 맡고 있다.

베난티 교수는 AI와 관련해 인간이 결정할 수 없는 도덕적 딜레마에 답을 내리려 해선 안 된다고 말했다. 실리콘밸리에서 AI를 만들 때 선한 활동의 영향을 극대화해야 한다는 믿음 때문에 이런 딜레마에 빠진다는 것이다.

그는 “우리는 세상의 구세주가 아니다”며 어떤 AI가 더 효과적으로 사회에 이로운지는 인간이 결정할 수 없다고 말했다.

베난티 교수는 오히려 “AI보다 인간의 어리석음이 더 걱정된다”고 말했다.

그는 이날 AP통신과의 인터뷰에서 AI 개발에 들어가는 데이터의 상당 부분이 개발도상국의 저임금 노동자들의 착취로 이뤄지고 있다고도 지적했다. 이어서 “이 시기가 글로벌 사우스(지구 남반구와 북반구의 저위도에 있는 저개발국)의 인적 자원을 착취하던 시기로 기억되길 원하지 않는다”고 덧붙였다.

베난티 교수는 인공지능을 규제한다고 해서 인공지능의 발전을 제한해서는 안 된다고 말했다.

그는 “오늘날 최고의 시스템으로 여겨지는 민주주의는 취약하다”면서 “(민주주의와 AI가) 양립할 수 있도록 하는 것이 바로 인공지능 규제”라고 말했다.

윤솔 기자 sol.yun@segye.com