"저 명품패딩 어디 거?"…'딥페이크' 희생양 됐던 교황, 남긴 AI 과제는

2023년 명품 패딩을 입은 것으로 알려져 화제가 됐던 프란치스코 교황 사진. 이 사진은 알고보니 AI로 조작된 딥페이크물이었다./사진=SNS 갈무리

전 세계가 '빈자의 벗'으로 불렸던 프란치스코 교황의 선종을 애도한다. 한때 화공학자였던 교황은 책을 가까이하고, 신문물에 관심이 많아 AI(인공지능) 사용을 허용하는 등 진보적이었다. 생전 AI로 만든 가짜 이미지 '딥페이크' 희생양이 되기도 했던 교황이 AI 산업과 관련해 남긴 메시지에도 전 세계가 주목하고 있다.

23일 SNS(소셜미디어) 등에는 프란치스코 교황을 추모하는 AI 생성 이미지와 함께 과거 '딥페이크' 사진이 함께 공유되고 있다.

특히 화제가 됐던 사진은 2023년 3월, 교황이 명품 '발렌시아가' 흰 패딩을 입은 딥페이크 사진이다. 당시만 해도 AI로 정교한 딥페이크 사진을 만들 수 있다는 것을 대중이 잘 몰랐다. 이에 교황이 실제 명품 패딩을 입은 줄 알고 비난하는 이들과, 교황 패딩을 따라사고 싶다는 글이 SNS를 도배했다. 이튿날 해당 사진이 '미드저니'라는 AI 프로그램의 합성물이라는 사실이 알려지면서 이 사건은 해프닝으로 종결됐다.

프란치스코 교황 선종을 애도하는 AI 생성물/사진=SNS 캡처

그는 역대 가장 큰 지지를 받은 교황이었던 탓에 많은 AI 합성물의 희생양이 됐다. 그랬기에 더욱 AI의 윤리성을 강조했다. 컴퓨터를 잘 다루지는 못하지만 신산업과 신문물에도 관심이 컸고 '사람이 먼저여야 한다'는 전제로 AI 사용도 찬성했다.

AI 관련 대표적인 행보가 2020년 발표한 AI 윤리백서 '로마 콜'이다. 로이터 등 외신에 따르면 당시 교황청이 발표한 'AI 윤리를 위한 로마 콜(Rome Call for AI Ethics)'에 마이크로소프트(MS)나 페이스북 같은 테크 기업도 지지를 보냈다.

교황청이 발표한 AI 윤리백서 '로마콜'/사진=바티칸 뉴스

'로마 콜'은 AI가 인간의 삶에 큰 변화를 가져올 것이고, 신기술은 인류(Human Family)에 봉사한다는 원칙하에 연구되고 상용화돼야 한다고 전제한 뒤, AI 이용을 위한 6가지 원칙으로 △투명성 △포용성 △책임성 △공정성 △신뢰성 △보안·프라이버시를 제시했다.

투명성은 AI 시스템이 왜 그런 결론을 도출했는지 설명할 수 있어야 한다는 것이고 포용(Inclusion)은 AI로부터 이득을 얻는 주체가 일부가 아닌 모든 사람이어야 한다는 것이다. 책임은 AI 설계자들이 책임과 투명성 원칙을 지켜야 한다는 것이고, 공정성(Impartiality)은 데이터 입력에 편견이 없어야 한다는 것, 안전과 프라이버시는 사용자의 개인 정보나 사생활을 지켜줘야 한다는 내용이다.

해당 준칙을 만들기 위해 교황은 페이스북 창업자인 마크 저커버그 메타 CEO와 에릭 슈밋 전 구글 회장, 브래드 스미스 MS 사장 등을 만나 의견을 교환하기도 했다.

이탈리아 주요7개국(G7) 정상회의 이틀째 실무회의에 참석한 프란치스코 교황이 주제인 인공지능(AI)과 관련해 발표하는 것을 옆에 착석한 에마뉘엘 마크롱 프랑스 대통령이 매우 흥미롭게 경청하고 있다. /AFPBBNews=뉴스1

프란치스코 교황은 역대 교황 중 유일하게 G7(주요 7개국) 회의에도 참석했다. 지난해 6월 이탈리아에서 열린 G7 정상회의에서 교황은 'AI와 평화'를 주제로 연설하며 'AI 킬러 로봇'(살상용 로봇) 사용 금지를 촉구했다.

선종 직전까지도 교황은 AI와 인류의 관계를 생각했다. 바티칸뉴스에 따르면 교황청은 지난 1월 AI와 인간 지능의 관계를 다룬 '앤티쿠아 엣 노바(Antiqua et Nova, 옛것과 새로운 것)' 보고서에서 AI가 초래할 불평등 심화를 우려했다.

보고서는 "AI 기술이 상업적, 정치적 환경 내에서 개발돼 특정 가치에 편향될 수 있다"면서 "전체 인류의 경험을 반영하는 데이터베이스 구축이 중요하고, 디지털화 과정에서 소수의 부유층이 막대한 권력을 갖게 된 것처럼 AI가 인류의 단합을 저해할 수 있다"고 지적했다.

김소연 기자 nicksy@mt.co.kr