[취재수첩] AI의 위험 경고한 프란치스코 교황

세계 평화의 날 뜻밖의 화두 제시
비판적 사고와 공동체 협조 필요
이승우 IT과학부 기자

매년 1월 1일은 가톨릭교 ‘세계 평화의 날’이다. 성 바오로 6세 교황이 1968년 1월 1일을 세계 평화의 날로 선포한 이후 지금까지 이어지고 있다.

프란치스코 교황은 올해 제57차 세계 평화의 날을 맞아 담화 주제를 ‘인공지능(AI)과 평화’로 정했다. 코로나19, 러시아·우크라이나 전쟁 등을 다룬 전례를 감안할 때 AI를 화두로 꺼낸 것은 의외로 받아들여진다. 성(聖)과 속(俗)을 가리지 않고 AI가 사회에 커다란 영향을 미치는 변수로 떠올랐다는 방증이다. 2022년 11월 출시된 챗GPT를 시작으로 생성형 AI가 사회와 산업을 바꿀 ‘게임 체인저’로 떠올랐지만 동시에 인류의 잠재적인 위협으로 받아들여지고 있는 셈이다.

프란치스코 교황은 AI의 중요성이 점점 더 커지면서 AI가 인류의 평화를 위협하는 불안 요소가 될 수 있다고 경고했다. 데이터 축적 및 구조화와 확인 과정의 혁명은 물론 고된 노동에서의 해방, 더욱 효율적인 제작 공정, 더 편리한 수송과 더욱 준비된 시장과 같은 긍정적인 측면도 있지만 가짜 뉴스를 퍼뜨리고 허위 정보 캠페인에 동원되면 심각한 문제를 불러올 수 있다는 주장이다. AI와 원격 제어 시스템을 통한 군사 행동이 일반화되면 전쟁의 참상을 화면 너머의 일로 여길 수 있게 된다는 점을 우려하기도 했다.

이밖에 차별, 선거 개입, 감시 사회의 증대, 디지털 배척, 개인주의의 팽배와 같은 AI의 부정적 효과를 하나씩 열거했다.

AI는 최근 몇 년 동안 눈부신 속도로 발전했지만, 잠재적인 불안 요소가 도사리고 있는 것도 사실이다. AI는 인간이 가진 편견을 오롯이 받아들일 수밖에 없다. 알고리즘을 통해 나온 결과물을 설명할 수 없다. 무엇보다 악의를 갖고 AI를 사용하는 사람을 막기 어렵다.

프란치스코 교황은 결국 인간과 인간들의 공동체가 이를 해결해야 한다고 강조했다. 그는 “AI의 사용에 관한 교육은 무엇보다 비판적 사고를 촉진하는 데 목표를 둬야 한다”며 “다양한 유형의 AI 발전과 사용을 규제하는 국제 조약을 채택하기 위해 국제 공동체가 힘써 주기를 권고한다”고 했다.

교황의 새해 담화는 AI가 바꿔놓을 인간과 사회 모습을 조망한 한국경제신문의 신년 시리즈 ‘디지털 휴이넘이 온다’와도 맥이 닿아 있다. AI는 일하는 방식부터 정치·사법 체계에 이르기까지 우리 사회의 모든 부분을 바꿔놓을 수 있는 화두다. 빠른 기술 발전에 감탄하는 것을 넘어 새로운 시대에 대한 고민이 필요한 시점이다.

기술 경쟁도 중요하지만, AI를 개발하는 사람에 대한 고민이 선행돼야 한다는 가톨릭교 신년 메시지를 곱씹어봐야 할 것 같다.

▶ 클래식과 미술의 모든 것 '아르떼'에서 확인하세요
▶ 한경 창간 60주년 구독신청 사은품 보기