인권보고서에 AI가 만든 사진 쓴 앰네스티, 왜 걸렸나 봤더니

콜롬비아 국기 색깔 순서 틀려

국제인권단체 앰네스티가 2021년 콜롬비아 반정부 시위 때 인권탄압을 고발하기 위해 소셜미디어 등에 올린 인공지능 생성 이미지. 인공지능이 생성한 허구의 이미지로 밝혀졌다. 앰네스티 인터내셔널 누리집 사진

국제 인권단체 ‘앰네스티 인터내셔널’이 인공지능(AI)로 생성한 이미지를 인권 보고서에 담아 논란을 불러왔다. 지난해 11월 생성형 인공지능인 챗지피티(ChatGPT)가 등장한 뒤 본격화된 이 기술의 사용 범위를 둘러싼 논란에 기름을 부을 것으로 보인다.

영국 <가디언>은 2일 국제 인권단체인 ‘앰네스티 인터내셔널’이 지난 3월 ‘콜롬비아 인권보고서’를 발표하며 2021년 발생한 반정부 시위와 관련해 인공지능이 생성한 사진을 사용했다고 전했다. 앰네스티가 사용한 사진을 보면, 젊은 여성이 무장한 경찰에 끌려가는 모습을 확인할 수 있다. 지난 반정부 시위 때 만연했던 경찰의 인권 탄압을 고발하려는 메시지를 읽을 수 있다. 당시 시위에서 경찰 등 공권력의 과잉 대응으로 최소 38명의 시민들이 숨졌다.

하지만, 사진을 자세히 보면, 사진의 전반적 색조가 어색하고 이미지들이 휘어 보이다. 특히, 연행되는 여성이 입은 옷은 노랑·빨강·파랑으로 구성된 콜롬비아 국기를 상징하는데, 순서가 빨강·노랑·파랑으로 틀리게 돼 있다. 경찰의 제복 역시 지금과는 다른 구식이다. 결국 이 사진은 인공지능이 생성한 가짜 사진으로 확인됐다.

앰네스티는 이 논란에 대해 이전 보고서엔 진짜 사진을 사용했지만, 정부의 보복으로부터 사진에 나오는 사람들을 보호하기 위해 인공지능이 생성한 사진을 사용했다는 취지로 답했다. 실제, 이 사진과 관련한 오해가 발생하지 않도록 인공지능이 생성한 사진임을 알리는 설명을 달았다. 하지만, 가짜 사진을 사용했다는 논란이 커지자 이를 모두 삭제했다.

신문은 “사진 기자들과 언론 학자들이 인공지능이 생성한 사진을 쓰는 게 앰네스티의 해온 여러 업적을 약화시키고, 음모론에 힘을 실을 수 있다고 경고했다”고 꼬집었다. 에리카 게바라 로사스 앰네스티 남미 담당 국장도 <가디언>에 “우리는 이 문제와 관련된 비판을 진지하게 받아들인다”며 “이런 기술을 사용할 때 발생하는 윤리적 문제들과 관련한 우리의 역할에 대해 대응해 나갈 것”이라고 말했다.

<가디언>은 나아가 허위정보 퇴치 운동을 하는 단체인 ‘뉴스가드’를 인용해 언론인을 위장한 인공지능 챗봇이 운영하는 영어·중국어·프랑스어 등 7개 언어로 된 49개의 콘텐츠 사이트를 발견했다고 전했다. 신문은 이들 사이트가 누리집에 정치·건강·환경·금융·기술 등과 관련된 콘텐트를 다량으로 올리며 수익을 위해서 광고를 뒤섞은 내용들을 확산하고 있다고 전했다. 맥켄지 사데히 뉴스가드의 연구원은 “일부 사이트는 하루에 수백개의 기사를 발간한다”며 “이 콘텐츠 중 일부는 허위 사실이나 인공지능의 특징인 단조로운 언어와 반복적인 구절로 채워져 있다”고 말했다.

게다가 이 사이트 가운데 절반은 명확한 소유자나 통제 기록도 확인할 수 없어 스스로 작동하고 있다는 우려가 커지고 있다. <가디언>이 운영자와 접촉할 수 있었던 것은 오직 4개 사이트 뿐이었다. 이 가운데 하나인 ‘파마딜로닷컴’(Famadillo.com)은 “더 이상 읽히지 않는 오래된 기사들을 편집하려 인공지능을 사용했다”고 밝혔고, ‘겟인투날리지닷컴’(GetIntoKnowledge.com)은 “극도로 필요할 때에 자동화”를 사용했다고 인정했다.

정의길 선임기자 Egil@hani.co.kr