[스프] AI가 만들어낸 이미지의 위협, 과연 막을 수 있을까

뉴스페퍼민트 NewsPeppermint

"한국에는 없지만, 한국인에게 필요한 뉴스"를 엄선해 전하는 외신 큐레이션 매체 '뉴스페퍼민트'입니다. 뉴스페퍼민트는 스프에서 뉴욕타임스 칼럼을 번역하고, 그 배경과 맥락에 관한 자세한 해설을 함께 제공합니다. 그동안 미국을 비롯해 한국 밖의 사건, 소식, 논의를 열심히 읽고 풀어 전달해 온 경험을 살려, 먼 곳에서 일어난 일이라도 쉽고 재밌게 읽을 수 있도록 부지런히 글을 쓰겠습니다. (글: 이효석 뉴스페퍼민트 대표)

 

인간은 자신이 이해하지 못하는 새로운 기술에 늘 두려움을 느꼈습니다. 그 기술이 자신을 위협하는 존재가 될 때 두려움은 배가 됩니다. 메리 셸리의 '프랑켄슈타인'이 출간된 것은 기계가 인간을 대체할 수 있다는 두려움이 팽배하던 러다이트 운동으로부터 겨우 몇 년이 지난 시점이었습니다. 과거 신비주의와 마법의 시대에는 골렘이 두려움의 대상이었습니다.

이런 의미에서 지난 몇 년간 급격하게 발전한 인공지능은 인간의 가장 근본적인 특징인 지능을 흉내 낸다는 점에서 그 자체로 공포의 대상일 수밖에 없습니다. 무엇보다도 최근 가장 많은 관심을 받는 거대언어모델(LLM)은 인간과 거의 비슷한 수준으로 언어를 사용한다는 점에서 사람들의 두려움을 더욱 자극하고 있습니다. 언어를 통해 인간은 서로 생각을 나누고 전달할 수 있습니다. 그래서 언어야말로 인간이 다른 종과 달리 문명을 만들 수 있게 만든 인간의 가장 구별되는 능력이라 많은 이들이 생각합니다.

인공지능의 급격한 발전은 인공지능이 언젠가 스스로 의지를 가지게 되면, 예를 들어 지구가 직면한 심각한 기후 위기로부터 스스로를 보호하기 위해 인류를 멸종시키려 할지 모른다는 두려움으로도 이어집니다. 그러나 이런 우려는 인공지능 기술이 아직은 인간이 자신의 특정한 목표를 위해 사용하는 도구일 뿐이라는 점에서 현실과는 맞지 않습니다.
 

인공지능이 가져온 또 다른 위협

하지만 인공지능이 인간의 문명을 위협할 가능성은 전혀 다른 곳에서 나타납니다. 바로 생성 AI가 만들어 내는 사실이 아닌 이야기와 이미지들입니다. 인간의 문명은 현실을 모사한 언어와 이미지에 의해 지탱되고 있기에 이는 큰 문제가 될 수 있습니다. 예를 들어, 사실이 아닌 내용을 사실처럼 그럴듯하게 이야기하는 언어모델이나 현실과는 전혀 다른 내용을 실제 사진으로 만들어 내는 이미지 모델은 매우 쉽게 가짜뉴스를 만들어 냅니다.

물론 과거에도 허구와 조작된 이미지는 존재했습니다. 그러나 이들을 만들기 위해서는 상당한 시간과 노력이 필요했기에 사람들은 일상에서는 이를 걱정할 필요가 없었고, 심각한 경우에는 이들이 어떤 목적을 위해 조작된 것임을 짐작할 수 있는 감각을 키울 수 있었습니다. 하지만 생성 AI는 비교할 수 없이 적은 비용으로 거의 구별이 불가능한 가짜 현실을 무한정 만들어 냅니다.

이런 기술은 빠르게 대중화됐고, 기술이 가진 본래 속성상 이를 막거나 되돌리는 것은 불가능합니다. 한 가지 해법은 신뢰할 수 있는 매체에서 나온 이야기와 이미지만 믿는 것입니다. 그러나 이는 정보의 흐름이 파편화되고 민주화된 오늘날의 세상에서 제한적인 대안일 뿐입니다.

▶ 뉴욕타임스 칼럼 보기 : 인공지능 포토샵이 엄청나게 쉬워지면 무슨 문제가 생길까
[ https://premium.sbs.co.kr/article/cGJOVYKuk7 ]

그러나 적어도 이미지에 대해, 디지털 이미지 수정 프로그램의 역사라 할 수 있는 포토샵에서 한 가지 대안을 제시합니다. 바로, 이미지의 창작자와 수정 기록을 이미지에 메타 정보로 저장함으로써 진위를 파악할 수 있게 하자는 것입니다.

지난달 23일 뉴욕타임스의 IT 칼럼니스트 파라드 만주는 포토샵이 베타 버전으로 내놓은 생성 AI 기술인 파이어플라이를 소개하며, 포토샵이 이미지의 진위를 보증하기 위해 추진 중인 '콘텐츠 진위 이니셔티브(Content Authenticity Initiative)'를 같이 소개했습니다.

유튜브에서 '포토샵 AI'를 검색해 새로운 기능을 구경할 수 있지만, 만주가 직접 보여주는 예도 놀랍습니다. 그는 탁자 위의 새가 자기 손 위에 올라가 있는 매우 자연스러운 사진을 만들어 냈고, 뉴욕의 마천루 위에 떠 있는 기구 사진도 매우 사실적입니다. 이런 '사실적인 가짜 이미지'를 구별하기 위해 공동의 노력이 필요하다는 주장은 매우 설득력이 있습니다.

콘텐츠 진위 이니셔티브는 성공할 수 있을까?

콘텐츠 진위 이니셔티브는 두 단계로 나눌 수 있습니다.
[ https://helpx.adobe.com/kr/photoshop/how-to/secure-image-data-enable-content-credentials-photoshop.html ]

(남은 이야기는 스프에서)

심영구 기자so5what@sbs.co.kr