"AI가 투명? 착시효과…기술 이해 기반한 AI 리터러시 필요"

[AI가 지워선 안 될 사람들] ⑨ 이종임 문화사회연구소 이사
숏폼 넘기듯 AI 결과물 인지하는 시대, '빨리 내가 원하는 것 얻어내기'에 매몰
"과정은 알 필요 없어지는 '블랙박스화'…AI 기술 투명하다고 느끼게 만들어"
"AI 리터러시, 기술에 대한 이해부터 우선돼야…AI는 지구적인 이슈"

[미디어오늘 윤유경, 김예리, 노지민, 정민경 기자]

▲AI를 구현한 이미지. 사진=Getty Images Bank

지난 6일 서울국제도서전이 소설가 김연수와 인공지능(AI)이 공동 작성한 주제글을 발표하면서 논란의 중심에 섰다. 종이책을 중심으로 전시하고 판매하는 도서전에서 AI로 주제글을 쓰는 건 납득할 수 없다는 비판이 제기되면서다. 2023년 5월엔 네이버 웹툰 '신과 함께 돌아온 기사왕님'의 작가가 AI를 작화 일부에 활용한 사실이 알려지자 독자들이 반발했다. 독자들은 평점을 낮게 주는 '별점 테러'로 AI 활용에 대한 거부감을 드러냈다. 같은 해 네이버 웹툰 아마추어 플랫폼에선 'AI 웹툰 보이콧 운동'이 벌어지기도 했다. AI가 기존 그림을 무단 도용하고 있다는 이유였다.

AI를 바라보는 소비자들의 마음은 다소 복잡하다. 일상적인 대화부터 업무 처리까지, 일상에서 AI를 활발하게 활용하면서도 특정 영역에선 AI에 대한 거부감을 표출한다. 빠르게 AI 기술을 접하고 배우지만, AI가 내 영역을 대체할 수도 있다는 불안감과도 공존하며 살아간다. 미디어오늘은 지난 13일 이종임 문화사회연구소 이사를 만나 AI의 소비 흐름에 대해 이야기했다. 이 이사는 신기술을 빨리 습득하는 데만 매몰된 AI 소비 흐름을 꼬집으며, 기술에 대한 이해를 기반으로 한 AI 리터러시가 필요하다고 짚었다. 인터뷰는 일문일답으로 재구성했다.

▲ 미디어오늘은 지난 13일 오후 서울 광화문에서이종임 문화사회연구소 이사를 만났다. 사진=본인 제공.

AI로 인한 결과물, 마치 숏폼 넘기듯 인지하는 시대

-AI가 일상에 빠르게 침투하고 있다. 이용자들의 AI 소비 흐름에 대해 어떻게 보나.

“'AI를 미디어로 봐야 하는 거 아니냐'는 말이 생길 정도로 사람들이 4~5개의 생성형 AI 플랫폼을 이용하는 시대가 됐다. 특히 오픈AI 이후 많은 이용자가 생성형 AI를 경험하게 됐고, 그 과정에서 저작권에 대한 개념, 데이터에 대한 인식 등 관련 교육은 누락됐다. 그보단 빨리 기술을 습득해서 기술에 능동적인 이용자가 되는 게 지금의 화두가 되어버렸다. 창작자의 창작 노력과 원본의 가치를 고려하기 보다는 우선 AI를 통해 내가 원하는 것을 얻어내는 데 더 집중하게 됐다.”

-AI로 인해 소비와 창작의 경계가 흐려지는 것 같다.

“무의식적으로 '나도 창작자'라는 감각을 느끼게 해주는 게 생성형 AI의 상호작용성이다. 예를 들어, 내가 AI를 존중하면서 말하면 존중하는 대답을 하고, 내가 불친절하게 말하면 불친절한 말로 답한다. 피드백의 과정에서 내가 통제할 수 있다는 느낌을 들게 하는 것이다. 불을 지핀 게 '지브리 밈'이다. 지브리 스튜디오의 상징 자본 가치가 개인의 것이 될 수 있게끔 생성형 AI가 매개적인 역할을 했다.”

▲챗GPT가 지브리풍 이미지를 만들고 있는 모습. 챗GPT를 통해 생성한 AI 이미지.

-AI 활용으로 창작의 가치가 훼손되고 있다는 위기감도 크다.

“일종의 '블랙박스화'라고 생각한다. 내가 정보를 넣으면 원하는 걸 얻을 수 있기 때문에 '내가 가지고 있는 정보의 가치나 과정을 생각하는 게 의미가 있나?'라고 여기게 된다. AI마다의 특징에 맞춰 원하는 정보를 얻어내면서, 수많은 사람들이 협업하는 창작의 수고로움을 볼 기회도, 필요도 없게 됐다. 챗GPT로 훨씬 합리적이고 효율적인 정보를 얻을 수 있는데, 오히려 (저작권과 창작의 가치를 주장하는) 창작자들 이야기가 방해가 되는 것 같은 느낌이 드는 것이다.”

-'블랙박스화'된다는 의미를 더 구체적으로 설명한다면.

“입력하면 결과물이 나오니까 그 과정은 알 필요가 없어지는 거다. AI 기술이 투명하다고 느끼게 만드는 착시효과다. BBC에서 AI 플랫폼 네 개를 활용해 한 달 동안 테스트를 한 적이 있다. 키워드로 질문을 넣으면 해당 키워드 관련 BBC의 보도를 AI가 요약 정리했는데, AI는 BBC에서 쓰지 않은 단어를 썼다고 답했다. 그 단어를 쓰는지 안 쓰는지에 따라 굉장한 차이가 있는 수준이었다. 그러나 사람들은 이런 디테일보다는 AI로 인한 결과물을 마치 숏폼을 넘기듯이 인지한다. 텍스트로서의 정보라기보단, 그 자체도 이미지로 느끼게 되는 것이다. 이런 점들을 포괄하면 일종의 착시효과, 블랙박스화되고 있는 것 같다는 생각이다.”

AI 리터러시, 기술에 대한 이해부터 우선돼야

-기업에서 AI를 무분별하게 도입하고 있다는 비판도 나온다.

“우선 AI를 쓰고, 문제가 생기면 그때 해결하고자 하는 기술 수용 방식이 똑같다. 예를 들어 성우, 번역, 시나리오, 게임 등 창작의 분야는 다양한데 AI를 도입하는 방식은 획일화되어 있다. 획일화를 통해 내가 원하는 걸 더 빨리 보여주는 방식으로 가다보니, 대중들은 창작자들의 이야기에 더 동의하기 어려워진다. 창작의 가치를 보장해달라는 요구임과 동시에 관련 협의 후에 기술이 도입되어야 한다는 건데, 'AI를 사용하지 말자'는 걸로 들리는 거다. 기업에서 계속 AI를 쓰라고 하면서 마치 사람의 창작에 의해서만 만들어진 것처럼 AI 활용 표시를 안 하는 것도 모순적이다.”

-창작자의 AI 활용에 대해 거부감을 표출하는 소비자들도 많다. AI를 허용하고 거부하는 영역의 경계는 무엇일까.

“자신이 수행하는 것과 전문가가 수행하는 것에 대한 평가는 이중적이다. 해외 게임 시상식 '인디 게임 어워즈'에서는 AI를 사용한 게임에 대한 수상을 취소한 사례가 있다. 도서전과 웹툰 사례에서도 알 수 있듯, 책도 구매해야 하고 웹툰도 유료로 보는 상황에서 사람들은 자신이 향유하는 예술이나 문화에 대해 완성도를 기대한다. 그렇지만 자신이 기술을 활용해 정보를 수집하거나 창작하는 과정은 개인의 노력에 기반한 완성품이기 때문에 중요하지 않다고 생각하는 것 같다. 유료 콘텐츠나 예술이라고 생각하는 작품에 대한 기대치는 여전히 기술이 개입하지 않고 인간이 구성한 바를 기대한다. 모순적이지만 이후 인간 창작 작품이 갖고 있는 가치를 논할 때는 장점이 될 수 있지 않을까 생각되기도 한다.”

-'AI 리터러시'란 단어도 사용되고 있다. 'AI 리터러시'를 위해선 무엇이 필요하다고 보나.

“기술에 대한 이해부터 우선돼야 한다. AI를 활용해 많은 양의 정보를 효율적으로 활용할 수 있다는 측면도 있지만, 미디어보다 더 강력한 편향성이나 개인정보 유출, 창작자에 대한 저작권 침해, 빅테크 기업의 엄청난 권력 등 다양한 측면에 대해 가르쳐야 한다. 생태학적 측면에서도 얘기할 거리가 많다. AI는 물질적인 것에 기반해 만들어지고 사용된다. AI 데이터센터에서는 엄청난 양의 물, 희토류, 광물을 사용한다. 구체적으로 실재하는 존재임에도 마치 AI는 디지털 공간에서 알아서 만들어지는 것처럼 생각된다. AI 리터러시는 기존의 미디어 리터러시와는 다른 형태의 교육이 필요하다. AI는 이용자들의 개인적인 부분까지 포괄하는 지구적인 이슈이다.”

▲인공지능 챗봇 이루다.

-성평등적 측면에서 젠더 관점의 AI 리터러시가 필요하다는 지적도 나온다.

“20대 대학생 여성을 이미지화했던 AI 챗봇 '이루다'도 이미 만들어진 데이터를 활용하며 차별을 학습했기에 문제가 됐다. 책 '구글은 어떻게 여성을 차별하는가'(사피야 우모자 노블)에서는 차별적인 검색 알고리즘을 지적했는데, 이러한 방식이 확장돼서 AI까지 왔다. 그러나 AI는 투명하다고 믿는 착각, 착각하게끔 만드는 상황이 너무 크다.”

-소비와 창작 사이에서 AI와 공존하기 위해선 어떠한 논의가 더 필요하다고 생각하나?

“내가 프롬프트에 키워드를 입력할 땐 나의 정보가 같이 들어간다. 공짜가 아니라, 내 개인정보를 계속 넣기 때문에 결과물이 나온다. 계속 자신을 투자하게 하는 방식을 AI가 가속화킨다는 걸 알아야 하고, 새로운 기술을 활용할 때의 장단점을 생각하며 써야 한다. 10대들의 AI 활용 방식에 대한 우려도 있다. 넷플릭스 드라마 '소년의 시간'에서 SNS의 영향을 말한 것처럼, AI는 가치관을 형성하고 세계를 이해하는데 영향을 미치는 도구이기 때문에 관련 기술에 대한 이해가 있는지 여러 논의가 필요하다. 빨리 사용해서 정보를 습득하자는 데만 집중하지 말고, AI 기술이 삶에 유입되는 과정에서 나타나는 변화들에 대한 이야기가 다양하게 이뤄져야 한다.”

-저널리즘에서 AI를 사용할 때 유의할 점은 무엇이 있을까.

“벌어지고 있는 사건과 상황을 전달할 때는 기사의 사진이나 이미지가 어떤 역할을 할 것인가 고민해야 한다. 현장을 취재할 때 객관성, 독립성, 취재원에 대한 인권 보호 등을 다 판단하는 게 기자의 역할이자 윤리인데, AI를 활용하면 그 경계가 무뎌진다. AI 이미지 자체가 나른하다고 생각한다. 어떠한 방향성이 느껴지지 않는다. AI 이미지를 사용했을 때 뉴스가 지향하는 가치가 더 좋아지지는 않는다고 본다. AI 이미지 활용에 대해 내부적으로 구체화된 가이드라인을 만들어야 한다