[인공지능의 두 얼굴] 챗GPT 창작 시대? "작가들에겐 '저주'가 될 수 있어"

[인공지능의 두 얼굴 (06)] 오영진 서울과기대 초빙조교수
"인공지능 창작 어려워, 기계적 '부스러기 노동' 대체 가능"
"마이클잭슨 신곡 내는 시대, 창작자들 과거 유산과도 경쟁해야"

[미디어오늘 박서연, 금준경 기자]

챗GPT가 소설과 시를 쓰고 웹툰을 그리는 시대가 온 걸까. 인공지능 기술을 탐구해온 인문학자인 오영진 서울과기대 융합교양학부 초빙조교수는 미디어오늘과 인터뷰에서 “'챗GPT, 나 대신 소설 써줘' 이런 일은 일어나지 않는다”며 “보조작가의 업무였던 예술 작업의 일부분인 기계적 반복에 해당하는 노동을 생성형 인공지능이 점령하고 있다는 건 사실”이라고 했다. 그는 '부스러기 노동'을 인공지능이 대신해주면 “오히려 인간은 과거보다 더 좋은 작품을 만들 가능성이 높아진다”고 했다.

오영진 조교수는 생성형 인공지능 기술이 창작자들에게 '저주'가 될 수 있다고 전망했다. “지금 이 시대의 다른 사람과 경쟁해야 하는데, 이제는 과거의 모든 유산과도 경쟁해야 한다”며 “(인공지능이) '작품을 써줘서'가 아니라 과거의 모든 유산을 생생하게 만드는 게 진짜 무서운 일”이라고 했다. 인공지능이 고인이 된 유명 가수의 음악을 학습해 다시 구현할 수 있는 상황에서 창작자들의 고충은 더욱 커질 것이라는 지적이다.

▲오영진 서울과기대 융합교양학부 초빙교수가 지난 21일 저녁 서울 서대문구 신촌동 연세대에서 미디어오늘과 인터뷰하고 있다. 사진=금준경 기자.

기술의 발전으로 '정서적 의존성'이 높아질 우려도 있다. 그는 의인화된 챗봇과 홀로그램으로 죽은 자녀를 구현한 다큐멘터리를 언급하며 “인간의 껍질을 씌우는 식으로 발달하고 있다”며 “인공지능이 사람처럼 느껴질 때, 지금 우리는 아직 보지 못한 부작용을 접할 수 있다”고 우려했다.

오영진 조교수는 한양대 국어국문학과를 나와 동대학 대학원에서 한국 현대시를 전공해 석사 학위를 받았다. 2014년 잡지 쿨투라에 문화평론가로 데뷔했다. 저서로는 '컴퓨터게임과 유희자본주의'(2016) '공감장치로서의 VR'(2017) '한국테크노컬처 연대기'(공저 2017) 등이 있다. 2015년부터 한양대 에리카캠퍼스에서 '소프트웨어와 인문비평' 과목을 개발해 '기계비평' 기획자로 활동했다. 한양대 겸임교수, 연세대 객원교수, 서울과학기술대학교 초빙조교수로 활동하고 있다. 오영진 조교수를 지난 21일 저녁 서울 서대문구 신촌동 연세대에서 만났다.

-챗GPT가 시나 소설, 웹툰 같은 콘텐츠 창작에 어떤 영향을 미칠 것이라고 보는가.

“가장 가시적인 건 '부스러기 노동'을 기계가 대신할 거라는 사실이다. 보조작가들과 같은 보조적 인력들이 대폭 고용될 필요가 없게 됐다. 웹툰에선 배경을 그린다거나 같은 캐릭터의 모습을 연속적으로 그리는 건 보조작가들의 일이다. 이처럼 예술 작업에서 반복적, 기계적 노동에 해당하는 행위들이 대체될 가능성이 높다. '인공지능이 인간에 육박하는 창의성을 가진다'고 말하는데, 그렇게 될 수도 있고 안 될 수도 있다. 모르는 문제다. 인간이 노동을 해왔던 반복적 노동 분야가 더 스마트한 기계로 대체 된다는 게 현실적 시나리오다.”

-챗GPT가 완결성 있는 콘텐츠를 만들 수 있나.

“자꾸 챗GPT가 시와 소설을 쓸 수 있다고 강조하는데 절대 아니다. '챗GPT, 나 대신 소설 써줘' 이런 일은 일어나지 않는다. 서사를 만들어내는 건 못 한다. 하지만 예를 들어 판타지소설을 쓴다고 할 때 소설에 나오는 상점의 목록, 내가 상상하는 어떤 지역에 대한 묘사, 간단한 대화의 생성 등 부분적으로 도움을 받을 수 있다. 성격이 다른 남녀가 티격태격하는 하나의 장면에서 다섯 줄 정도의 대화는 만들어 줄 수 있다. 부분 부분 기계가 생성해도 되는 구간들이 있다. 기존에는 '그 부분 대사 처리는 네(보조작가)가 좀 해'라고 하면 보조작가가 했는데 이제 AI가 하는 거다. 챗GPT가 예술을 한다고 생각하면 안 된다. 예술 작업의 일부분에서 기계적 반복에 해당하는 부분을 생성형 인공지능이 점령하고 있다는 거다.”

“오히려 인간은 챗GPT를 디렉팅하는 위치로 올라갔으니, 과거보다 더 좋은 작품을 만들 가능성이 높다. 이런 일(부스러기 노동)에 신경을 덜 쓰게 되니까. 메타적 시선을 확보해 작업의 속도가 붙게 된다. 더 높은 추상성을 끌어낼 수 있다.”

▲작가들이 챗GPT3-5를 부분적으로 이용해 쓴 소설 매니페스토. 공동 저자에 챗GPT3-5 이름을 올렸다.

-창작의 개념이 '재정의'되는 건가.

“궁극적으로는 안 바뀔 것 같다. 인간 대신에 자동 창작하는 개념은 아니다. 자기 이름을 걸고 자동 창작을 시킬 수 있는 사람은 세상에 존재하지 않는다. 기자도 마찬가지다. 아무리 훌륭한 툴이라도 어떤 기자가 자동 창작으로만 기사를 쓰고 퇴근하겠나. 어떤 문제가 생길지 모른다. 결과적으로 책임을 질 수 있는 작업, 즉 돈을 받고 하는 작업은 자동 생성으로 하긴 어렵다. 따라서 과거의 창작개념은 유효하다. 오히려 수월해진 게 문제다. 작은 일들이 사라지는 건 기존 인간들에게는 안타까운 일이 될 수 있다. 한편으로는 그런 노동은 원래 안 해도 된다고 생각할 수도 있다. 보조작가들이 기계적 업무를 하는 게 아니라 더 창의적인 일부터 할 수 있게 되는 게 좋은 점이다.”

-예술 측면에선 어떤 변화가 만들어질까.

“'1인의 저자성'을 넘어서자는 관점이 나올 거다. 창작은 작가가, 영화는 감독이 있다. 인간의 내면과 추상적인 생각이 작품을 통해 반영되고, 이름을 남긴다. 이를 단독 저자성이라고 한다. 생성형 인공지능은 원리적으로 보면 여러 텍스트나 이미지를 관통해 훈련된 것이다. 인간이 프롬프터(대화형 AI에서 더 정확한 검색 결과를 얻기 위해 적절한 입력값을 찾아내는 직업)로 명령을 내릴 때 조차도 결국 챗GPT가 관통하는 건 과거 데이터의 흔적들이다. 프롬프터가 아무리 잘난 척을 해도 본인이 다 쓴 게 절대 아니라는 거다. 본인이 썼을 때 독특해진다고 주장할 수 있지만, 본인 플러스 기계 장치가 학습한 과거 인간의 모든 유산이 합쳐진 거다. 생성형 AI는 결국 작품이라는 건 위대한 하나의 작가가 만드는 게 절대 아니라는 것을, 수많은 자연의 객체들, 인간의 관계들, 역사가 만들어 내는 걸 너무나도 고스란히 보여준다. 오히려 창작의 본질에 돌아간다고 생각한다.”

-인공지능으로 번역해 책을 쓴 사례도 있다. 번역가의 일은 어떻게 변화할까.

“좋은 번역은 여전히 인간이 필요하다. 번역가들은 언어 너머로 보이지 않는 맥락을 파악하는 사람으로 포지셔닝하면 된다. 책은 언어로 만들어진 텍스트지만 언어만 읽는 게 아니고, 문화적 맥락을 다 포함해서 읽는 거다. (인공지능이) 상식적인 맥락은 읽어낼 수 있지만, 특수한 맥락은 읽어낼 수 없을 것이다. 언어 너머의 일을 하는 게 인간이 하는 일이 될 거다. 반대로 서구의 자료 중 번역 못한 원서들이 많다. 과거에는 돈이 드는 일이라 안 했지만, 이제 책임지지 않는 정도의 번역은 아마추어들이 할 수 있게 됐다. 지식의 습득에 있어 비영어권 예술가나 학자들에게는 축복 같은 일이라고 생각한다. 더 많은 공부를 하게 됐다.”

-이미지 생성 인공지능이 '현재의 작가와 과거의 작가 모두를 착취하고 있다'는 발언을 한 적 있다. 어떤 의미인가.

“지금 제가 사용하는 생성형 인공지능 개발에 우리도 한몫했다. 인터넷에 댓글 하나라도 썼다. 게시판에 글을 쓰고 기사를 썼다. 내 몫이 있는 거다. 하지만 저작권을 이야기할 수 없다. 인공지능은 신경망을 구성했다. 학습해서 끝난 거지 빼낼 수가 없다. 서브웨이 샌드위치는 재료를 뺄 수 있다. 반면 짬뽕같이 끓여 놓은 건 재료를 다시 못 뺀다. 생성형 인공지능은 짬뽕과 유사하다. 데이터를 추출하는 방식이 아니라 데이터를 관통해본 거다. 그래서 저작권을 주장하는 일은 허무맹랑한 이야기다. 결국 인공지능으로 인한 이익은 (개별 저작권이 아닌) 인류의 이익으로 환원하자고 하는 게 합당하다.”

“이는 인공지능 전에도 있었던 이야기다. 유럽에서는 내가 검색하고, 가담하는 것 자체가 네트워크 일원 즉 데이터 인권이라고 부른다. 내가 하는 검색 노동이 네트워크를 강화시키고 광고 수익을 만들어 주는 행위다. 지금까지는 그 관계가 불평등했지만, 인공지능 시대에는 다시 논의해야 한다. 챗GPT에 질문을 던지는 것도, 우리가 다 공짜노동을 하고 있는 거다. 개발에 참여하는 거다. 유료로 이용하는 분들은 돈 내고 노동을 해주는 셈이다.”

-챗GPT를 활용한 수업도 하고 있다. 학생들은 챗GPT를 어떻게 받아들이고 있나.

“학생들은 챗GPT의 한계를 오히려 명확하게 안다. 학생이 아닌 어른들은 갑자기 기계가 글을 쓰니까 놀란다. 오히려 챗GPT에 대한 원리나 한계를 생각 안 하고 과대평가하는 경향이 있다. '글을 쓰는 AI가 나왔으니 기자가 필요 없나?'라는 과잉된 상상을 한다. 학생들은 챗GPT로 글을 쓸 때 시나리오 주인공 이름 결정할 때만 쓰거나, 특정 장면 날씨 묘사할 때만 쓴다고 저한테 말하더라. 매우 명확하게 사용법을 안다.”

▲오영진 서울과기대 융합교양학부 초빙교수가 지난 21일 저녁 서울 서대문구 신촌동 연세대에서 미디어오늘과 인터뷰하고 있다. 사진=금준경 기자.

-챗GPT에 대한 사회적 인식에 대해선 어떻게 생각하나.

“챗GPT 관련 우리 사회의 문제는 정확한 챗GPT 리터러시가 안 되고 있다는 점이다. 언론 보도가 그렇다. 제일 분개하게 되는 내용이 '챗GPT로 시와 소설을 쓴다고?' 식의 문장이다. 인간의 시의 미학이 고도화 되어 있다. 지하철역에 있는 시 정도도 못 쓴다. 다만 시를 교육하는 도구로는 쓸 수 있다. 어떤 시상을 전개하게 한 다음에 '에드가 엘런 포' 풍으로 바꿔봐. 이런 식으로 명령해서 습득하게 하는 거다. 같은 소재로 여러 작가들의 풍을 느껴볼 수 있는 거다. 챗GPT는 가상의 시뮬레이션 도구라든지, 아이디어 계산기 정도로는 굉장히 훌륭한 기계다.”

-챗GPT 리터러시에서 가장 중요한 대목이 뭘까.

“신경망의 구성원리를 은유적으로 표현하더라도 정확히 정리해야 한다. 챗GPT가 데이터를 공부해서 데이터를 빼 오는 애라고 표현하는 사람이 많다. 아니다. 방대한 데이터를 '경유'해본 거다. 경유해본 감각이 있는 애라고 표현하는 게 적절하다. 감을 가진 애라고 봐야 한다. 하나하나 한장한장 다 외우는 게 아니라, 한번씩 쑥 훑어서 확률적으로 연결하는 능력을 가진 것 뿐이다. 공부를 잘하는 사람은 통째로 암기하지 않는다. 패턴을 대강 이해한다. 하나의 패턴을 가지고 다른 곳에 응용하는 것이다. 챗GPT는 패턴의 왕이다. 답안지만 가지고 주구장창 외우는 애들도 있는데, 그게 검색 기계들이다. 검색은 어찌 됐든 있는 사실을 계속 빨리 내오는 기능인 거다.”

-챗GPT 등 생성형 인공지능 시대에 어떤 사회적 우려가 제기될 수 있나.

“기계를 의인화하는 방향으로 서비스가 개발되다 보니 기계 의존성이 생길 거다. 정서적 의존성, 기능적 의존성뿐만이 아니다. GPT가 전부터 훌륭한 기능이 있다고 알렸지만 채팅 형식으로 나오자마자, 채팅이 가지고 있는 의인화 환각이 발생하니 바로 (반응이) 폭발한 거다. 기술력이 아니라 인터페이스(사물과 사물 사이 또는 사물과 인간 사이의 경계에서, 상호 간의 소통을 위해 만들어진 물리적 매개체나 프로토콜)의 문제라고 이야기한다. 인간의 껍질을 씌우는 식으로 발달하고 있다. 정서적 의존성에 의지하고 있는 거다. 벨기에에서 기후 우울증을 가진 사람이 엘리자라는 챗봇과 대화하다 우울증이 심해져 자살한 일도 있다. 인공지능이 사람처럼 느껴질 때. 지금 우리는 아직 못 본 부작용을 볼 수 있다.”

-기술 변화의 시대에 '어떤 성찰'을 해야 한다고 생각하나.

“생성형 인공지능의 또 다른 경향이 과거의 희미해진 것을 '해상도를 높이는 방식'으로 보관하고 있다는 점이다. 이 흐름도 굉장히 강력하다. 이론상으로 죽은 나의 애인의 채팅을 다 긁어다가 애인 챗봇을 만들 수 있는 거다. 끔찍하면서 낭만적이다 .신해철, 김광석 팬미팅이 가능해질 거다. 희미해진 가족사진은 다 리마스터(아날로그 형식이었던 마스터(원본)를 디지털의 포맷으로 전환해 새로운 마스터로 만드는 과정) 된다. 해묵은 필름은 존재하지 않게 된다. 과거와의 무한 경쟁이 시작될 거다. 한편으로 엄청난 저주다.

-어떤 의미에서 저주인가.

”현대 크리에이터에게는 저주다. 지금 이 시대의 다른 사람과 경쟁해야 하는데, 과거의 모든 유산과도 경쟁해야 한다. 사람들이 음악을 들을 시간은 한정적인데, 역주행이 끊임없이 가능해지고, 해상도가 끊임없이 높아진다. 작가들에게 인공지능 기술이 진짜 무서운 건, '작품을 써줘서'가 아니라 과거의 모든 유산을 생생하게 만드는 점이다. 사실상 '유령'인데 그렇게 표현하지 않고 '30년 만의 감동적인 만남'이라고 하면 그럴듯해 보이는 거다. 콘서트 시장도 과거와 경쟁하게 될 거다. 나도 (인공지능이) 마이클잭슨의 신곡을 낸다면 들을 것 같다.”

▲2020년 2월6일 방영된 MBC VR휴먼다큐멘터리 '너를만났다' 프로그램에서 딸을 잃은 엄마가 VR로 아이를 만나는 모습. 사진=MBClife 유튜브채널 화면 갈무리.

-인공지능 기술이 사람을 그럴듯하게 구현하기도 한다. 이를 활용한 방송프로그램 가리켜 인공지능 기술이 희망 고문을 한다고 지적한 적 있다.

“MBC <너를 만났다> 같은 VR다큐를 저는 '귀신 만난 이야기'에 가깝다고 본다. 무당이 귀신을 불러오고 부모는 그걸 보고 우는 걸 디지털로 바꿔놓은 것 같다. 이처럼 디지털 기술을 이용한 유령 만나기가 일상화되겠다. 그러면 과거의 일을 끝내지 못하는 문제가 생긴다. 예를 들어 장례식을 하는 건, 3일 동안 울고 끝내라는 의미다. 사회적 규약이다. 우울증을 끊어낼 수 있는 사회적 합의다. 그러나 인공지능은 계속 울 수 있는 상황을 만드는 거다. 정서적으로 좋지 않은 문제인데, 이걸 지적하는 미디어 비평이 없었다.”

“앞으로는 죽은 누구를 잊지 못해서 AI 복원사에게 맡기고, 이 AI에 의지해 살아가는 어떤 남자의 이야기가 나올 수 있다. 지금도 사진 한 장에 의지해 평생을 살아가는 사람이 있다. 인공지능은 사람을 끝없이 울게 할 거다. 앞으로 AI 관련 정신 분석 상담가가 각광 받을 것 같다. 기계와 애착 관계도 고쳐줘야 하지, 과거와의 인연도 끊어 줘야 하지. 심리적인 문제라 인간 상담가가 필요하다. 이것마저 챗GPT가 할지도 모른다. 디스토피아인 거다.”

-인공지능 시대를 대비하는 차원에서 우리는 무엇을 해야 할까.

“기계 윤리라는 개념이 서야 한다고 생각한다. 기계를 기계답게 이해하는 일이다. 기계가 인간의 또 다른 외부화된 확장된 신체지만 동시에 인간을 다시 재설정 할 수 있는 존재라고 이해하는 일이라고 생각한다. 과거에는 기계를 이렇게 보지 않았다. 주종관계 도구적 관계 이상으로 넘어가지 않았다고 생각한다. 지금 생성형 기계들은 인간에게 영향을 끼치고 있다. 단순한 태도의 문제는 아니고, 기계의 원리를 쉽게 많은 사람이 알 수 있게, 기술 리터러시에 더해 자연 사물 객체를 그 자체로 바라볼 수 있는 인간 중심주의를 벗어나는 윤리까지 포함돼야 한다고 생각한다. 윤리의 개념이 바뀌어야 한다. 과거 윤리는 휴머니즘이었다. 그것도 매우 중요하다. 그래서 여기까지 온 건데, 이제는 기계가 이 관계에 들어오게 된 거다.”

용어설명

△프롬프터(Prompter) : 대화형 AI에서 더 정확한 검색 결과를 얻기 위해 적절한 입력값을 찾아내는 직업.
△디지털 리마스터링(Digital Remastering) : 아날로그 형식이었던 마스터(원본)를 디지털의 포맷으로 전환해 새로운 마스터로 만드는 과정.
△인터페이스(interface) : 사물과 사물 사이 또는 사물과 인간 사이의 경계에서, 상호 간의 소통을 위해 만들어진 물리적 매개체나 프로토콜.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]