[파고들기]생성형 AI가 온다…"AI 콘텐츠 80% 성 산업·범죄에 활용"
| ▶ AI 콘텐츠가 몰려온다 |
| ① 뇌가 흥분한다…AI가 노리는 '일자리' ② 영화·드라마·책으로 보는 AI 시대 재구성 ③ 자가발전하는 AI와 공존할 수 있을까 |
이씨는 "조만간 진짜 사람이라고 생각할 정도로 정교한 AI 실사 이미지가 나올 것 같다"며 "가상 공간에서 사람과 이미지가 구분되지 않을 수도 있겠다"고 말했다.
이른바 AI 가상 모델이다. 화보와 영상물을 통해 인간 모델을 배제하고 이를 고도로 학습한 AI가 클라이언트로부터 요구받은 특정의 모델을 정교하게 대량으로 양산할 수 있을 전망이다.
청바지 브랜드 리바이스는 최근 AI 모델을 도입하기로 하고 다양한 인종의 AI 모델에 자사 제품을 착용한 이미지를 공개했다. 리바이스는 디지털 패션 스튜디오 라라랜드닷에이아이와 협력해 AI 모델의 완성도를 높여나간다는 계획이다.
이 회사는 패션산업이 지구 전체 탄소배출량의 10%를 차지하는 온실가스를 배출하고 있다며 이를 개선하기 위한 탄소중립이라는 데 방점을 찍었지만 당장 패션 모델과 사진작가, 미용, 촬영 스탭 등 패션화보를 둘러싼 산업계는 일자리의 위협을 받게 됐다. 반면 데이터 엔지니어나 시각화를 위한 비주얼 디자이너 등의 수요는 증가할 전망이다.
"AI 활용 콘텐츠의 80% 성 산업·범죄에 활용"
미국 연방수사국(FBI)은 최근 AI를 이용한 포르노물 제작에 대해 경고 메시지를 내놨다.
누구나 생성형 AI를 쉽게 이용할 수 있게 되면서 사진과 영상을 조작해 성적인 콘텐츠를 만드는 '딥페이크'가 증가하자 이를 경고하고 나선 것이다. 이같은 피해자의 다수는 미성년자였다.
FBI는 4월 이후 SNS(소셜미디어)나 줌 등 화상채팅 사이트에서 자신의 이미지나 영상을 불법으로 캡처한 포르노물이 유포되고 있다는 신고가 급증했다고 밝혔다. 페이스타임, 줌 등 화상채팅에서는 AI로 만든 여성이 등장하거나 목소리 대화형 AI를 이용해 금품을 요구하는 경우도 있다. 이른바 '로맨스 스캠'(Romance Scam)이다.
사이버범죄 전문가인 조지아주립대 데이비드 마이몬 교수는 '더 애드보카트'에 "생성형 AI 도구는 더 발전해 영상 품질과 직접 대화까지 가능한 수준이 높아질 것"이라며 "AI와 실제를 구분하는 것은 시간이 갈수록 더 어려워질 것"이라고 말했다.
대화 생성형 AI 챗봇 '챗GPT'를 개발한 오픈AI의 미라 무라티 최고기술책임자(CTO)도 시사주간지 '타임'에 "챗GPT를 처음 내놓았을 때 이렇게까지 큰 열풍이 불 것이라고는 예상하지 않았다"며 "높은 인기는 일부 윤리적 문제를 불러일으켰다. 이 기술이 가져올 영향을 고려할 때 다양한 전문가들의 목소리뿐만 아니라 규제 기관과 정부의 참여가 필요하다"고 강조했다.
오픈AI는 최근 사람 데이터를 이용해 아동 착취물과 같은 불법 포르노물이나 노골적인 성적 콘텐츠 생성을 금지하는 새로운 규칙을 시행했다. 그러나 다크웹과 같은 음성적인 공간에서는 이미 성적 콘텐츠와 가짜뉴스가 대량으로 만들어지고 유통되고 있는데다 만드는 노하우까지 공유하고 있다.
프란치스코 교황의 고가품 브랜드의 흰색 패딩과 트럼프 전 미국대통령의 경찰 체포 사진을 AI로 조작해 화제가 되는가 하면 펜타곤·백악관 폭발 AI 가짜뉴스는 미국 증시를 흔들 정도로 엄청난 파장을 일으켰다.
성 산업도 앞 다퉈 AI 콘텐츠 시장에 뛰어들고 있다.
'뉴욕포스트'는 실제 사람처럼 보이고 말하고 메시지를 교환하는 생성형 AI 포르노 배우가 미국 포르노 산업의 새로운 개척자로 떠오르고 있다며 관련 산업을 변화시키고 있다고 보도했다.
이미지 생성형 AI 미드저니(Midjourney)를 활용해 성인물 소비자들의 선호도를 기반으로 만든 AI 포르노 배우 이미지가 공개되기도 했다.
정동선 한양대 창의융합교육원 교수는 한국콘텐츠진흥원이 주관한 포럼에서 "AI를 활용한 콘텐츠의 80%가 성산업이나 범죄 등에 활용되고 있다"며 "사진, 영상, 목소리, 그림은 물론 인간의 뇌와 감정을 자극하는 시도가 계속되고 있다"고 지적했다.
정 교수는 이어 "진짜와 가짜의 구분이 어려운 AI가 나오고 있다"며 "글을 쓰고 책을 쓰는 챗GPT, 노블AI 등 데이터만 있으면 창작을 거뜬히 해내는 생성형 AI가 세상을 혁명적으로 바꾸고 있다"고 시사했다.
AI의 일자리 대체 또는 협업은 시작됐다
산업계는 이미 고비용 단순 업무를 대체하기 위한 AI와 로봇을 적극 도입하고 있다.
독일 유력 일간지 '빌트'(Bild)는 다양한 편집 작업을 AI로 대체할 계획이다. 빌트를 소유한 독일의 초대형 미디어 재벌인 악셀 슈프링어 그룹은 최근 직원들에게 보낸 이메일에서 "안타깝게도 디지털 세계에서 AI 및 자동화된 프로세스에 의해 수행되는 작업을 하는 동료들과 결별하게 될 것"이라고 말했다 .
AG 그룹의 최고경영자(CEO)인 마티어스 되프너는 "챗GPT와 같은 AI 도구가 독립 저널리즘을 이전보다 더 좋게 만들거나 대체할 수 있을 것"이라고 말했다.
경쟁지인 '프랑크푸르트 알게마인'(FAZ)도 최근 직원들에게 보낸 이메일에 "편집자, 인쇄 제작 직원, 보조 편집자, 교정자 및 사진 편집자의 역할은 더 이상 오늘날처럼 존재하지 않을 것"이라 "완전한 디지털미디어 회사가 될 것"이라고 공언했다.
이처럼 출판 분야에서는 AI를 활용한 인적 쇄신에 돌입하는 모양새다. 당장 출판 편집과 인쇄제작 직군의 근로자들이 대거 일자리를 잃게 될 전망이다.
우리가 생성형 AI의 흥미로운 답변과 창작물에 감탄하는 사이 AI 콘텐츠는 수 많은 일자리를 위협하고 있고 그 속도는 바둑AI '알파고'의 파급효과를 넘어서고 있다.
이세돌 9단과 알파고의 세기의 대결로 AI가 미칠 파급력에 전 세계가 놀라던 2016년 한국고용정보원이 인공지능과 로봇기술 등을 활용한 자동화에 따른 주요 직업군 400여 개의 직무 대체 확률을 분석한 결과는 지금과는 정반대였다.
영국 옥스퍼드대 칼 베네딕트 프레이와 마이클 오즈번 교수가 제안한 분석 모형을 활용한 결과 '지각 및 조작' '창의적 지능' '사회적 지능'이 필요한 직무는 AI와 로봇이 대체하기 어려운 것으로 판단했다.
당시 고용정보원은 AI와 로봇으로 인해 대체 확률이 낮은 직업으로 화가 및 조각가, 사진작가, 작가, 작곡가, 만화가 등을 선정했다. 그러나 세계적인 사진전(SWPA)과 미술 공모전에 AI가 생성한 창작물이 우승하고, 챗GPT는 소설을 쓰거나 작곡도 할 수 있다. 현재 중국 게임업계에서는 AI의 등장으로 일러스트레이터의 일자리가 이미 70% 감소했다는 보도가 나오고 있다.
협업과 일자리 대체를 놓고 산업계와 창작자 간 논쟁이 이어지고 있지만 이미 AI를 활용한 책이 출간되고 다양한 분야에서 창작물 제작 시도가 계속되고 있다.
일본에서는 앞선 2020년 '철완아톰' '정글대제'로 유명한 전설적 만화가 데즈카 오사무(1928~1989)의 작품 130여 편을 AI에게 학습시켜 그의 가상 신작인 '파이돈'을 출시해 화제가 됐다. 다만 당시 기술적 한계에 부딛혀 30페이지 분량도 채 안 돼 '한참 부족하다'는 평가를 받았다.
최근 획기적인 생성형 AI의 등장으로 창작 업계는 새로운 기회이자 고민이 교차하고 있다.
'공포의 외인구단'으로 유명한 만화가 이현세 화백은 AI를 활용한 창작을 적극 옹호한다. 자신의 초기작부터 44년간 그려온 작품들을 AI에 학습시켜 자신의 그림체를 구사할 수 있도록 하는 도전을 하고 있다.
이 화백은 동아일보와의 인터뷰에서 "젊은 시절 나의 힘 있는 선으로 최근 작품을, 현재 나의 원숙한 그림체로 초창기 작품을 그리면 어떨지 욕심이 났다"면서 "AI에 내 그림을 학습시키면 '불멸' '영생' 할 수 있는 셈"이라고 밝혔다.
반면 웹툰 '신과함께 돌아온 기사왕님'이 AI로 만들어졌다는 논란이 제기되며 이용자들의 반발이 커졌다. 이에 국내 최대 웹툰 플랫폼인 네이버웹툰과 카카오엔터는 자사 공모전에 사람이 직접 그린 웹툰만 출품하도록 하거나 생성형 AI 활용 출품을 제한하는 규정을 부랴부랴 신설하기도 했다.
컴퓨터 작업처럼 AI·로봇을 도구로 활용하는 창작자의 협업 실험과는 별개로, 인간의 데이터를 학습한 AI가 만들어낸 창작물에 비용을 지불할 만한 가치가 있느냐에 대한 콘텐츠 소비자의 시선이 엇갈리고 있다.
웹툰 플랫폼 업계 한 관계자는 CBS노컷뉴스에 "복잡한 작업을 단순화하기 위해 웹툰 제작에 AI를 활용하는 것은 추세"라며 "어디까지 창작물로 인정할 것인가에 대한 사회적 논의가 시작됐다고 봐야 할 것"이라고 말했다.
AI 스토리메이킹 툴킷 '아나트' 개발사 이크림 김선엽 대표는 콘진원 포럼에서 "창작이라는 작업의 전통적인 패러다임이 바뀌고 있다"며 "기존 1인 창작 방식에서 보조자(보조작가)인 AI를 활용한 협업 창작, 인간-AI 공동창작 시스템으로 바뀌어갈 것"이라고 전망했다.
- 이메일 :jebo@cbs.co.kr
- 카카오톡 :@노컷뉴스
- 사이트 :https://url.kr/b71afn
CBS노컷뉴스 김민수 기자 maxpress@cbs.co.kr
▶ 기자와 카톡 채팅하기▶ 노컷뉴스 영상 구독하기
Copyright © 노컷뉴스. 무단전재 및 재배포 금지.