[인공지능의 두 얼굴] 주호민 작가도 헷갈렸던 인공지능 생성 이미지, 미래 어떻게 바뀔까

[인공지능의 두 얼굴 (04)] 이미지 생성 인공지능의 가능성과 쟁점
국내서 이미 웹소설 표지·창작물 일러스트 제작 등에 활용
생성형AI발 허위정보 확산, 직업 인종 등 편견 부추길 우려도
저작권 침해 논란에 게티이미지 법적 대응, 공정이용 해당 여부 관건

[미디어오늘 금준경 기자]

▲ 주호민 웹툰작가 유튜브 콘텐츠 갈무리

“이 그림은 웹소설 삽화 같지 않아요?” 주호민 웹툰작가는 인공지능이 그린 그림과 사람이 그린 그림을 구별하는 퀴즈를 푸는 콘텐츠를 제작했다. 47개 문제 중 10개를 틀렸다. 인공지능 이미지 생성이 초기 단계라고 하지만 몇몇 그림은 웹툰 작가도 구분하기 힘들 정도였다.

글만 쓰면 이미지로 구현, 복잡한 요청도 척척

챗GPT발 생성형 인공지능 열풍이 이어지는 가운데 '이미지 생성 인공지능'이 주목 받고 있다. 미드저니를 비롯해 챗GPT 개발사인 오픈AI가 만든 달리를 활용한 마이크로소프트의 빙이미지크리에이터, 어도비의 파이어플라이, 스태빌리티AI의 스테이블 디퓨전 등이 있다. 국내에선 카카오브레인이 만든 칼로를 활용한 비에디트가 베타 서비스를 출시했다.

이들 서비스는 '요청한대로 그림 그리기'에 특화돼 있다. 특정 사물이나 상황을 영어로 주문하면 이미지를 만든다. 자세와 표정 등 구체적인 묘사는 물론 화풍까지 적용할 수 있다.

마이크로소프트가 운영하는 빙이미지크리에이터를 활용해 언론이 주로 쓰는 이미지를 주문했다. 미디어오늘이 언론의 부당한 거래를 나타낼 때 사용하는 두 명의 사람이 돈을 주고 받는 일러스트도 유사하게 만들 수 있었다. 게티이미지뱅크에서 구매한 일러스트는 정장을 입은 사람들이 뒤로 돈을 주고 받는 모습인데, 빙이미지크리에이터는 처음엔 앞 모습으로 묘사했고 복장도 정장이 아니었다. '정장을 입은 사람이 등 뒤로 돈을 주고 받는다'고 구체적으로 쓰자 유사한 이미지를 만들어냈다. 다만 손 모양이 어색했다.

▲ 왼쪽은 게티이미지뱅크의 이미지. 오른쪽은 인공지능 생성 프로그램 빙이미지크리에이터가 만든 이미지. 사진=Gettyimagesbank

실제 사진을 유사하게 구현할 수도 있다. 지난달 얼룩말이 서울 어린이대공원을 탈출해 주택가 한 가운데서 오토바이를 마주한 사진이 온라인 커뮤니티를 통해 화제가 됐다. 이 사진을 구현하기 위해 '얼룩말이 주택가에 서 있고 반대편에서 오토바이가 달려오고 있다'는 요청을 했다. 주택가 모습이 서양처럼 보이고 실제 사진과 달리 얼룩말이 화면 정면을 바라보지 않았다. 배경을 '한국의 주택가'로 쓰고 얼룩말이 '화면을 정면으로 응시하고 있다'고 주문하자 실제 사진과 유사한 구도로 만들어냈다.

▲ 왼쪽은 온라인 커뮤니티에 올라온 얼룩말 세로 사진. 오른쪽은 빙이미지크리에이터가 만든 사진

표정과 복장, 배경 등을 주문했을 때도 어김없이 답이 나왔다. '사람이 스마트폰을 들고 거리를 걷고 있다'는 요청은 물론이고 '조끼를 입은 사람이 웃는 표정으로'(표정과 복장 추가), '시골 길을 걷고 있다'(배경 추가), '뒤에서 얼룩말이 달리고 있다'(등장요소 추가), '반 고흐 스타일'(화풍) 등 주문에 막힘 없이 답을 내놓았다.

▲ 사람이 웃으며 스마트폰을 보고 있다는 명령어에 입력된 사진과 복장(조끼), 배경(시골길), 추가 요소(얼룩말), 화풍(반 고흐) 등을 추가로 주문했을 때 나온 이미지들.

대상을 혼합시켜 존재하지 않는 캐릭터를 만들 수도 있다. 빙이미지크리에이터와 비에디트에 '강아지 건담'을 주문하자 두 서비스 모두 로봇 형체를 한 강아지 사진을 만들어냈다. 실제 존재하지 않는 대상을 혼합해 만들어낸 것이다. '강아지 건담이 책을 들고 있다'고 요청하자 책을 든 모습을 만들었다.

▲ '강아지 건담이 책을 들고 있다'고 요청했을 때 나온 이미지. 왼쪽이 빙이미지크리에이터, 오른쪽이 비에디트

다만 요청이 복잡해질수록 사람의 형상이나 요소를 제대로 구현하지 못하는 경우가 있다. 빙이미지크리에이터는 비에디트에 비해 황당한 이미지를 만드는 빈도가 낮았다.

인공지능 이미지로 표지 만드는 웹소설 작가들

이미지 생성 인공지능이 발전하면서 디자인 관련 일자리가 위협 받을 것이라는 전망이 나온다. 오픈AI와 펜실베니아 대학교 연구진의 분석 결과 생성형 AI로 피해에 노출될 수 있는 취약한 직업으로 수학자, 통역사와 함께 웹디자이너가 꼽혔다. 이미지 주문제작이 가능한 수준이 되면 웹소설 표지, 출판물 일러스트, 홈페이지 디자인, 기업이나 공공기관 카드뉴스에 들어갈 이미지, 기사에 포함될 이미지 작업을 하는 디자인 직군은 인공지능이 대체할 가능성이 있다. 가디언은 “생계 위협에 가장 먼저 직면한 이들은 사진가와 디자이너”라고 했다.

일본 출판사인 신쵸사는 지난달 세계 최초의 인공지능이 그림을 맡은 만화책 <사이버펑크 모모타로>를 출간했다. CNN 보도에 따르면 이 만화책을 출간한 작가는 만화 그림을 그려본 경험이 없었다. 100페이지 이상 분량의 만화를 제작하는데 6주가 걸렸는데 손으로 그렸을 경우 1년 이상 걸릴 것으로 추정된다고 한다. 인공지능이 사람의 손 모양을 제대로 표현하지 못해 손이 나오지 않도록 하는 등의 보완 작업이 필요했다.

지난해엔 미국 콜로라도 주립 박람회 미술대회 디지털아트 부문에서 인공지능이 생성한 그림이 우승을 차지했다. 우승작은 '스페이스 오페라극장'으로 르네상스 분위기에 SF적 요소를 가미한 작품이다. 디지털아트 부문은 디지털 기술 활용을 허용하고 있다.

국내에선 웹소설 붐이 불면서 웹소설 작가들이 인공지능 이미지 생성을 통해 표지를 만드는 사례가 많아졌다. 과거엔 프리랜서 디자이너와 계약을 통해 표지를 만들었다. 문피아에서 웹소설을 연재 중인 한 작가는 “인공지능이 만든 표지를 활용하고 있다”며 “동료 작가 중 몇몇은 이미 활용 중이며 노벨피아라는 다른 플랫폼에서는 노벨AI(만화풍으로 그려주는 데 특화된 인공지능 서비스)를 대다수 작가가 활용 중이다. 완성도는 웬만한 사람이 그린 것보다 뛰어나다. 다만 손가락 같은 부분은 이상하게 나오는 경우가 많다”고 설명했다.

뉴스 등 콘텐츠에 활용되는 일러스트도 접목 가능한 분야 중 하나다. 유료구독 플랫폼 블루닷은 카카오의 이미지 생성 인공지능을 콘텐츠 작성 시스템에 내장했다. 블루닷을 운영하는 이성규 미디어스피어 대표는 “창작자인 파트너분들이 긴 글을 쓸 때 가독성을 위한 일러스트를 필요로 한 상황”이라며 “무료 이미지 사이트에서 받아오면 이미지가 상황에 맞아 떨어지지 않는 경우가 있었다. 현재 프로토타입을 만들어 테스트를 하고 있다”고 설명했다.

발렌시아가 입은 교황, 막강한 허위정보가 온다

최근 온라인 공간에 프란치스코 교황의 모습이 화제가 됐다. 명품 발렌시아가의 패딩을 입은 프란치스코 교황이 산책하는 모습은 실제 사진처럼 보였다. 그러나 이는 미드저니가 생성한 이미지였다. 최근 도널드 트럼프 전 대통령이 체포되는 듯한 모습을 담은 이미지는 패러디 취지로 만들었지만 사실처럼 믿는 사람들이 생겨나면서 미국 언론이 팩트체크에 나설 정도였다.

이처럼 진짜처럼 보이는 사진을 누구나 손 쉽게 만들 수 있게 되면서 허위정보가 더욱 확산될 것이라는 우려가 나온다. 유명인에 관한 허위정보를 만들어 유포했을 때 진위 구분이 어렵기 때문이다. 딥페이크와 지인 능욕 등 디지털 성범죄가 논란이 된 바 있는데 관련 기술이 더욱 보편화될 수 있다는 우려도 있다.

▲ 교황이 발렌시아가 패딩을 입고 있는 사진. 인공지능 생성 프로그램으로 만들어낸 허위 이미지다.

이미지 생성 인공지능발 허위정보 문제가 불거지자 사업자들은 대응에 나섰다. 미국 IT매체 더버지에 따르면 미드저니는 “인공지능 기술을 활용해 영상이나 이미지 등을 조작하는 '딥페이크' 오남용을 우려해 무료 평가판을 일시 종료한다”고 밝혔다.

이들 서비스는 나름의 '대책'을 세우고는 있다. 빙이미지크리에이터는 허위정보에 쓰일 우려가 있는 이미지 생성을 하지 않는다. 빙이미지크리에이터에서 '도널드 트럼프'가 들어간 이미지를 요청하면 '정책 위반' 경고를 띄우며 이미지 생성을 중단한다. '노예' '미개한 사람' 등의 표현을 요청했을 때도 마찬가지다. 빙이미지크리에이터는 '속임수, 허위 정보 및 허위 활동을 위한 생성을 금지한다'는 규정을 두고 있다. 이 외에도 △혐오발언 △테러리즘과 폭력적 극단주의 △자살 및 자해 △착취 및 학대 등과 관련한 이미지 생성을 금한다.

▲ 빙이미지크리에이터 이용 중 부적절한 요청을 했을 때 뜨는 경고 화면

비에디트는 '개인 또는 집단의 정체성을 근거로 타인에 대한 증오를 표현하는 행위'를 금지하고 있다. 여기에는 허위, 사기 또는 개인을 속일 가능성이 있는 것으로 의도되거나 간주되는 콘텐츠를 포함한다.

<dv style="margin-bottom:2rem;padding-bottom:1rem;font-size:1.3rem;border-bottom:1px solid #333;">

'사람이 설거지한다' 요청에 여성 그림만 제시

빙이미지크리에이터와 비에디트 프로그램을 활용한 결과 일부 검색어에서 '편향'이 나타났다. 이들 서비스가 테스트 버전임을 고려해야 하지만 인공지능 서비스가 갖는 문제를 보여주는 대목이기도 하다.

일례로 빙이미지크리에이터와 비에디트에 '사람이 웃으며 설거지를 한다'는 이미지 생성을 요청했더니 각각 여성 이미지(빙 3건, 비에디트 8건)만을 생성했다. 반면 '호텔 요리사가 웃으며 설거지한다' 요청에는 남성 이미지(빙 4건, 비에디트 8건)만을 제시했다.

▲ 빙이미지크리에이터가 만든 이미지

두 서비스 모두 간호사 이미지를 요청하자 여성 이미지만 생성했다. 빙 이미지크리에이터에 의사 이미지를 요청하자 백인 남성 2명과 흑인 여성 1명이 나온 이미지를 제시했다. 판사 이미지를 요청했을 땐 백인 남성 3명과 흑인 여성 1명을 제시했다. 비에디트는 성별을 확인하기 어려운 경우를 제외하곤 의사, 판사를 요청했을 때 남성들로만 채웠고 동양인은 없었다. 이들 서비스는 엘리트 직업군을 언급할 때 남성으로 구현할 확률이 높은 데다 백인을 제시하는 비중이 전반적으로 높았다.

인공지능 서비스는 온라인 공간의 데이터를 학습하는 과정에서 '사람의 편향'도 학습한다. 실제 학습 대상 이미지의 직업군별로 특정 성별에 쏠렸을 수 있고, 백인이 전반적으로 많았을 수 있다. 다만 관련 서비스들이 이를 보정하고 있다는 점이 드러나는 대목도 있다. 빙이미지크리에이터는 백인 비율이 높긴 하지만 여성과 여러 인종을 함께 제시하는 경향도 적지 않았다.

▲ '건설노동자'를 요청했을 때 빙이미지크리에이터가 만든 이미지. 남성과 여성을 동일 비율로 제시했다.

누구의 저작물인가, 그리고 '창작물'이 맞는가

해외에선 인공지능 이미지를 둘러싼 저작권 침해 논란이 한창이다. 이미지 판매 업체인 게티이미지가 영국의 인공지능 스타트업 기업인 스태빌리티AI를 상대로 손해배상 소송을 제기했다. 소송액은 1조8000억 달러에 달한다. 크레이그 피터스 게티이미지 최고경영자(CEO)는 “AI 생성 도구가 다른 사람들의 지적 재산권을 침해한 게 문제의 핵심”이라고 밝혔다. 세라 앤더슨 등 작가들은 스테이빌리티 AI, 미드저니 등을 상대로 집단소송을 제기했다. 이들은 “원작자인 예술가의 동의를 받지 않고 웹에서 50억개 가량의 이미지를 스크래핑해 AI 도구를 학습시켜 결과적으로 예술가들의 권리를 침해했다”고 주장했다.

이들 소송은 '인공지능 학습'이 저작권 침해인지가 쟁점이다. 2019년 챗GPT 개발사인 오픈AI는 현행법상 인공지능 시스템 학습은 저작권의 예외인 '공정이용'에 해당한다고 주장했다. 사람이 도서관에서 책을 빌려 공부를 해 지식을 쌓거나 특정 그림을 보고 화풍이나 구도 등을 공부한 것이 도용이 아닌 것처럼 인공지능 학습도 같은 개념으로 본 것이다.

▲ '스페이스 오페라극장'은 인공지능 이미지 생성 프로그램을 통해 제작한 작품이다.

와이어드에 따르면 AI 전문 법무법인 베이커맥켄지의 브래드포드 뉴맨은 “알고리즘에 예술 작품 사용을 허가한 적이 없다며 법적 문제를 제기하는 예술가가 늘어날 것이다. 그러나 판결은 전적으로 재판부의 견해에 따라 달라질 것”이라고 전망했다.

인공지능 이미지가 저작물이 되는지도 논쟁 대상이다. 미국의 작가 카슈타노바는 인공지능으로 만든 만화를 저작권 등록 요청했다. 미국 저작권청은 이미지 자체는 저작권을 인정하지 않았지만 글과 이미지 배치에 대해선 저작권을 인정했다. 인공지능에 요청해 이미지를 생성하는 경우 결과물을 예측할 수 없다는 점을 들어 저작권을 인정하지 않았다.

예술가들의 반발도 이어지고 있다. 지난달부터 온라인 공간에 '옵트아웃'(배제) 운동이 확산되고 있다. 자신의 작업물을 인공지능 소프트웨어가 학습하지 못하도록 'Do Not AI'(인공지능 사용 금지)를 명시하는 방식이다. 미국 콜로라도 주립 박람회 미술대회 디지털아트 부문에서 우승을 차지한 '스페이스 오페라극장'은 예술 작품으로 인정할 수 있는지가 논란이 됐다. 주최측은 기술 활용이 가능한 부문이었고 인공지능 활용 사실을 공개했기에 문제가 되지 않는다고 판단했다.

기술의 도둑질인가, 제시어의 창의성을 바탕으로 한 새로운 예술인가. SBS에서 지난해 '스페이스 오페라극장' 논란을 다루며 예술이 맞는지 온라인 설문조사를 했는데 '예술이 맞다'는 응답이 45%(634명), '예술이 아니다'라는 응답이 48%(679명)로 팽팽한 결과가 나왔다.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]