“진짜 사람 맞아?”…SNS 뒤덮은 'AI 콘텐츠', 규제는 '사업자 한정'

AI 생성물 확산 속도 못 따라가는 제도…개인 이용자 규제 공백
공정위, ‘가상인물’ 표시 의무 강화…플랫폼도 AI 라벨링 확대

마포·강남 등 젊은 상권 음식점들이 노출이 있는 여성의 AI 합성 이미지를 리뷰·홍보 사진에 활용해 SNS를 중심으로 소비자 논란과 불만이 확산되고 있다. /해당 음식점 소개글 갈무리.

| 서울=한스경제 박정현 기자 | "이거 진짜 사람이야?" 최근 사회관계망서비스(SNS) 인기 게시글 댓글에는 해당 콘텐츠가 인공지능(AI) 생성물인지 아닌지를 따지는 반응이 빠지지 않고 등장한다. 생성형 AI 기술이 급속도로 고도화되면서 일반 사용자들도 실제와 구분하기 어려운 사진과 영상을 손쉽게 제작할 수 있기 때문이다.

문제는 정작 이를 AI 생성물이라고 명확히 표시하는 사례는 드물다는 점이다. 최근 온라인상에서는 '야구장 AI 미녀' 밈이 끊임없이 확산되고 있다. 이어 마포·강남 등 젊은 상권의 일부 음식점에서 노출이 있는 미모의 여성이 음식을 먹거나 TV 인터뷰를 하는 듯한 AI 합성 이미지를 리뷰·홍보 사진으로 활용하기 시작했다.

흘깃 보면 AI인지 아닌지를 판별하기 어려울 정도다. 해당 광고를 게시한 음식점 측은 별도의 입장을 내놓지 않았다. 종업원 역시 이를 점주가 게시한 것인지 관련 사진에 대해 어떻게 설명해야 하는지 알지 못하는 상황이었다.

해당 사진들은 X(옛 트위터)를 중심으로 빠르게 확산되고 있다. 온라인 공간 전반에서는 "무엇이 실제이고 무엇이 AI 생성물인지 의심해야 한다"는 분위기가 확산되고 있다. 또한 사진과 영상이 사실을 증명하는 핵심 수단으로 여겨졌던 시대가 저물고 있다는 평가도 나온다.

최근 SNS를 중심으로 확산 중인 '야구장 AI 미녀' 콘텐츠의 한 장면. 실제 스포츠 중계 화면처럼 연출됐지만 AI으로 생성된 합성 콘텐츠다./연합뉴스

▲ 표시 의무 도입했지만…규제 대상은 AI 사업자 한정

정부는 올해 1월 22일부터 AI기본법을 시행해 생성형 AI 결과물 표시 의무를 도입했지만 현장에서는 여전히 혼란이 이어지고 있다.

현재 AI기본법의 규제 대상은 구글·오픈AI 같은 AI 사업자다. AI 서비스를 개발·제공하는 사업자에게 생성형 AI 결과물 표시 의무 등을 부과하는 구조로 일반 이용자나 자영업자까지 직접 규제 대상으로 삼고 있지는 않다.

과학기술정보통신부 인공지능안전신뢰지원과 관계자는 "AI기본법은 서비스를 제공하는 AI 사업자를 대상으로 한 법"이라며 "매장을 운영하는 개인사업자나 SNS 이용자에게 직접 의무를 부과하는 방식은 아니다"라고 설명했다.

다만 AI 생성 홍보물이 규제 사각지대에 놓인 것은 아니라는 게 정부 설명이다. 이에 대해 과기정통부 관계자는 "식당의 경우 식품표시광고법, 일반 사용자가 AI 생성물을 유튜브 등에 게시하는 경우에는 청소년성보호법이나 공직선거법 등 개별 법령에 따라 제재가 가능하다"고 말했다.

공정거래위원회도 지난달 '추천·보증 등에 관한 표시·광고 심사지침' 개정안을 행정예고하고 AI 기반 가상인물 표시 규정 신설에 나섰다.

최근 AI를 활용해 실제 인물과 구분하기 어려운 가상의 의사·교수 등 전문가 이미지를 생성해 상품을 광고하는 사례가 늘고 있다고 보고 소비자가 실제 전문가 추천으로 오인하지 않도록 '가상인물' 표시 의무를 강화하겠다는 의도다.

개정안에는 AI 기반 가상인물이 특정 상품을 추천·보증하는 경우 실제 경험에 근거하지 않은 표현은 부당 광고로 볼 수 있다는 내용도 담겼다. 문자 중심 게시물은 제목 또는 첫 부분에 사진·영상 콘텐츠는 가상인물 인접 위치에 '가상인물' 문구를 표시하도록 하는 예시도 포함됐다.

▲ 법보다 빠른 AI 확산…"플랫폼 자율규제만으론 한계"

정부와 플랫폼 업계가 인공지능(AI) 생성물 표시 체계 마련에 속도를 내고 있지만 AI 기술 발전 속도가 제도 정비를 크게 앞지르고 있다는 지적이 나온다.

생성형 AI 기술은 일반 이용자도 실제와 구분하기 어려운 수준의 이미지와 영상을 손쉽게 제작할 정도로 고도화됐지만 현행 법체계는 여전히 AI 사업자 중심 규제에 머물러 있어 개인 단위의 허위·혼동 콘텐츠 확산을 직접 통제하기 어렵다.

현재는 플랫폼들의 자율규제 방식에 의존하는 구조다. 네이버와 카카오 등 주요 플랫폼들은 AI 생성 콘텐츠 표시 강화 방안을 논의하거나 시행 중에 있다.

네이버는 지난달 13일부터 자사 광고 플랫폼 '애드부스트'를 활용해 제작된 모든 광고 영상과 이미지에 'AI 활용' 표기를 자동 적용하기 시작했다. 카카오는 이달부터 '카카오쇼핑라이프' 방송 사업자가 AI 활용 여부를 소비자에게 알리도록 하는 정책을 시행했다. AI로 생성된 인물·목소리·배경을 사용할 경우 화면 상단 문구와 자막 등을 통해 안내 문구를 표시해야 한다.

해외 빅테크들도 AI 생성 콘텐츠에 대한 자율 규제 체계를 강화하고 있다. 메타와 구글, 오픈AI 등은 콘텐츠출처인증기술인 C2PA 기반 메타데이터와 디지털 디지털 워터마크 적용 범위를 넓히고 있다.

▲ AI 활용 주체 기업에서 개인으로...AI 표시, 개인도 의무화해야

다만 현재 대응은 대부분 플랫폼 자율규제 수준에 머물러 있다는 지적이 나온다. AI 생성물 유통 주체가 플랫폼에서 개인·커뮤니티 중심으로 빠르게 확산되면서 일반 이용자 입장에서는 실제 AI 생성 여부를 체감하거나 구분하기 어려운 상황이 이어지고 있다.

일각에서는 AI 활용 주체가 기업에서 개인으로 확대된 만큼 일반 이용자에 대한 표시 의무 논의도 필요하다는 목소리가 나온다. 반면 표현의 자유 침해 우려와 현실적인 집행 한계 등을 고려해야 한다는 신중론도 적지 않다.

과학기술정보통신부 관계자는 "AI 발전 속도가 매우 빠른 만큼 예산과 다양한 사업을 통해 제도 보완을 추진하고 있다"며 "AI 기본법상 사업자 책무에는 이용자 보호와 설명 가능성 등이 포함돼 있고 에이전트 AI 같은 신기술에 보호 방안을 어떻게 적용할지는 추가 검토가 필요한 부분"이라고 설명했다.

이어 "집행 관점에서 지원과 안내를 어떻게 구체화할지 고민하고 있으며 고영향 AI 가이드라인 관련 고시도 올해 하반기 중 개정할 계획"이라고 밝혔다.

정부는 당장 과태료 부과나 사실조사 확대 같은 강한 규제보다는 안전한 AI 활용 기반 조성과 시장 안착에 무게를 두고 있다. AI 생성 여부를 일일이 판별하기 어려운데다 해외 플랫폼과 개인 이용자까지 규제 범위를 확대할 경우 표현의 자유 침해 논란으로 이어질 수 있다는 점도 고려한 것으로 풀이된다.

과기정통부 관계자는 "AI기본법은 현재 계도 기간이자 시행 초기 단계"라며 "현장에서 다양한 사례를 축적하면서 기업들이 실제 어떤 부분에서 어려움을 겪는지 파악하고 이를 바탕으로 가이드라인을 지속 보완해 나갈 예정"이라고 말했다.