AI가 성인물 시장에 본격적으로 발을 들이면서 수익과 윤리, 기술혁신과 사회적 책임 사이의 균형이 시험대에 올랐다.
인공지능(AI)이 성인용 콘텐츠에 활용될 것이라는 예상은 AI 등장 초기부터 꾸준히 제기돼 왔다. 인간의 성적 호기심은 무시하기 어려운 거대한 글로벌 시장이기 때문이다. 트랜스페어런시 마켓 리서치에 따르면, 2023년 전 세계 성인용 콘텐츠 산업 규모는 2878억 달러(약 416조 6800억원)에 달하는데, 연평균 8.6%의 성장률을 기록하며 2034년에는 7062억 달러(약 1022조3000억원)까지 규모가 확대될 것으로 전망된다. 전 세계 반도체와 자동차 산업의 연간 시장 규모가 각각 4000억~5000억 달러 수준임을 감안하면, 성인용 콘텐츠 시장 규모가 얼마나 큰지 짐작할 수 있다. 여기에 통계에 포착되지 않는 블랙마켓, 즉 비공식 유통 경로까지 포함할 경우 훨씬 더 클 가능성이 높다. 또 트랜스페어런시 마켓 리서치는 AI가 성인용 콘텐츠 시장 확대에 한몫할 것으로 내다봤다. 기업 입장에서 이 거대한 수요를 놓칠 리 없기 때문이다.
실제로 챗GPT로 잘 알려진 오픈AI는 최근 올해 1분기 중 성인 대상 AI 서비스를 출시하겠다고 밝혀 논란을 불러일으켰다. 일론 머스크가 이끄는 xAI는 이미 관련 서비스를 선보인 상태다. 이 같은 흐름을 고려하면, 2026년 AI 산업의 주요 쟁점 중 하나는 성인용 서비스의 허용 범위와 윤리를 둘러싼 논쟁이 될 가능성이 크다.
챗GPT, 성인 서비스 개시
성인 인증을 거친 이용자에게 음란한 대화 등 성인 서비스를 제공하는 이른바 ‘성인용 챗GPT’에 대해 오픈AI는 ‘성인의 권리’라는 논리로 정당성을 주장한다. 샘 올트먼 최고경영자(CEO)는 사회관계망서비스(SNS) X에 올린 글에서 “그동안 챗GPT 서비스를 제한적으로 제공한 탓에 이용자들이 재미 없고 유용하지 않다고 느낀다는 사실을 확인했다”며 “성인을 성인답게 대우하기로 했다”라고 밝혔다. 이에 AI의 도덕성 논란이 일자 올트먼은 “오픈AI는 세계의 도덕을 관리하는 경찰이 아니다”라며 “타인에게 해를 끼치는 콘텐츠는 계속 제한하되, 사회적 통념이 허용하는 범위 내에서는 적절한 서비스를 제공하겠다”라고 강조했다.
불과 지난해 상반기까지만 해도 챗GPT가 성적 콘텐츠를 다루지 않는 게 자랑스럽다고 언급했던 올트먼이 입장을 백팔십도 바꾼 배경은 수익성 때문으로 풀이된다. 챗GPT 유료 서비스 이용료는 월 20달러에서 200달러 수준인데, 이 정도 수익으로는 막대한 개발비를 감당하기에 턱없이 부족하다. 여러 언론 보도된 대로 오픈AI는 지난해 상반기 43억 달러(약 6조2000억원)의 매출을 기록했지만, 같은 기간 순손실은 135억 달러(약 19조1000억원)에 달했다. 연구개발(R&D)에만 67억 달러(약 9조7000억원)를 사용할 만큼 AI 개발에 천문학적 비용이 들기 때문이다.
오픈AI의 결정을 두고 우려의 목소리가 터져 나오고 있다. 성인 콘텐츠가 수익 개선에 도움을 주겠지만, 장기적으로는 사회문제를 일으킬 수 있다는 시각이다. 미국 시민단체 전미성착취반대센터(NCOSE)는 “성적으로 대상화된 AI 챗봇 서비스는 인위적으로 만들어진 친밀감 때문에 이용자의 정신 건강에 해로울 수 있다”라는 성명을 냈다.
오픈AI가 입장을 바꿔 성인 서비스 개시라는 카드를 꺼내 든 것은 막대한 개발비를 감당하기엔 턱없이 부족한 수익성 때문인 것으로 알려졌다.
일론 머스크가 홍보한 그록의 성인 서비스
AI 서비스의 수익성 고민은 비단 오픈AI만의 문제가 아니다. AI 개발업체라면 너나없이 막대한 개발 비용에 부담을 느끼는 탓이다. xAI의 대화형 AI 서비스 ‘그록(Grok)’은 일찌감치 성인용 서비스를 차별화 요소로 내세웠다. 표현의 자유를 명분으로 성인물 규제를 상대적으로 느슨하게 해온 것. 2025년 2월에는 욕설을 내뱉는 음성 대화 기능을 선보였고, 이차원 그래픽 캐릭터와 음란한 대화를 나눌 수 있는 성인용 AI 서비스 ‘그록18+’도 내놓았다. 같은 해 7월에는 이미지·영상 생성 AI ‘그록 이매진’에 야한 이미지와 영상을 생성할 수 있는 ‘스파이시 모드’를 추가했다. 스파이시 모드는 월 약 30달러의 이용료를 내는 ‘슈퍼그록’ 요금제 가입자에게만 제공된다. 일론 머스크는 스파이시 모드로 만든 천사 옷차림을 한 여성 캐릭터를 올리며 해당 기능을 적극 홍보하기도 했다.
xAI는 스파이시 모드에 안전장치를 적용했기 때문에 문제 될 것이 없다는 입장이다. 노출 정도가 일정 수위를 넘어서면 자동 검열 기능으로 모자이크 처리하고, 실존 인물을 이용한 딥페이크와 미성년자가 등장하는 음란물은 금지하겠다고 밝혔다. 그러나 우려는 곧 현실이 됐다. 그록 이매진으로 유명 가수 테일러 스위프트의 상반신 노출 이미지가 생성되는 등 딥페이크 제작 논란이 일었다. 사진 속 인물을 완전 누드로 만들 수는 없지만 옷을 벗기거나 비키니 수영복을 입히라는 식의 명령어를 입력하면 성인물에 준하는 노출 이미지를 만들 수 있다. 특히 그록은 SNS인 X에서 바로 명령어를 입력할 수 있어 딥페이크 이미지를 만들면 불특정 다수에 유포될 우려가 크다. 미국 언론들은 그록 이매진이 연령 확인을 단 한 번만 했으며, 그마저도 검증 수단이 허술해 성인 인증 절차가 형식에 그친다고 꼬집었다.
국가 차원의 법적 규제 이어져
그뿐 아니라 그록은 최근 유럽과 아시아 일부 국가에서 미성년자의 성적 이미지를 생성한 혐의로 조사를 받고 있다. 블룸버그 통신 등 외신에 따르면, 말레이시아 정부는 지난해 말부터 그록으로 만든 비키니 수용복 차림의 아이들 사진이 X에서 유포된 사실을 확인하고 조사 중이다. 이렇게 유포된 이미지 중에는 1~2세 영아도 포함됐다. 말레이시아 정부는 유해 콘텐츠 제작 및 전송이 법적으로 금지된 행위인 만큼 제작 용의자와 AI 기업 등을 강도 높게 조사하겠다고 밝혔다.
인도의 전자정보기술부도 새해 첫날 X에 공문을 보내 그록이 성인 이미지를 생성하지 않도록 시정 하라고 요구했다. 인도 정부는 형사법과 정보기술법에 따라 부적절한 AI 생성 콘텐츠를 유포한 SNS를 규제하고 있다.
프랑스 정부도 그록을 이용해 만든 성인용 이미지를 유포한 혐의로 유럽연합(EU)의 디지털 서비스법(DSA)에 따라 X를 조사 중이다. 외신에 따르면, 조사 결과 혐의가 인정될 경우 6만 유로(약 1억원)의 벌금형을 받을 수 있다. 이처럼 세계 각국이 조사에 나서면서 그록은 연초에 인증 절차 등 안전장치에 문제가 있음을 확인하고 관련 이미지 삭제 및 보완 조치를 취하겠다고 밝혔다.
xAI의 또 다른 AI 서비스 ‘컴패니언 모드’도 논란의 대상이다. 2025년 7월 출시된 이 AI 친구 서비스에는 여성 캐릭터 ‘애니’가 등장한다. 가상의 금발 여성 캐릭터 애니는 검정 레이스가 달린 노출이 심한 옷을 입고 이용자와 다양한 대화를 나눈다. 유튜브 등에 올라온 애니 관련 영상을 보면 성적 분위기의 대화를 나누는 것도 있다. 그 바람에 인터넷에서는 ‘부인 생성기’, ‘AI 여자친구’ 등으로 소문이 났다. 여성을 성적 대상화한다는 비난을 받자 xAI는 남성 캐릭터 ‘밸런타인’을 추가했다.
페이스북과 인스타그램 서비스를 운영하는 메타의 ‘메타 AI’ 역시 성인물 논란에서 자유롭지 않다. 미국 월스트리트저널은 “메타 AI 챗봇 서비스가 자신을 14세라고 밝힌 미성년자와 성적 대화를 나눴다”며 “챗봇을 성인 또는 미성년자 역할로 설정하고 선정적인 대화를 할 수 있다”라고 전했다.
무분별한 성인물 확산을 막고 미성년자를 보호하면서도 기술 발전은 저해하지 않는 묘안을 위해 각계가 머리를 모아야 할 때다.
성인물 차단하는 구글과 앤트로픽
반면 구글은 자사 AI 서비스 ‘제미나이(Gemini)’에서 성인물 규제를 강조한다. 구글은 가이드라인을 통해 노골적인 성행위 묘사나 선정적인 결과물 생성을 금지하고 있으며, 가상의 캐릭터를 설정해 성적 대화를 나누는 행위도 차단하고 있다. 앤트로픽도 자사의 AI 서비스 ‘클로드(Claude)’에서 성인 콘텐츠를 제한한다. 이용자가 성적 대화를 반복적으로 시도하면 서비스가 자동 종료된다.
일부 AI 서비스업체가 이처럼 성인물을 제한하는 것은 AI가 청소년들의 정신 건강에 부정적 영향을 미칠 수 있다고 보기 때문이다. 실제로 2024년 2월 미국에서는 14세 소년이 AI 캐릭터와 성적인 대화를 나누다 과도하게 몰입한 끝에 스스로 목숨을 끊은 사건이 일어났다. 2025년 캘리포니아에서도 16세 소년이 챗GPT와 자살에 대한 이야기를 하다 사망한 사례도 있다. 이 같은 사건이 잇따르자 미국 캘리포니아주는 AI 챗봇 이용법을 제정해 올해부터 시행 중이다. 이 법은 AI 챗봇 서비스를 제공하는 기업들이 이용자의 연령을 반드시 확인해야 하고, 모든 답변에 AI가 생성했다는 것을 분명히 표시하도록 규정한다. 또 이용자가 자살 충동을 느끼거나 자해 표현을 할 경우 적절히 대응하도록 요구하며, 챗봇이 만든 성인물 이미지를 미성년자에게 제공하는 행위도 금지했다.
미성년자 보호 vs. 기술 발전
성인용 AI 서비스를 둘러싼 찬반 논란은 온라인에서 뜨겁게 이어지고 있다. 반대하는 쪽에서는 무분별한 성인물 확산을 걱정한다. AI가 유명인이나 지인의 사진 등을 활용해 다양한 딥페이크 영상을 손쉽게 만들 수 있다는 우려다. 미국 IT 전문지 <더버지>는 그록에서 간단한 단어 입력만으로 테일러 스위프트가 선정적으로 춤추는 영상을 생성할 수 있었다며 차단 기능이 제대로 작동하지 않고 있다고 지적했다.
AI 서비스업체들이 미성년자에게 성인물이 노출되는 것을 막는 장치를 마련했음에도 이용자들이 이를 교묘하게 우회하는 것도 문제다. 각종 인터넷 게시판에는 성인 콘텐츠를 생성하는 방법과 우회 경로, 프롬프트 공유 글이 넘쳐난다. 실제 사진을 활용해 AI로 성인물을 만드는 방법, 규제 장치를 피할 수 있는 입력 방법 등이 자세히 나와 있다. 이렇게 생성된 성인 콘텐츠는 해외 검색이나 각종 SNS에서 손쉽게 찾을 수 있어 쉽게 유포된다.
특히 해외에서 민감하게 반응하는 것은 미성년자가 등장하는 성 착취물이다. 이 때문에 xAI의 그록이 욕을 더 많이 먹고 있다. 비즈니스 인사이더는 xAI의 전·현직 직원들의 증언을 인용해 그록이 어린이를 성적으로 학대하는 내용의 음란물을 생성했다고 보도했다. xAI는 발견 즉시 삭제한다고 밝혔지만, 이 과정에서 일부 직원들이 정신적 고통을 겪으며 회사를 그만둔 것으로알려졌다.
실제로 AI를 악용한 아동 성 착취물은 상당한 규모로 확인되고 있다. 미성년자 실종 및 성범죄를 다루는 미국의 민간단체인 아동 실종 및 착취센터(NCMEC)에 따르면, 2024년 상반기에만 AI를 이용한 아동 성 착취물이 44만 건이나 발견됐다.
미성년자를 성인물의 소재로 악용하는 문제에 더해 미성년자들이 성인물에 무분별하게 노출될 수 있다는 점도 우려의 대상이다. 단순히 생년월일을 입력하는 것만으로 성인 여부를 가리는 방식은 청소년들이 얼마든지 뚫을 수 있다는 점에서 미흡하다.
따라서 AI가 차세대 성인물의 매개체가 되지 않으려면 업체 및 정부 차원의 보다 정교한 안전장치가 필요하다는 목소리가 커지고 있다. 특히 아동 성 착취물은 피해 확산을 막기 위한 법제화 등 적극적인 규제가 필요하다는 주장이 나오고 있다. 일각에서는 AI가 미성년자를 소재로 음란한 대화나 이미지를 만들지 않는 것뿐 아니라 관련 내용을 발견하면 차단하는 등 적극적으로 나서야 한다고 주장한다.
하지만 AI의 성인 대상 서비스를 무조건 막는 것은 기술 발전을 위해 옳은 방향이 아니라는 시각도 있다. 미국 캘리포니아 주지사는 18세 미만의 AI 챗봇 이용 금지법안에 대해 과도한 통제를 하면 기술 발전을 가로막을 수 있다며 거부권을 행사했다.
기술 발전과 파급 효과 등을 모두 고려해야 하기 때문에 AI 성인 서비스 문제는 쉽게 결론 내기 힘든 부분이 있다. 국내의 한 AI 스타트업 대표는 “업계와 시민단체, 정부 등이 함께 올바른 AI 이용 방법을 논의할 필요가 있다”며 “치열한 기술개발 경쟁에 뒤쳐지지 않도록 규제와 진흥이라는 줄타기를 적절하게 해야 한다”라고 역설했다. 그는 “지나친 규제는 기술 발전을 저해할 수 있기 때문에 바람직하지 않다”면서도 “우려되는 문제를 막기 위해 AI 서비스업체들이 먼저 제대로 된 안전장치를 만들고 책임지려는 태도를 보여야 한다”라고 덧붙였다.
ㅣ 덴 매거진 2026년 2월호
글 최연진(한국일보 IT전문기자)
에디터 박유리(abrazo@mcircle.biz)
Copyright © 저작권자 © 덴 매거진 무단전재 및 재배포 금지