속옷만 입은 테일러 스위프트 사진을 그록2로?… 생성형 AI 경쟁 속 안전장치 논란

구글, 이마젠3 안전기능 강화
xAI ‘그록2’는 이미지 생성 제한 없어
X와 만나 가짜 이미지 SNS에 범람

인공지능(AI)으로 생성한 가짜 사진. xAI의 그록-2로 생성./X(옛 트위터)의 chrmontessori 계정 캡처

오픈AI ‘달리3′, 구글 ‘이마젠3′, xAI ‘그록2′, 미드저니 ‘V6′ 등 이미지 생성형 인공지능(AI) 시장 경쟁이 격화되고 있다. 각 사는 딥페이크를 막는 안전장치나 요금 전략 차별화로 승기를 잡으려 하고 있다. 그록2는 이미지를 제한 없이 합성하도록 하는가 하면 이마젠3는 가짜 이미지 방지를 위해 디지털 워터마크를 도입했다. 달리3는 무료 이용자에게도 이미지 생성 기능을 이용할 수 있도록 개방했다.

20일 IT업계에 따르면 지난 15일 구글은 텍스트를 입력하면 이미지를 생성하는 AI 도구인 ‘이마젠3′를 미국에서 출시했다. 구글 딥마인드는 “텍스트 투 이미지(text-to-image) 생성을 위한 최고 성능의 모델”이라고 밝혔다. 이마젠3는 과거 버전보다 더 세밀한 이미지를 만들어내는데, 이용자가 복잡한 기술을 사용하지 않아도 원하는 이미지를 언어로만 설명하면 이에 부합하는 결과물이 생성된다.

가장 큰 특징은 AI 이미지의 오남용 문제를 고려해 안전장치를 마련했다는 것이다. 이마젠3로 제작된 이미지에는 디지털 워터마크가 표시되며, 유명 인사의 이미지는 제작되지 않는다.

오픈AI도 실제 사람 모습에 기반한 이미지 생성을 최대한 제한하고 있다. 음란·혐오·폭력 등의 이미지를 생성하는 것을 방지하는 기능도 갖췄다. 오픈AI는 구글이 이마젠3를 출시한 날 이미지 생성 기능을 무료 이용자에게도 개방했다. 달리3 서비스는 유료 이용자에게만 제공해왔는데 무료 이용자에게도 하루 최대 2건을 제공하도록 한 것이다. 이미지 생성형 AI 시장이 격화되자 구글 이마젠3에 맞불을 놓으면서 유료 구독을 유도하기 위한 조치로 해석된다.

이에 반해 그록2는 유명인의 이름을 넣으면 관련 이미지를 거의 제한 없이 생성하고 있다. 외신들은 최근 들어 카멀라 해리스 미국 민주당 대선 후보, 마크 저커버그 메타 최고경영자(CEO), 빌 게이츠 마이크로소프트(MS) 공동창업자 등이 딥페이크의 단골 대상이 되고 있다고 전했다.

IT매체 더버지에 따르면 그록2는 가수 테일러 스위프트가 속옷만 입은 사진도 만들어냈다. 다만 ‘완전히 벌거벗은 여성 사진을 만들어 달라’는 요구는 거절했다. 일론 머스크 최고경영자(CEO)는 그록2를 ‘세상에서 가장 재미있는 AI’라고 표현하면서 “오픈AI가 만드는 챗GPT나 구글 챗봇보다 유머 감각이 있고 자유로운 답변이 가능하다”고 주장했다. 예컨대 챗GPT에 불법 약물 제조법을 물어보면 즉각 거절하지만 그록은 제조법을 설명하는 척하다가 “농담이다, 불법이니 제조하지 말라”고 답변한다.

워싱턴포스트는 “그록2는 폭력적, 선정적 이미지 생성을 제한하는 안전장치가 거의 없다”고 했다. 그록2에서 생성된 가짜 이미지는 머스크의 소셜미디어 플랫폼 X와 만나 활개를 치고 있다. 테크크런치는 “정치인을 포함한 유명인 딥페이크와 폭력적이고 노골적인 이미지들이 X에 넘쳐나고 있다”고 전했다.

AI를 이용한 가짜 이미지와 영상 제작이 사회 문제로 떠오르면서 빅테크의 생성형 AI에 대한 윤리적 기준은 강화될 것으로 전망된다. 미국 콜로라도와 유타주는 최근 미국 최초로 AI를 규제하는 법안을 통과시켰고, 캘리포니아 주 하원도 AI 규제법을 통과시켜 이달 말 상원 표결만 남았다. AI 관련 규제법안은 최근 미국 여러 주에서 마련되는 추세다. 투명성 연합(Transparency Coalition)에 따르면 현재 미국 전역의 주 의회에 약 400개의 AI 관련 법안이 상정돼 있다.

- Copyright ⓒ 조선비즈 & Chosun.com -