자사 챗봇 '딥페이크 온상' 지목된 머스크 "AI 규제 법안 지지"

美 캘리포니아 주의회 'SB 1047'
AI 개발 때 위해 요소 제거 규정
머스크가 세운 xAI도 규제 대상

일론 머스크 테슬라 최고경영자가 지난 6월 미국 로스앤젤레스(LA)에서 열린 27번째 밀켄연구소 국제학술대회에서 발언하고 있다. 로스앤젤레스=AFP 연합뉴스

테슬라 최고경영자이자 인공지능(AI) 스타트업 xAI의 창립자인 일론 머스크가 미국 캘리포니아주(州)의 AI 규제 법안을 공개 지지했다. 전 세계적으로 딥페이크(인공지능 기반 이미지 합성) 범죄에 대한 우려가 고조되는 가운데 머스크의 규제 찬성 입장은 법안 통과는 물론 업계 동향에 적잖은 영향을 미칠 것으로 전망된다.

머스크는 지난 26일 (현지시간) 엑스(X)에 "이것은 어려운 결정이고 일부 사람들을 화나게 하겠지만, 모든 것을 고려할 때 나는 캘리포니아주가 'SB 1047' AI 안전 법안을 통과시켜야 한다고 생각한다"라고 썼다. 그는 "지난 20여 년간 나는 AI 규제를 지지해 왔다"면서 "공공에 잠재적인 위험이 될 수 있는 모든 제품과 기술을 규제하는 것과 마찬가지"라고 덧붙였다.

머스크가 언급한 'SB 1047'은 지난 2월 민주당이 발의한 '첨단 AI 모델을 위한 안전과 보안 혁신법안'을 말한다. 이 법안은 AI 업체가 개발 단계부터 사이버 공격 등 위험 요소를 제거할 것을 규정하고 있다. 이를 위해 AI 알고리즘에 대한 안전성 테스트 및 사고 발생 시 시스템을 멈추는 '비상 정지' 기능 등을 마련할 것을 요구했다. AI 업계는 이 법안이 업계에 과도한 책임을 부여하고, 기술 개발도 위축시킬 수 있다는 이유에서 반대해 왔다. 지난 5월 주상원을 통과한 법안은 이달 안으로 주하원 표결이 이뤄질 것으로 알려졌다.

폴리티코 등 외신들은 SB 1047이 통과될 경우 머스크가 운영 중인 xAI도 규제 대상에 오를 것으로 내다봤다. xAI가 지난 13일 시험용(베타)으로 출시한 AI 챗봇 '그록2(Grok-2)'는 딥페이크의 온상으로 지목되고 있다. 그록2는 사용자의 요구에 맞춰 이미지를 생성하는 기능이 있다. 그런데 일부 사용자들이 이를 악용해 가짜뉴스를 만들거나, 폭력·선정적인 이미지를 생성하면서 문제가 불거졌다.

---

테일러 스위프트 등 유명인들, 딥페이크 피해

공화당 대선 후보 도널드 트럼프 전 대통령이 무릎 꿇고 있는 카멀라 해리스 민주당 대선후보의 머리에 입을 맞추고 있는 가짜 이미지. xAI의 챗봇 '그록2'로 만들어졌다. X 화면 캡처

최근에는 공화당 대선 후보인 도널드 트럼프 전 대통령과 민주당 후보 카멀라 해리스 부통령이 등장하는 딥페이크 콘텐츠가 X 등 사회관계망서비스(SNS)에서 활개를 치고 있다. 예컨대 트럼프 전 대통령이 무릎 꿇고 있는 해리스 부통령의 머리에 입을 맞추고 있는 식인데, 사실이 아니다. 세계적인 팝스타 테일러 스위프트도 최근 선정적인 딥페이크 콘텐츠의 피해를 입었다. 머스크는 그록2를 두고 "세상에서 가장 재미있는 AI"라고 소개한 바 있다. 그러다 딥페이크 논란이 불붙자 AI 규제를 지지하며 여론 달래기에 나선 것으로 풀이된다.

장재진 기자 blanc@hankookilbo.com