“AI로 가짜 교장 목소리 만들어 유포한 교사” 엉뚱한 죄목 체포 왜?
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
인공지능(AI)을 활용해 가짜 교장 육성을 생성해 유포한 체육 교사가 전격 체포됐다.
경찰은 체육 교사가 교장에 대한 가짜 AI 음성을 만든 동기를 보복 행위로 판단했다.
체육 교사는 이 과정에서 오픈AI 도구를 활용했다.
AI 음성 배포로 학교 교사들은 주변 곳곳에 도청 장치가 설치돼 있을 수 있다고 염려했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
악한 감정 품고 SNS에 올려
28일 미국 메릴랜드즈 볼티모어에 있는 피크스빌 고등학교의 체육 교사인 다존 다리엔(Dazhon Darien)이 볼티모어 워싱턴 국제공항에서 전격 체포됐다고 볼티모어 배너가 보도했다. 그는 자신이 몸담은 학교의 에릭 아이스워트(Eric Eiswert) 교장에 대한 음성을 AI로 제작해 소셜미디어에 유포했다. 특히 딥페이크 음성은 인종차별적이며 반유대주의적인 내용을 담고 있었다. 음성은 “배은 망덕한 흑인 아이들”로 시작해 특정 교사들을 언급하며 “이들을 해고해야한다”는 내용을 담았다.
볼티모어 카운티 경찰서장인 로버트 맥컬러프는 기자 회견을 열어 “휴스턴행 비행기에 탑승하려던 체육 교사 다리엔을 체포했다”면서 “다리엔은 총을 소지하고 있다는 이유로 제지당했고 공항 관계자들은 체포 영장이 발부된 것을 확인했다”고 말했다.
그에게 붙은 죄목은 총기 소지, 학교 운영 방해, 보복, 스토킹, 절도 등이다. 경찰은 기소문에서 해당 교사가 생성한 AI가 지역 사회에 큰 악영향을 미쳤다고 적었다. 특히 “이 사건으로 인해 아이스워트 교장은 학교에서 일시적으로 퇴출당했을 뿐 아니라 소셜 미디어에 증오로 가득 찬 메시지가 쏟아지고 학교에 수많은 전화가 걸려왔다”고 설명했다.
체육 교사는 이 과정에서 오픈AI 도구를 활용했다. AI 음성이 유포된 직후 지역 사회는 충격에 빠졌다. 음성은 “배은망덕한 흑인 아이들”로 시작해 특정 교사들을 언급하며 “이들을 해고해야한다”는 내용을 담았다.
AI 음성 배포로 학교 교사들은 주변 곳곳에 도청 장치가 설치돼 있을 수 있다고 염려했다. 통상 AI 음성을 학습시키기 위해서는 30분 이상 깨끗한 진짜사람의 목소리가 필요하기 때문이다. 한 교사는 “AI의 발전이 매우 우려스럽다”면서 “악의적인 목적으로 이 기술을 사용하는 사람들에 대해 모두가 경계를 늦추지 않는 것이 중요하다”고 말했다.
문제는 이런 악의적 AI 음성을 유포한 이들에 대한 처벌 조항이 없다는 점이다. 학교 활동 방해죄는 형량이 최장 6개월에 불과하다. 미국 메릴랜드주는 다른 대부분의 주와 마찬가지로 딥페이크에 관한 법률이 없다. 때문에 다리엔의 혐의에도 AI 제작이 포함돼 있지 않다.
Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지
- “마동석 때문에 ‘폭삭’ 망하게 생겼네”…벌써부터 걱정하는 이들의 정체 - 매일경제
- 로또 1등 ‘3, 4, 9, 30, 33, 36’…당첨자 9명 각각 30억, 대박 명당은 - 매일경제
- “60만원대 명품 지갑 찾아줬는데”…벌금 80만원 선고 ‘날벼락’ 20대, 왜? - 매일경제
- “아파트에 사체 썩는 냄새, 벼룩도 들끓어”…고양이 43마리, 가둔 채 방치 - 매일경제
- “금리인하 믿고 몰빵했는데”…날벼락 맞은 일학개미, 왜? - 매일경제
- “장봐서 1시간 내 5인 식사 준비…시급은 만원” 구인글 논란 - 매일경제
- “귀중품 사라졌는데 혹시”...집주인 무리한 요구에 40년 내공 ‘이 남자’의 대응은 [Books] - 매
- 안철수 “의대 2000명 증원정책, 의료체계 망쳐…1년 유예해야” - 매일경제
- 의협 차기회장 “의대교수를 범죄자 취급…동네 양아치나 할 저질 협박” - 매일경제
- ‘A대표팀 면담 루머?’ 황선홍 감독은 단호했다…“말도 안 돼, 저 그렇게 비겁한 사람 아니다