[윤선영의 렛IT고]日조회만 수천만…SNS 타고 퍼지는 가짜뉴스 `박멸특효약` 없나요?

MS(마이크로소프트) 빙에 'SNS에서 퍼지는 가짜뉴스'라는 지시어를 주자 AI가 생성한 이미지.

'테일러 스위프트를 보호하라(#protectTaylorSwift)'

최근 글로벌 SNS(소셜미디어네트워크서비스)를 뒤덮은 해시태그다. 미국 팝가수 테일러 스위프트의 얼굴을 합성한 AI(인공지능) 딥페이크 이미지가 X(옛 트위터)를 비롯한 주요 SNS에서 확산하면서 관련 규제를 강화해야 한다는 목소리가 커지고 있다.

AI 기술은 우리 삶에 편리함과 효율성을 가져다 줬다. 그러나 동시에 가짜뉴스, 저작권 분쟁 등 또 다른 위협도 몰고 왔다. SNS 타고 퍼지는 가짜뉴스 문제는 하루 이틀이 아니지만 AI 기술이 발전하면서 이를 기반으로 한 딥페이크 기술은 더욱 정교해지고 교활해지고 있다.

파장이 커지자 X는 뒤늦게 딥페이크 이미지를 삭제하고 검색 키워드에서 테일러 스위프트를 제외하는 등 조치를 취했다. 그간 '표현의 자유'를 이유로 검열 정책을 폐기하던 것과 대비되는 모습이지만 이미 스위프트의 얼굴을 합성한 딥페이크 이미지는 17시간 만에 4700만회 이상의 조회수를 기록한 상황이었다.

AI 기술이 등장한 이후 딥페이크를 악용한 사례는 급증하는 추세다. 미국의 가짜뉴스 추적 기관인 뉴스가드의 조사 결과 AI를 활용해 만든 가짜뉴스 웹사이트는 지난해 5월 49개에서 12월 기준 614개로 늘어난 것으로 파악됐다. 미 정치권에서는 불과 며칠 전 조 바이든 미국 대통령 목소리를 AI로 위조한 자동녹음전화(로보콜)가 무차별적으로 퍼지며 논란이 일기도 했다.

딥페이크 논란이 커지면서 미국 정치권에서도 규제의 필요성이 제기된다. 현재 미국 연방법에는 딥페이크 제작·유포를 규제하는 조항이 없다. 카린 장 피에르 백악관 대변인은 "매우 우려스럽다"며 "우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 SNS 업체들이 정보 제공과 규칙을 시행하는 데 해야 할 중요한 역할이 있다고 본다"고 밝혔다.

국내도 예외는 아니다. 특히 최근 국내에서는 딥페이크를 활용한 가짜뉴스가 정치권에서 활개를 치며 '혐오 정치' 등과 맞물려 위험성을 더욱 높이는 모습이다. 하지만 국내에도 딥페이크 제작 자체를 막을 방법은 없다. 현재 국회에는 딥페이크 게시물을 규제하기 위한 다수의 법안이 발의돼 있지만 계류 상태다.

SNS 기업들도 심각성을 느끼고 있다. 사티아 나델라 MS(마이크로소프트) CEO(최고경영자)는 "놀랍고 끔찍하다"면서 "(딥페이크와 싸우기 위해) 우리는 빨리 움직여야 하고 행동해야 한다"고 말했다. X는 텍사스 오스틴에 아동 성 착취물 등 불법 콘텐츠를 단속할 '신뢰와 안전 센터'를 신설하기로 했다.

다만 법으로 모든 것을 규제하는 것은 힘들다는 게 대체적인 시각이다. 한 업계 관계자는 "AI 기술은 긍정과 부정이라는 양면성이 전부 존재하고 어떤 식으로 대응해야 할지 충분한 논의가 있어야 한다"며 "그런 점에서 SNS 기업들의 자체 노력도 필요하지만 리터러시 차원에서 접근해야 할 필요성이 있다"고 전했다.윤선영기자 sunnyday72@dt.co.kr