"가짜라고요?" 생방송 화면 보고 깜짝…'AI 조작'의 무서운 진화

<앵커>

인공지능 기술이 발달하면서 조작된 사진이나 영상이 인터넷상에 많이 떠돌고 있죠. 그런데 인공지능이 실시간으로 달리는 댓글을 가짜로 만들어주는 앱까지 나와 논란이 되고 있습니다. 

임태우 기자가 보도합니다. 

<기자>

저는 서울 광화문 광장에서 인터넷 스트리밍 방송을 하고 있습니다.

지금 10만 명 정도 되는 시청자가 접속하고 있습니다.

스트리밍 화면에 실시간 채팅이 쉴 새 없이 올라옵니다.

세종대왕 동상 얘길 꺼내봤습니다.

[지금 제 뒤로 세종대왕 동상이 보이고 있습니다.]

그러자 채팅창 화제가 금세 세종대왕으로 바뀝니다.

시청자들과 실시간 상호작용하는 듯하지만, 시청자 수도, 댓글 내용도 모두 AI가 만들어낸 가짜입니다.

시민들에게 보여줬더니 AI가 조작한 사실이라는 걸 전혀 알아채지 못했습니다.

[이렇게 보시는 화면이 사실 가짜예요.]

[가짜예요? 어, 진짜요? 그럼 10만 명도 가짜인가요?]

[송성근/시민 : 충분히 속을 것 같아요. 채팅 나오는 게 (진짜 같아서) 무조건 속을 것 같습니다.]

미국 최대 토론 커뮤니티에서는, 이 앱을 이용해 길거리나 파티장에서 인플루언서 행세를 하며 이성의 호감을 얻는 영상이 올라와 논란이 뜨겁습니다.

[4만 6천의 시청자가 모두 널 보고 있어. (와, 정말로 흥미로운 걸?)]

AI 생성 기술이 만들어 낸 가짜 정보와 사진, 영상은 그래도 최소한의 확인과 검증할 시간이 있지만 이렇게 AI가 실시간으로 조작해 내는 현실 속에서는 의사 결정을 왜곡시킬 가능성이 훨씬 높아집니다.

미국 파티장의 가짜 인플루언서 사례처럼, 대규모 이용자와 실시간 댓글을 통한 조작된 반응은 특히 가짜 권위를 만들어내는 데 악용되기 쉽다는 게 전문가들의 견해입니다.

[윤혜선/한양대 법학전문대학원 교수 : 여론이 왜곡되고 그게 민주주의에도 영향을 미칠 수 있고 법치주의에도 영향을 미칠 수 있고….]

AI 활용 사실을 의무적으로 고지하고 신뢰성과 안전성을 확보하는 등의 AI 윤리 규범 마련도 시급해지고 있습니다.

(영상취재 : 강시우, 영상편집 : 정용화)

임태우 기자 eight@sbs.co.kr