기시다 총리도 당했다…"AI로 1시간 만에 제작" 뭐였길래

<앵커>

발전하는 AI 기술에 세계 정상들도 속수무책으로 당하고 있습니다. 이번에는 일본 기시다 총리가 AI가 만든 가짜 동영상의 주인공이 됐습니다.

도쿄에서 박상진 특파원이 소식 전해왔습니다.

<기자>

뉴스에 기시다 총리가 등장합니다.

일본 민영방송 로고와 속보 표시가 있어 마치 총리의 긴급 회견처럼 보입니다.

하지만 발언은 성적인 내용으로 채워져 있고, 기시다 총리는 표정 변화 없이 입술만 움직입니다.

[기시다/일본 총리 (가짜 영상) : (본인은) 변태 내각의 대표자로서 지난 8월 16일….]

지난 2일 소셜미디어에 올라온 이 영상은 200만 회가 넘는 조회수를 기록했는데 인공지능 AI를 이용한 가짜 동영상입니다.

오사카에 사는 20대 남성은 재미 삼아 인터넷 등에 공개된 총리의 음성을 생성형 AI에 학습시켜 1시간 만에 문제의 영상을 제작했다고 일본 언론에 밝혔습니다.

로고 등을 도용당한 방송사가 강력 대응을 예고하자, 이 남성은 영상을 삭제하고 사과문을 올렸습니다.

앞서 미국 등에서도 AI를 이용한 가짜 동영상이 문제가 됐습니다.

지난 3월 트럼프 전 미 대통령이 경찰에 체포되거나 교도소 재소자 옷을 입고 있는 모습이 퍼지는가 하면, 바이든 미 대통령이 성소수자에 대해 폭언하는 가짜 영상도 나왔습니다.

[바이든/미국 대통령 (가짜 영상) : (성전환한) 당신은 진정한 여성이 될 수 없습니다. 당신은 자궁을 가지고 있지 않습니다.]

미국과 영국, 한국 등 28개국은 AI가 심각한 피해를 일으킬 수 있다며 처음으로 협력 선언을 채택했습니다.

[수낵/영국 총리 : 뜻을 같이 하는 정부와 기업들이 획기적인 합의에 도달했습니다. 우리는 새로운 AI 모델의 안전성을 시험하기 위해 함께 노력할 것입니다.]

AI가 일상과 업무 속으로 빠르게 침투하고 영향력도 커지면서 적절히 규제해야 한다는 목소리도 갈수록 힘을 얻고 있습니다.

(영상취재 : 한철민, 영상편집 : 이승진)

박상진 기자 njin@sbs.co.kr