고등학생도 10분 만에 딥페이크 '뚝딱'…윤리 교육·연구 절실 [인공지능 기획 4편]

[EBS 뉴스12]

인공지능은 감쪽같이 영상을 합성해낼 수도 있습니다. 

이른바 딥페이크라고 하는데, 최근엔 기술의 장벽이 낮아지면서, 각종 사이버 범죄에 이용되기도 합니다.

하지만 우리나라의 인공지능 윤리에 대한 연구나 정책은 갈 길이 멀다는 지적이 많은데요.

박광주 기자가 취재했습니다.

[리포트]

한 고등학생이 자신의 학교가 남녀공학 학교가 됐다는 소식을 알립니다.

"남녀공학으로 전환함으로써 학생들은 미래 진로를 선택할 때 더욱 다양한 선택지를 가질 수 있게 됩니다."

내용은 물론, 영상과 목소리까지 모두 인공지능이 만든 '가짜'입니다.

즉석에서 찍은 사진에 표정과 목소리를 입혔고, 그럴듯한 대본은 챗GPT에 부탁했습니다.

이런 딥페이크 영상 하나를 만드는 데 20분도 걸리지 않았습니다.

인터뷰: 김남준 2학년 / 서울 성남고

"구별이 더 불가능해지면 악용 가능성이 더 높아지기 때문에 학생 같은 경우에도 이렇게 쉽게 10분, 20분이면 만드니까 다른 사람들은 더 쉽게 만들 수 있을 것 같아요."

미국 트럼프 전 대통령에게 욕설하는 오바마 전 대통령과 명품 옷을 두른 프란치스코 교황.

모두 인공지능이 만든 가짜 영상입니다.

청소년도 쉽게 다룰 수 있을 정도로 인공지능 도구가 발전하면서, 인터넷에선 이런 '딥페이크' 제작물을 어렵지 않게 찾아볼 수 있습니다.

하지만 재미를 넘어 범죄로 악용되는 사례도 속출하고 있습니다.

유럽에선 한 에너지 기업 CEO의 목소리를 인공지능으로 위조해 수억 원 상당의 돈을 가로채는 보이스피싱 범죄가 보고되기도 했습니다.

인공지능의 편향성도 문제입니다.

미국 기업 아마존은 채용 과정에서 인공지능이 남성만을 추천해 논란 끝에 프로그램을 폐기하기도 했습니다.

세계 각국과 기업들이 인공지능 활용과 관련해 윤리 원칙을 만들기 시작한 이유입니다.

지난 2018년 미국의 IT기업 구글에서 AI 윤리 원칙을 발표한 데 이어, 유럽과 일본을 비롯한 선진국들이 잇따라 윤리 원칙을 발표했습니다.

이 같은 윤리 원칙에서 공통으로 강조하는 건 개인정보 보호와 기술의 투명성, 개발자의 책임성 등입니다.

관련한 연구도 폭발적으로 늘고 있습니다.

AI 윤리를 열쇳말로 한 논문은 2017년 121편에 그쳤지만, 불과 4년 만에 1,040편으로 10배가량 늘었습니다.

하지만, 미국이 1,300개가 넘는 논문을 낸 반면, 우리나라는 연구 실적이 116건에 그쳤습니다.

인터뷰: 소대섭 책임연구원 / 한국과학기술정보연구원

"(우리나라는) 규제적인 측면, 법적인 측면 이런 것들은 서유럽에 비해서 좀 뒤처져 있다고 봐야죠. 그것들이 정책에 그대로 반영이 되는 거예요. 진흥책이 우선이지 어쨌든 방어적인 거나 윤리나 이런 부분은 순위가 상대적으로 낮게 된다는 거죠."

인공지능 전성시대라 할 정도로 사회 전반에 인공지능 활용이 활발한 시대.

부작용을 막을 윤리 원칙과 연구의 필요성도 높아지고 있습니다.

EBS 뉴스, 박광주입니다.