AI 사진과 진짜 얼굴 구별 어려운 이유...인종 불균형 학습이 원인

에이미 다웰 호주국립대 교수 연구진

가장 많은 사람이 사람 얼굴이라고 생각한 얼굴 사진(a)와 AI 사진이라고 판단한 얼굴 사진(b). 얼굴 사진 아래에 실제 사람 얼굴인지, AI 사진인지 성별과 함께 비율이 보인다. / 심리 과학

사람들은 인공지능(AI)으로 만든 백인 얼굴을 실제 사람보다 더 사람 같다고 판단한다는 분석 결과가 나왔다. 특히 AI가 생성한 가짜 사진에 속은 사람은 자기 판단에 대한 확신이 다른 사람보다 더 강한 것으로 분석됐다. 일각에선 AI 이미지가 범죄, 가짜뉴스의 전파에 악용되는 것을 막으려면 AI 이미지에 대한 규제가 필요하다는 목소리가 나온다.

에이미 다웰 호주국립대 교수 연구진은 14일 국제 학술지 ‘심리학 과학’에 AI가 생성한 얼굴 50장과 실제 사람 얼굴 50장을 이용한 실험에서 AI 백인 사진을 실제 사람 사진보다 더 진짜같다고 생각하는 사람이 많다는 사실을 알아냈다고 밝혔다.

생성형 AI 기술이 발달하면서 사실적인 영상을 만들어내는 ‘딥페이크’로 인한 부작용이 사회 문제로 자리 잡고 있다. 실제 사람과 구분하기 어려울 정도로 정교한 영상 때문에 범죄나 가짜뉴스를 퍼뜨리는 데 사용될 정도다.

연구진은 두 차례에 걸쳐 124명, 610명의 참가자를 모집해 생성형 AI로 만든 사진과 실제 사람의 사진을 구분할 수 있는지 시험했다.

우선 AI가 만든 사진과 실제 사람 사진을 각각 50장씩 참가자에게 보여준 후 실제 사람의 것을 찾게 했다. 이후에는 그 이유와 자신의 선택에 대해 확신하는 정도를 확인했다. 연구진은 또 AI 사진과 사람 사진을 제시하면서 얼굴을 인식할 때 고려하는 차별성, 친숙함, 매력, 얼굴 비율 등 14가지 특성을 평가하게 했다.

분석 결과 사진 속 인물이 속한 인종에 따라 진짜 사람과 AI사진을 구분하는 수준이 다른 것으로 나타났다. 특히 AI로 만든 백인 사진을 제시했을 때 진짜 사람과 구별하는 데 어려움을 느끼는 경우가 많은 것으로 나타났다. AI 사진을 실제 사람으로 판단한 비율은 65.9%, 사람 사진을 실제 사람으로 판단한 비율은 51.1%로 더 낮은 것으로 확인됐다.

유색 인종의 경우에는 이런 차이가 나타나지 않았으며, 얼굴 비율과 친숙함, 기억하기 쉬운 정도가 실제 사람으로 평가하는 데 중요한 역할을 하는 것으로 나타났다. 알아보기 쉬운 사진이 사람처럼 느껴진다는 의미다.

다웰 교수는 “생성형 AI에 사용되는 백인 사진이 불균형하게 많이 사용돼 사람들을 더 속이기 쉬워졌다”며 “백인 AI 얼굴을 지속적으로 학습할 경우 인종적 편견을 강화해 유색 인종에게 심각한 영향을 줄 수 있다”고 말했다.

실제로 생성형 AI 학습에 사용되는 백인 사진은 전체의 69%에 달하는 것으로 알려져 있다. 학습 데이터의 인종 불균형으로 알아보기 쉬운 특징을 가진 사진이 만들어지고, 이 때문에 실제 사람과 구분이 어렵다는 것이다. 유색 인종 사진을 사용할 경우 AI가 피부색과 눈동자 색을 백인 피부색과 눈동자 색으로 바꾸는 현상이 나타났다. AI가 학습한 데이터에 백인 사진이 많아 다른 인종의 사진을 만들더라도 백인에게 친숙한 모습으로 재창조한다는 것이다.

이번 실험에서는 또 오류를 많이 범한 사람들일수록 자신의 판단에 대한 확신이 더 강해 사람들이 자신이 AI에 속고 있다는 사실을 모르는 경우가 많은 것으로 나타났다. AI가 만든 가짜 사진에 속고 있는 사람은 자신이 잘못된 판단을 했다는 점을 알아차리기 어렵고, 결국 범죄나 가짜뉴스의 희생양이 된다는 분석이다.

다웰 교수는 “AI의 부작용을 막기 위해서는 적절한 사회적 규제를 마련해야 한다”며 “심리학적 이론을 바탕으로 AI의 편향성을 없애는 전략을 적용해 윤리성을 높여야 한다”고 말했다.

이번 연구 결과는 국제 학술지 ‘심리학 과학’에 14일 소개됐다.

지난 4월 ‘버즈피드’와 할리우드의 코미디언, 각본가, 영화제작자인 조던 필레가 만든 ‘버락 오바마 전 미국 대통령의 딥페이크 동영상.' 어도비사의 ‘에프터 이펙트’와 ‘페이크앱’을 이용해 제작한 이 ‘가짜 동영상’은 오마바 전 대통령이 트럼프 대통령을 ‘멍청이'라고 비난하는 장면을 ‘제작'했다.

참고자료

Psychological Science, DOI: http://dx.doi.org/10.1177/09567976231207095

- Copyright ⓒ 조선비즈 & Chosun.com -