“사람보다 더 진짜 같은 AI 얼굴, AI 극사실주의 경보”

실제 사람 사진으로 가장 많이 선택된 사진 5장 중 4장이 AI가 생성한 얼굴이었고(a), AI가 생성한 얼굴로 가장 많이 선택된 5장 중 4장은 실제 사람 사진이었다. Psychological Science/Amy Dawel et al 캡처.

사람들은 인공지능(AI)이 생성한 백인 얼굴을 진짜 사람보다 더 사람 같다고 판단하고, AI 사진에 속은 사람들은 자기 판단에 대한 확신이 다른 사람보다 더 강하다는 연구 결과가 나왔다. 연구팀은 ‘AI 극사실주의’가 인종 편견을 강화하고 잘못된 정보 확산 등에 악영향을 미칠 수 있다며 조치가 필요하다고 경고했다.

호주국립대 에이미 다웰 교수팀은 14일 과학저널 ‘심리과학’에서 AI 생성 얼굴 50장과 실제 얼굴 사진 50장을 이용한 실험 결과, AI 백인 사진을 사람 사진보다 진짜 같다고 판단한 사람이 더 많은 것으로 나타났다고 밝혔다.

반면 유색 인종의 경우는 이런 차이가 나타나지 않았다. 오류를 범한 사람일수록 자신의 판단에 대한 확신이 더 강해 AI에 속고 있다는 사실조차 모르는 경우가 많았다.

연구팀은 해당 연구에서 각각 124명과 610명이 참여하는 두 가지 실험을 했다. 첫 실험에서는 AI 생성 얼굴 사진 50장과 실제 사람 사진 50장을 무작위로 제시한 후 AI 사진인지, 사람 사진인지 판단하게 하고 그 이유를 물은 다음, 자신의 선택에 대해 얼마나 확신하는지 수치(0~100)로 답하게 했다.

두 번째 실험에서는 AI 사진과 사람 사진을 잘못 판단하게 만드는 요인이 무엇인지 밝히기 위해, AI 사진과 사람 사진을 제시하면서 얼굴을 인식할 때 고려하는 친숙함과 차별성, 얼굴 비율 등 14가지 특성을 평가하게 했다.

첫 실험 결과, AI 생성 얼굴 중 백인을 진짜 사람 얼굴로 오인하는 경우가 많은 것으로 나타났다. AI 백인 얼굴을 실제 사람으로 판단한 비율은 65.9%에 달했지만, 실제 사람 얼굴을 진짜라고 제대로 판단한 비율은 51.1%에 그쳤다. 그러나 유색 인종 얼굴에서는 이런 차이가 나타나지 않았다.

다웰 박사는 “이런 불일치는 AI 알고리즘이 불균형적으로 백인 얼굴로 학습했기 때문”이라며 “백인 AI 얼굴이 지속해 더 사실적인 것으로 인식될 경우 인종적 편견을 강화해 유색인종에게 심각한 영향을 줄 수 있다”고 우려했다.

이어 “이 문제는 AI 기술을 이용해 사진을 전문가처럼 보이도록 만들 때 더 드러난다”며 “유색 인종 사진을 사용할 때 AI가 피부색과 눈동자 색을 백인 피부색과 눈동자 색으로 바꾸는 현상이 나타나고 있다”고 설명했다.

실험에서는 또 AI 사진을 진짜 사람으로 판단하는 오류를 범한 사람들이 자기 판단에 대해 더 강하게 확신하는 것으로 나타났다. 연구팀은 이를 지식이 얕을수록 더 많이 안다고 생각하는 일명 ‘더닝-크루거 효과’(Dunning-Kruger effect)로 분석하고, AI 극사실주의 문제 중 하나는 바로 사람들이 속고 있다는 사실을 깨닫지 못하는 것이라고 지적했다.

두 번째 실험에서는 사람들이 AI 얼굴에 속는 이유가 제시됐다. 분석 결과 얼굴 비율과 친숙함, 기억 용이성 등 얼굴의 지각적 특성이 AI가 생성한 극사실주의 사진에 속는 데 기여하는 것으로 나타났다.

연구팀은 “문제는 속을 가능성이 가장 높은 사람들이 속고 있다는 사실을 감지할 가능성이 낮다는 점”이라며 “이런 추세가 계속되면 잘못된 정보 확산과 신원 도용 등 심각한 영향을 미칠 수 있어 이에 대한 조치가 필요하다”고 밝혔다.

다웰 박사는 “AI는 기술 회사들만 그 이면에서 무슨 일이 일어나고 있는지 알 수 있게 분리돼서는 안 된다”며 “더 큰 문제가 되기 전에 연구자와 시민사회가 알 수 있도록 AI의 투명성을 높여야 한다”고 말했다.

김은성 기자 kes@kyunghyang.com