“미소녀인 줄로만 알았는데” 이러다 큰일난다…무슨 일이?

이미지 생성 AI시스템 미드저니 홈페이지에 올라 온 후드를 입은 아시아 여자. [미드저니 홈페이지 캡처]

[헤럴드경제=고재우 기자] “진짜보다 더 진짜 같다.”

인공지능(AI)으로 생성된 사람 얼굴 사진이 실제 사람보다 더 진짜처럼 보이는 현상이 나타났다. 가상과 현실을 구분하지 못 할 정도로 AI로 생성된 인물 이미지 사진이 정교해지면서 가짜뉴스 등에 대한 우려의 목소리가 나온다.

19일(현지시간) 뉴욕타임스(NYT)에 따르면 AI 이미지가 가짜뉴스, 허위 정보 확산 등을 부채질할 가능성이 커지고 있다.

최근 AI 이미지에 대한 여러 연구 결과에 따르면 AI 얼굴 사진과 실제 사람 얼굴 사진을 구분하도록 하는 실험 결과 AI 백인 얼굴 사진이 실제 사람보다 더 현실적인 것으로 인식되는 ‘극사실주의’(하이퍼 리얼리즘) 현상이 확인됐다.

실제로 NYT가 기사에서 제시한 AI 백인 얼굴 사진 5장 중 4장은 연구 결과 실험 참가자의 89∼93%가 진짜 사진으로 착각한 것으로 나타났다.

이미지 생성 AI가 학습한 수만 장에 이르는 실제 인간 얼굴 사진의 대부분이 백인 얼굴이어서 백인 얼굴은 현실보다 더 현실적으로 나온다는 것이다.

그간 AI 사진은 양쪽 귀 모양이 다르다거나 하는 AI임을 숨길 수 없는 흔적이 통상적으로 있었다.

하지만 이제 AI의 발전으로 AI 사진 속 얼굴의 모든 부분이 실제 사람의 평균적인 비율에 매우 가까워져서 실험 참가자가 AI인지 의심하지 못할 정도가 됐다는 것이다.

오히려 실험 참가자들은 실제 사람 얼굴 사진에서 귀 모양이 남들과 다르다든가 코가 평균치보다 더 크다든가 하는 등 평균 비율과 어긋나는 부분을 보고 AI 사진으로 착각하는 것으로 보인다고 NYT는 전했다.

이처럼 AI 사진이 실제 사람보다 더 진짜 사람처럼 보일 수 있다는 점에 전문가들은 깜짝 놀라고 있다.

에이미 다웰 호주국립대(ANU) 교수는 “이런 AI 사진이 가짜 메시지의 온라인 확산을 도울 수 있다”고 우려했다.

이런 실험에서 참가자들이 자신의 선택을 얼마나 확신하는지 표시하도록 한 결과 확신도가 높을수록 틀릴 확률이 커지는 것으로 나타났다.

다웰 교수는 “과도한 수준의 이런 자신감을 보고 놀랐다”며 “이는 인터넷에서 우리를 가짜 정보에 더 취약하게 만드는 사고방식을 암시한다”고 설명했다.

다만 AI의 학습량이 상대적으로 적은 백인 외의 인종 얼굴은 이런 현상이 덜한 것으로 조사됐다.

ko@heraldcorp.com