“이게 뭐야?”… 논문에 들어간 AI이미지에 과학계 ‘깜놀’

중 과학자 발표한 논문에 기괴한 그림
저자 “미드저니로 그림 생성”
과학계 “동료평가 어떻게 한 것이냐” 비판

학술지 프런티어에 게재된 논문의 이미지. 기괴한 형태의 그림일 뿐 아니라 이를 설명하는 철자에서도 오류가 여럿 발견됐다. [사진=프런티어]

지난 15일(현지 시각) 과학 학술지에 게재된 논문에 포함된 ‘괴상한’ 그림으로 과학계가 술렁이고 있다. 생성형 인공지능(AI)으로 만든 이미지가 논문에 포함됐는데, 그림은 물론 이를 설명하는 문장이 모두 잘못된 것으로 나타났다. 과학기술계에서 이를 제대로 걸러내지 못한 학술지에 대한 비난이 거세지고 있다.

15일 외신 등을 종합하면 중국 시안 홍휘 병원 연구자들이 학술지 ‘프런티어 인 셀 앤드 디벨롭먼트 바이올로지’에 게재한 논문에서 이상한 그림이 발견됐다. 기이할 정도로 큰 생식기를 가진 쥐의 모습인데, 그림에 대한 설명도 엉망이었다.

비판이 제기되자 학술지 측은 조사를 시작했다. 현재 해당 논문을 검색하면 “조사가 진행 중이다. 조사가 끝나면 공지사항을 통해 업데이트하겠다”는 안내 문구를 볼 수 있다.

문제가 된 논문은 ‘정자 줄기세포의 세포 기능 : JAK/STAT 신호 전달 경로와 관련된 정자 줄기세포의 기능(Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway)’ 이라는 제목의 논문으로 정원세포(남성 생식 세포를 만드는 줄기세포)의 신호 전달 경로와 관련된 그동안의 연구 결과를 분석한 ‘리뷰 논문’이다.

이 논문에 실린 첫 번째 그림은 이상할 정도로 괴이하다. 쥐의 커다란 생식기를 해부한 모습을 보여주고 있는데 문제는 이를 설명하는 철자 역시 오류투성이다. 예를 들어 줄기세포는 ‘Stem cell’인데 ‘Stemm cell’ 이라고 쓰여있을 뿐 아니라 의미를 알 수 없는 ‘dck’라는 글자가 그림을 설명하고 있다. 해당 논문에는 이 그림이 ‘미드저니’를 이용해 만들었다고 표시돼 있다. 미드저니는 사용자가 입력하는 명령어를 기반으로 이미지를 생성하는 AI 프로그램이다.

과학기술계에서는 피어리뷰(동료평가)를 거쳐야만 출판되는 논문에 오류 투성인 이미지가 포함된 만큼 믿을 수 없다는 반응이다. 미국의 IT 전문매체 기즈도모가 해당 논문의 저자인 중국 과학자들에게 연락을 했지만 답변은 없었다고 밝혔다.

과학 논문에서 이미지 조작 등을 걸러내는 전문가로 꼽히는 엘리사베스 비크 박사는 자신의 블로그에 “이번 사건은 생성형AI가 학계에 스며든 최신 사례”라며 “과학자, 학술지, 편집자, 피어리뷰 과학자 모두에게 우려스러운 일”이라고 적었다. 이어 “이 그림은 분명히 과학적으로 올바르지 않지만 이렇게 엉망진창인 그림이 동료평가를 통과할 수 있다면 더 사실적으로 보이는 AI 생성 그림이 이미 과학 문헌에 침투했을 가능성이 크다”라며 “생성형 AI는 과학 논문의 질, 신뢰성, 가치에 심각한 피해를 줄 것”으로 우려했다.