AI의 과학적 발견, 정말 ‘스스로’ 했나···사용자 대화 ‘무단 학습’ 의혹 잇달아 제기

인공지능(AI) 기업 앤트로픽 로고. 로이터연합뉴스

인공지능(AI)이 생명공학과 수학 분야에서 인간 과학자를 능가할 만한 발견을 해냈다는 소식이 잇따르는 가운데, 해당 성과가 AI의 독자적인 추론 결과가 아니라 연구자들이 AI와 대화한 내용을 무단 학습한 결과일 수 있다는 의혹이 제기됐다.

덴마크 코펜하겐대학 계산생물학자 마리오 로드리게스 메스트레는 27일(현지시간) 최근 앤트로픽이 자사 AI의 독자적인 연구 성과로 발표한 새로운 효소 시스템이 자신과 동료들이 수년간 연구해 온 미공개 연구 결과와 유사하다는 의혹을 제기했다.

앞서 앤트로픽은 지난 23일 자사 연구진이 AI 모델 클로드를 활용해 ‘배열 연관 역전사효소(ART)’ 시스템을 발견했다고 밝혔다. 앤트로픽은 연구진이 AI 에이전트에 수십억 개의 유전자 서열이 담긴 데이터베이스를 검색하도록 지시했고, AI는 자체적으로 소프트웨어를 작성해 후보 유전자를 탐색했다고 설명했다. 앤트로픽은 이를 두고 AI가 “스스로 생물학적 발견의 첫걸음을 내디뎠다”고 평가했다.

하지만 메스트레는 앤트로픽이 ‘ART’라고 이름 붙인 효소 시스템이 자신과 동료들이 지난 4년간 연구해 온 ‘점보트론’과 같은 시스템이라고 주장했다. 메스트레는 2022년 새로운 역전사효소를 찾던 중 거대 파지에서 해당 효소를 처음 발견했다. 이후 코펜하겐대학에서 관련 연구를 이어왔으며, 연구 결과는 아직 논문으로 발표되지 않았다.

그는 앤트로픽이 AI의 독자적 발견이라고 밝힌 연구 과정이 자신의 미공개 연구와 “놀라울 정도의 유사성”이 있다고 주장했다. 클로드와 메스트레 연구진 모두 같은 2022년 실험 자료를 분석해 유사한 RNA 유전자를 찾아냈는데, 메스트레는 자신이 이 분석 결과를 앞서 클로드와 공유했다고 밝혔다.

메스트레는 2023년 클로드가 출시된 이후 코드 작성과 논문 초안 작성 등에 AI를 광범위하게 사용했고, 점보트론을 다룬 박사학위 논문과 논문 원고도 입력했다고 밝혔다. NYT는 메스트레의 클로드 대화 기록 등을 검토한 결과 AI가 그의 연구 과정 전반에 활용된 것으로 보인다고 전했다.

메스트레는 “나에게 가장 중요한 질문은 ‘ART가 이미 알려져 있었느냐’가 아니다. 이미 알려져 있었다”며 “문제는 AI가 실제로 스스로 추론해 결과에 도달했는지, 아니면 부분적으로 우리 연구의 영향을 받아 그 결과에 도달했는지 여부”라고 말했다. 이어 “우려되는 것은 이 정보가 향후 모델을 훈련하는 데 사용됐을 가능성”이라며 “이 가능성을 제기하는 것이 중요하다고 생각한다”고 말했다.

앤트로픽은 이를 부인했다. 앤트로픽은 “클로드는 어떠한 사용자 대화 내용으로도 훈련되지 않았고, 사내 분자생물학 연구팀 역시 사용자 대화에 접근할 수 없다”고 밝혔다.

비슷한 논란은 최근 수학계에서도 불거졌다. 지난 9일 오픈AI가 자사 AI를 이용해 90년간 풀리지 않았던 수학 난제 ‘나비에-스토크스 방정식’을 해결했다고 발표하자, 뉴욕대 수학자 트리스탄 벅마스터는 자신과 동료가 해당 난제를 연구하면서 오픈AI의 AI 모델 챗GPT를 사용해왔다고 밝혔다. 벅마스터는 오픈AI가 자신들의 연구에서 영향을 받았을 가능성을 제기하며 “고객의 데이터를 이용해 그 고객보다 먼저 연구 성과를 발표하는 것이 윤리적인가”라고 지적했다.

오픈AI 역시 자사 모델이 벅마스터와 나눈 대화 내용으로 훈련되지 않았다고 해명했다.

학계에서는 도구로서의 AI 활용을 둘러싼 경계심이 커지고 있다. 캘리포니아대 샌프란시스코캠퍼스의 생명공학자 세스 쉽먼은 최근 같은 분야 과학자들로부터 “우리의 프롬프트로 AI를 훈련하고 있는 것 아니냐”는 우려를 여러 차례 들었다며 “그 가능성을 생각하지 않을 수 없다”고 말했다. 메스트레 역시 이번 논란을 계기로 클로드를 이용한 연구를 줄이고 다른 AI 모델로 옮기고 있다고 밝혔다.

---

☞ [사이월드] ‘평면 위 9개의 점, 최대 쌍은’ 80년 난제 해결한 AI···인간 수학자의 미래는
     https://www.khan.co.kr/article/202605311700001

---

최경윤 기자 cky@kyunghyang.com