IBM AI도 앞질렀다…GIST, 개인 맞춤형 항암제 찾는 AI 개발

유전자 정보 분석해 치료제 설계하는 AI 세계 최초 개발

국내 연구진이 암 환자의 유전자형을 분석해 개인 맞춤형 항암제 후보물질을 제안하는 생성형 인공지능(AI) 모델을 세계 최초로 개발했다./데이비드 베이커 미국 워싱턴대 생화학과 교수 연구진

암은 동일한 유형의 질환이라도 환자마다 유전자 정보가 달라 치료 효과에 큰 차이를 보인다. 특히 ‘삼중-음성 유방암’과 같은 난치성 암은 표적이 명확하지 않아 기존 치료법으로는 충분한 효과를 기대하기 어렵다.

남호정 광주과학기술원(GIST) 전기전자컴퓨터공학과 교수 연구진은 암 환자의 유전자형을 분석해 개인 맞춤형 항암제 후보물질을 제안하는 생성형 인공지능(AI) 모델을 세계 최초로 개발했다고 3일 밝혔다. 환자 맞춤형 정밀의료는 물론, 기존의 치료법이 잘 듣기 않는 난치성 암에 대한 새로운 해법을 제시할 수 있게 됐다.

지금까지의 생성형 AI 기반 항암제 개발 연구는 몇 가지 한계를 안고 있었다. 암과 같은 복합 질환에서는 치료 표적이 불분명한 경우가 많아 생성된 약물의 효과가 제한적이었고, 임상 현장에서 확보하기 어려운 특수한 데이터에 의존하는 경우가 많아 실제 활용 가능성이 낮았다.

연구진은 이러한 한계를 극복하기 위해 약 150만 개의 화학 구조와 120만 건의 약물 반응 데이터를 학습한 생성형 AI 모델 ‘G2D-Diff’를 개발했다. 실제 임상에서 확보할 수 있는 유전자 정보와 목표로 하는 약물 반응 수준을 입력하면, 이에 최적화된 항암제 후보물질을 자동으로 설계한다.

G2D-Diff는 기존 생성형 AI 모델들에 비해 모든 성능 지표에서 압도적인 성능을 보였다. 특히 최고 성능을 가진 모델로 알려진 IBM의 ‘PaccMannRL’과 비교했을 때, 다양성, 실현 가능성, 조건 적합성 등에서 모두 우수한 성능을 보였다.

생성된 화합물들이 입력된 유전자형 조건에 얼마나 잘 부합하는지 평가하는 ‘조건 적합성’ 항목 중 약물 반응성 예측에서는 기존 모델이 약 51%의 평균 오차율을 보인 반면, G2D-Diff는 약 1% 수준의 평균 오차율을 기록했다. 생성된 분자 구조는 약물 유사성(QED) 및 합성 접근성(SAS) 측면에서 실제 약물군들과의 분포 유사성이 기존 모델보다 평균 35~44% 더 높게 나타나, 실제 신약으로 개발될 가능성도 높다는 점을 입증했다.

연구진은 G2D-Diff 모델을 난치성 암의 대표 사례인 삼중-음성 유방암에 적용해 실제 활용 가능성을 검증했다. 환자들의 유전자 변이 정보를 입력해 생성한 후보물질들은 암세포 증식을 억제하는 핵심 단백질인 PI3K, HDAC, CDK 등을 정확히 표적으로 삼았다.

남호정 교수는 “이번 연구는 개인 맞춤형 의학의 새로운 가능성을 연 것으로, AI 기술이 난치성 암 환자들에게 새로운 희망을 제공할 수 있을 것으로 기대한다”고 말했다.

연구 결과는 국제 학술지 ‘네이처 커뮤니케이션즈(Nature Communications)’ 온라인판에 지난 1일 게재됐다.

참고 자료

Nature Communications(2025), DOI: https://doi.org/10.1038/s41467-025-60763-9

- Copyright ⓒ 조선비즈 & Chosun.com -