AI 설계 단백질이 생물학 무기?…과학자들 첫 '오용 방지 협약'

한국 과학자 포함 전세계 과학자 90여명 서명

AI가 제작한 단백질 구조의 이미지 예시. 미국 워싱턴대 단백질디자인연구소 제공

신약 개발에 쓰이는 인공지능(AI)이 인간에게 치명적인 생화학적 무기를 만들 수 있는 가능성이 제기되자 이를 막자는 과학자들의 성명서가 처음으로 나왔다. 지난해 미국 상원 사법위원회 소위원회 청문회에서 AI의 생물학적 공격 위험 문제가 언급된 지 8개월 만이다. 

단백질 설계 분야 대가인 데이비드 베이커 미국 워싱턴주립대 단백질설계연구소장의 주도로 전 세계 생물학자, AI 연구자 등 과학자 90여 명이 8일(현지시각) 단백질 설계를 위한 AI의 책임 있는 개발을 위한 협약 ‘책임감 있는 AI X 바이오디자인’에 서명했다. 단백질 설계란 인간에게 유용한 단백질 구조를 디자인하고 만드는 과정을 말한다. 협약에는 백민경 서울대 생명과학부 교수, 박한범 한국과학기술연구원(KIST) 뇌과학연구소 선임연구원 등 한국 연구자들도 참여했다.  

협약의 조항은 총 10개로 ‘연구의 이점과 위험에 대해 소통한다’, ‘사회의 이익을 위해 연구를 수행하고 오용을 조장할 가능성이 있는 연구를 삼간다’, ‘위험한 생체분자를 제조하기 전 DNA 합성 스크리닝을 개선하기 위한 새로운 전략 개발을 한다' 등의 내용이다.

AI를 기반으로 인공 단백질을 설계하는 연구는 최근 신약 개발에서 각광 받는 분야다. AI를 이용해 단백질 구조를 파악하는 데 시간과 비용을 대폭 줄임으로써 암세포나 독감 바이러스 등에 맞서 싸울 수 있는 인공 단백질을 쉽게 만들 수 있다.

구글 딥마인드는 2019년 단백질 구조 예측 AI인 ‘알파폴드’를 개발해 학계를 놀라게 했다. 이어 2021년 베이커 교수가 당시 박사후연구원이었던 백민경 교수 등과 함께 정확도가 높은 또 다른 AI ‘로제타폴드’를 개발했다. 국제학술지 ‘사이언스’는 로제타폴드를 2021년 올해 최고의 연구 성과로 뽑은 바 있다.

그러나 생성형 AI 기술을 향한 우려가 커지면서 AI를 이용한 단백질 설계 분야도 걱정의 눈초리를 피하지 못했다. 지난해 미국 상원 사법위원회 소위원회 청문회에서 ‘오픈AI의 대항마’로 알려진 스타트업 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 “악의적인 누군가가 생물학 무기를 개발하는 데 AI가 도움을 줄 수 있다”고 언급하면서 정치권은 산업계와 학계에 ‘대책을 마련하라’며 목소리를 높였다. AI로 유용한 단백질을 만드는 것처럼 해로운 단백질도 인위적으로 만들 수 있지 않냐는 것이다.

이런 상황에서 과학자들이 먼저 나서서 해당 우려에 대한 예방책 및 지침 등을 구체화하기 위해 이번 협약이 나왔다. 협약에 참여한 백 교수는 “미국을 비롯한 여러 정부가 구체적인 규제를 만들 때 참고하라는 차원에서 협약을 만들었다”고 설명했다. 

전문가들은 “AI로 생화학적 무기를 제작하는 것을 걱정하기엔 시기상조”라고 평가한다. 박 연구원은 “챗GPT로 영상을 만드는 것과 다르게 AI로 단백질을 디자인한다고 해도 컴퓨터 안에서 일어나는 것이기 때문에 실제 단백질로 만들려면 대규모의 실험이 오랫동안 진행돼야 한다”고 했다. 물론 걱정이 아예 없는 것은 아니다. 훗날 AI를 이용해 단백질을 만드는 과정이 빨라지고 산업화되면 위험이 높아진다. 

백 교수는 이러한 위험을 막기 위해 오히려 협약 등을 통해 AI 개발자와 과학자들이 프로그램을 자꾸 공개하도록 해야 한다고 설명했다. 그는 “협약을 통해 프로그램 코드와 소스를 공개하는 것이 자연스러운 것이라는 분위기를 형성하면 공개된 자료를 보며 서로 토의하고 문제가 있다면 미리 자정의 노력을 기울여 예방할 수 있다”라며 “한국은 이제 막 해당 분야 연구가 이뤄지고 있는 단계라 규제에 대한 목소리가 높진 않지만, 앞으로 연구가 활발해지면 비슷한 논의가 나올 것”이라고 말했다.

국제학술지 ‘사이언스’는 로제타폴드를 2021년 올해 최고의 연구 성과로 뽑았다. 사이언스 제공

[이채린 기자 rini113@donga.com]