[투데이 窓]AI가 바꿀 미래 연구·개발 '현장 안전'에 대비하자

손병호 한국과학기술기획평가원 부원장

앞으로 20년 안에 AI(인공지능)가 노벨상 시상식장에 등장해 자신의 연구성과를 설명하고 감격스러운 수상소감을 발표하는 모습을 볼 수 있을까. 창의, 논리, 직관 등 인간의 종합적인 사고능력을 요구하는 연구·개발 영역에서 AI가 어느 정도까지 영향을 미칠지 전 세계적으로 관심이 크다. OECD는 지난해 6월 'AI 인 사이언스(AI in Science): 도전, 기회, 그리고 연구의 미래'라는 보고서를 발간했고 미국 과학공학의학한림원은 '과학발견을 위한 AI'라는 주제로 워크숍을 개최했다. 과학자들은 이미 인간의 한계를 보완하고 창의적 연구성과를 창출하는데 AI를 이용한다. 막스플랑크연구소의 마리오 크렌 교수는 물리학의 새로운 아이디어와 개념을 학습하는데 유용한 AI 알고리즘을 개발해 연구실무에 활용하며 "AI는 과학자에게 영감과 아이디어를 주는 뮤즈"라는 말을 남겼다. 구글 딥마인드의 알파폴드는 우수한 단백질 구조예측 능력으로 신약개발의 패러다임을 바꾸고 있다.

최근 한국과학기술기획평가원(KISTEP)이 발간한 'AI가 변화시킬 미래 연구수행 모습' 보고서에선 AI가 바꿀 20년 후 연구·개발 모습을 'AI 기술발달'과 '플랫폼 지배구조'라는 2가지 측면에서 예측했다. 인간이 할 수 있는 모든 일을 수행하는 범용 AI가 실현되면 연구실에서 동료 AI 과학자와 같이 논쟁하고 실험하는 장면을 흔히 볼 수 있게 될 것이다. 더 나가 지능폭발로 AI의 연구속도가 임계치를 넘어서면 본격적인 연구는 AI 과학자가 전담하고 인간 과학자는 AI의 학습과 연구를 돕기 위해 연구데이터를 보정하거나 연구결과를 인간의 언어로 해석해 일반인에게 설명하는 일을 주업무로 삼게 될지도 모른다. AI는 과학자 커뮤니티에도 큰 변화를 가져올 것이다. 워드프로세서가 타자기를 대체하고 현미경이 미생물 연구를 생물학의 주류로 만들었듯이 AI를 잘 다루는 과학자와 독자적인 전문지식을 보유한 과학자 중심으로 과학자 커뮤니티가 재편될 것이다.

미래에 연구의 주도권이 AI로 넘어간다면 연구과정의 투명성과 공정성, 연구결과에 대한 명확한 책임소재가 더욱 요구될 것이다. 블랙박스에서 이뤄진 연구는 대중의 신뢰를 얻기 어려우며 편향된 연구는 잠재된 편견과 차별을 확대 증폭해 새로운 차원의 사회갈등을 유발할 수 있다. 또한 사고가 발생했을 때 AI에 모든 책임을 전가한다면 문제해결은 요원할 것이다.

대량의 데이터와 고성능 컴퓨팅 파워가 필수인 빅데이터 기반의 AI산업이 지속된다면 소수의 글로벌 빅테크가 연구·개발 관련 AI 플랫폼도 독과점할 가능성이 높다. 글로벌 빅테크가 AI 연구·개발 서비스를 지배한다면 AI를 활용한 연구결과 공개, 공유, 접근 역시 제한될 수 있다. 인류 공동의 소중한 자산이 돼야 할 연구·개발의 성과와 지식이 소수 민간기업의 이윤추구 행위에 이용될 위험이 있다.

미래 연구·개발 현장에서 AI의 역할이 커질 것은 확실하다. AI 과학자는 인간 과학자가 간과한 잠재적 패턴을 발견하고 쉼 없는 활동으로 연구 생산성을 높일 것이다. 또한 인간 과학자가 본인의 전공분야에 매몰된 동안 AI 과학자는 학제간 연구에서도 괄목할 성과를 창출할 것이다. 그러나 연구과정의 투명성과 공정성이 담보되지 않고 글로벌 빅테크가 핵심 플랫폼을 독과점한다면 비관적인 미래가 도래할 수 있다. AI 기업들이 기술경쟁과 속도전에 전념하기보다 이용규범과 안전장치 마련에도 관심을 기울여야 하는 이유다.

미래를 향한 도전과 성취를 독려하기 위해 과학자들과 대중에게 장밋빛 전망을 제시하는 것은 필요하다. 하지만 인간의 사고력을 대체하는 AI의 잠재적 파급효과를 고려한다면 비관적인 상황에 대한 철저한 준비도 병행해야 한다. AI에 대한 국제적 논의와 협력에 적극적으로 참여하고 시민들이 참여하는 논의의 장을 제공하는 등 정부의 고민과 노력이 시작돼야 할 때다.

손병호 한국과학기술기획평가원(KISTEP) 부원장