AI, 이번엔 코딩 역사 바꿨다… 인간 한계 뛰어넘은 알고리즘 만들어

[사이언스 카페] ‘알파고’ 만든 구글 연구팀, 컴퓨터 언어 C++ 개선 성공

구글의 인공지능(AI) 연구팀 딥마인드가 개발한 AI가 기존보다 더 빠르고 효율적인 코딩 알고리즘을 만들어 인간이 더 이상 개선할 여지가 없다고 생각했던 컴퓨터 언어 C++을 개선하는 데 성공했다.

그래픽=백형선

딥마인드 연구팀은 심층 강화 학습으로 훈련시킨 AI ‘알파데브(AlphaDev)’가 기존의 ‘정렬 알고리즘’을 개선한 성과를 7일(현지 시각) 국제학술지 ‘네이처’에 발표했다. 딥마인드 연구팀은 인간과의 바둑 대결에서 승리한 ‘알파고’를 개발하며 인간과 협업할 수 있는 범용 AI를 만들어 왔다. 연구를 이끈 대니얼 맨코위츠 박사는 “AI가 지난 수십 년 동안 과학자와 엔지니어가 연구했던 알고리즘을 능가했다”면서 “AI가 만든 알고리즘은 이미 클라우드 컴퓨팅, 온라인 쇼핑 등 산업 전반에서 활용되고 있다”라고 했다.

알파데브가 개선한 ‘정렬 알고리즘’은 여러 항목을 원하는 순서대로 정렬하는 일종의 순서도로 컴퓨터 알고리즘 동작의 기초가 된다. 인간이 설계한 정렬 알고리즘은 이미 10여 년 전에 최적화돼 더 이상 개선되기 힘든 것으로 알려져 왔다. 알파데브는 정렬 알고리즘을 개선해 기존 방식보다 1.7% 더 효율적이고 최대 70% 빠르게 바꿨다. 연구팀은 이 알고리즘을 누구나 활용할 수 있는 오픈 소스로 공개했고, 매일 ‘수조 번’ 사용되고 있다.

알파데브는 새로운 정렬 방식을 강화 학습을 통해 찾았다. 알파고가 바둑의 조합 가능한 모든 수를 학습해 새로운 수를 찾아낸 것과 같은 방식이다. 알파데브는 10의 120제곱에 달하는 경우의 수를 분석해 기존보다 더 효율적이고 빠른 알고리즘을 만들면 보상을 받도록 설계됐다. 그러자 알파데브는 인간이 비효율적이라 생각했던 방식을 파고들어 새로운 알고리즘 정렬을 이뤄냈다. 연구팀은 이러한 알파데브의 행동이 지난 2016년 이세돌과의 바둑 평가전에서 보여준 알파고의 행동과 유사하다고 분석했다. 인간의 직관으로는 실수라고 판단되는 행동이 결국 알파고 승리의 중요한 역할을 한 것과 같다.

AI는 앞으로도 인간의 전유물로 여겨졌던 영역에서 한계를 극복하며 성과를 낼 것으로 보인다. 지난 2020년 딥마인드가 개발한 ‘알파폴드2′는 단백질 구조 예측에 성공하며 인간이 지난 50여 년간 연구한 결과를 뛰어넘었다. 영화와 소설, 미술 등 예술로도 영역을 확장하고 있다. 맨코위츠 박사는 “AI가 문제의 기초부터 분석하는 게 아니라 마치 인간의 직관을 활용하는 것처럼 문제를 해결할 수 있게 하는 것이 목표”라고 밝혔다.