[김병필의 인공지능 개척시대] 인공지능과 수학의 언어

김병필 KAIST 기술경영학부 교수

지난달 구글 딥마인드는 ‘알파 지오메트리’라는 인공지능을 공개했다. 기하학 문제를 푸는 인공지능이다. 국제 수학 올림피아드 대회 문제를 풀었을 때 은상을 받을 수준이라 한다. 세계에서 가장 똑똑한 학생들이 푸는 어렵고 복잡한 문제를 풀어낸다니 감탄스럽다.

하루가 멀다고 새로운 인공지능 개발 뉴스가 쏟아지고 있는 마당에 이 소식이 그리 놀랍지 않을 수 있다. 이제 인공지능이 기하학 문제까지도 잘 풀게 되었다고 생각하며 그냥 지나칠 만도 하다. 하지만 이번 소식은 특히 주목할 가치가 있다. 현재의 인공지능이 갖는 근본적 한계를 돌파하고자 하는 시도이기 때문이다.

■

「 AI가 수학·논리 능력 갖추면
활용 지평 폭발적 성장 가능
현재 AI 패러다임 넘어서는
새로운 도전 장려·지원해야
」

인공지능개척시대

지금 우리가 쓰고 있는 인공지능은 논리 추론에 취약하다. 컴퓨터는 논리 회로를 집적시켜 연산을 수행하는 장치인데, 인공지능이 논리적으로 사고하기 어렵다니 다소 의아하게 여겨질 수도 있겠다. 지금의 인공지능이 논리에 약한 이유는 대부분 ‘패턴 인식’에 특화된 구조로 되어 있기 때문이다. 패턴 인식 인공지능은 방대한 학습 데이터 속에서 반복되는 형태를 포착하고, 이를 이용해 가장 그럴듯한 답을 도출한다. 예컨대 사진 속 물건을 식별해 내는 사물 인식 인공지능은 각각의 사물이 어떤 모습을 갖추고 있는지 패턴을 배운다. 챗봇 인공지능도 비슷하다. 인간의 대화 패턴을 찾아 각각의 맥락에 어울리는 답변을 생성한다. 이처럼 현재의 인공지능은 숨은 패턴이 반복되는 영역에서 빛을 발한다.

그러나 수학에서 명제를 증명하는 것과 같은 논리적 추론 작업은 패턴 인식 작업과는 사뭇 다르다. 논리적 추론은 미리 정해진 일련의 규칙을 적용해 차근차근 생각해 가는 과정이다. 패턴을 익히는 것만으로는 추론 작업을 수행하기 어렵다. 마치 수학 문제집에서 수많은 문제의 정답을 외우는 것만으로는 비슷한 문제에 비슷하게 답할 수 있을 뿐 새로운 문제를 정확히 풀지는 못하는 것과 같은 이치다.

딥마인드는 수학 문제를 푸는 인공지능을 개발함으로써 인공지능이 논리 추론에 취약하다는 문제를 해결할 수 있을 것으로 기대한다. 수학은 현대 기술 문명의 바탕을 이루고 있다. 인간의 언어는 불명확성과 모순으로 가득 차 있지만, 수학의 언어는 엄밀하고 일관된다. 수학에서는 참과 거짓이 명확히 구분되고, 어떤 명제가 참임을 증명하기 위해 엄격한 규칙을 따라야 한다. 따라서 인공지능이 수학 문제를 잘 해결할 수 있다는 것은 논리적 추론 능력을 갖추고 있다는 뜻이 된다.

앞으로 인공지능이 논리적 추론 능력을 갖추게 되면 현재 인공지능의 여러 문제가 해결될 수 있다. 지금의 챗봇은 틀린 답을 천연덕스럽게 사실인 양 답하기도 하고 가짜 뉴스를 지어내기도 한다. 하지만 논리 규칙에 따르는 답변만을 생성하는 인공지능은 그렇지 않을 것이다. 그러니 중요한 업무에서도 신뢰하고 사용할 수 있을 것이다.

더욱이 과학과 공학 분야에서 우리의 지식은 수학의 언어로 표현되어 전파되고 활용된다. 만약 인공지능이 수학을 능숙하게 다룰 수 있게 되면 인공지능의 활용 범위는 기하급수적으로 늘어날 것이다. 이미 많은 과학 기술 연구자가 인공지능의 도움을 얻고 있지만, 그 활용 범위가 증가할 여지는 여전히 많다. 그래서 여러 인공지능 개발사는 논리 추론 능력을 갖춘 인공지능을 개발하기 위해 애쓰고 있다. 얼마 전 샘 올트먼은 빌 게이츠와의 대담에서 GPT-5에 관한 계획을 언급했다. GPT-5의 주안점은 논리 추론 능력을 개선하는 것이라 밝혔다. 얼마나 많은 성능 개선이 이루어질지 기대를 불러일으킨다.

하지만 이러한 노력에도 불구하고 강력한 논리 추론 역량을 갖춘 인공지능이 조만간 완성되기란 쉽지 않을 것이다. 현재의 인공지능 구조가 갖는 근본적 난점을 극복한 새로운 인공지능을 만드는 것은 미지의 영역을 개척하는 것과 같다. 과연 어떠한 시도가 성공할지는 아직 알 수 없다. 이제 인공지능은 우리 주변에서 널리 활용되고 있다. 앞다투어 발표되는 가전 신제품에는 인공지능이 탑재되지 않은 경우를 찾기가 더 힘들 정도다. 그래서 인공지능 기술이 성숙 단계에 이르렀다는 생각을 할 수도 있다. 이러한 관점에서 본다면 이제 우리가 해야 할 일은 세계적인 선도 기업이 개발한 인공지능을 우리 실정에 맞추어 잘 도입하는 것일 뿐이다.

그러나 실상은 그렇지 않다. 인공지능 분야에는 여전히 개척되지 않은 영역이 넘쳐난다. 수학적 논증을 수행할 수 있는 인공지능, 뛰어난 논리 추론 능력을 갖춘 인공지능은 여전히 활발히 개발 중이다. 도전적 시도는 실패로 끝날 수도 있다. 하지만 성공한다면 인공지능의 패러다임을 뿌리째 바꿀 잠재력이 있다. 우리나라가 인공지능 강대국으로 발돋움하려면 이러한 도전을 장려하고 적극적으로 지원해야 한다. 과실은 씨앗을 뿌리고 가꾼 이들에게 주어지기 마련이라는 점을 기억하자.

김병필 KAIST 기술경영학부 교수