인공지능과 과학의 무질서 [김민형의 여담]

위키미디어 코먼스

김민형 | 영국 에든버러 국제수리과학연구소장

미국의 수학자이자 공학자였던 클로드 섀넌(Claude Shannon)이 1956년에 쓴 짧은 에세이 ‘밴드왜건’(The Bandwagon)이 최근 사회관계망서비스(SNS)에서 과학자들 사이에 인기를 끌고 있다. 밴드왜건은 축제 행렬 같은 데서 악단이 연주하며 타고 다니는 차를 의미하지만 과학 연구에서는 인기 토픽의 열풍에 편승해 논문을 급히 써내는 학자들 무리를 지칭하는 경멸적인 표현이다.

섀넌은 보통 현대적 의미의 정보 이론 창시자로 여겨진다. 정보는 그 전부터도 여러 관점에서 공부의 대상이 됐지만 1948년 섀넌의 논문에서 ‘정보 엔트로피’를 중심으로 개념적 도구들의 수학적 기반이 확실하게 다져졌다. 그 뒤 ‘정보’는 자연과학과 테크놀로지는 물론 심리학, 언어학, 철학, 경제학, 예술에까지 영향을 미치면서 다재다능한 키워드로 발전했다. 그런 분위기에서 쓴 이 에세이의 목표는 정보 이론 연구에 절제와 철저한 사고가 필요함을 강력하게 권하는 것이었다. 즉, 너도나도 ‘정보’라는 단어를 남발하며 이곳저곳에서 엔트로피를 찾는 무분별한 탐구 분위기를 정보 이론의 대부가 공공연하게 비판하는 글이었다. 그는 “정보 이론의 위력은 과장 돼 있다. 지금이야말로 가장 높은 수준의 연구와 학문적 개발에 집중해야 할 시기다. (…) 정보 이론 학자들은 최선을 다한 노력의 산물만 출판해야 하며 자신과 동료 학자들의 철저한 비판 과정을 감수해야 한다. 다수의 어설픈 발행물 보다 몇몇 일류 논문을 선호해야 한다”고 했다.

최근 이 에세이가 거론되는 배경은 인공지능에 대한 회의와 관계가 깊다. 인공지능은 전 세계의 폭발적인 관심과 각종 기업의 투자 속에 과학·기술·교육·산업 등 거의 모든 영역에서 연구와 발명, 대응 전략 마련이 빠른 속도로 진행되고 있다. 맥락은 다소 다르더라도 섀넌의 1956년 충고는 지금도 유효하다. 과학자들이 출판 전에 논문을 저장하는 웹사이트(arxiv.org)를 검색해보면, 이 글을 쓰고 있는 2024년 7월16일 하루에만 203개의 인공지능 분야 논문이 업로드됐다. 섀넌이 살던 시대에는 상상도 할 수 없을 만큼 큰 밴드왜건에 많은 이들이 앞다퉈 올라타고 있는 상황이다. 이런 모습은 분명 우려의 대상이 아닐 수 없다.

투자 시장의 과열처럼 연구 토픽의 과열도 많은 오류와 사회적 손실을 수반할 수 있다. 섀넌이 에세이에서 전하고자 하는 핵심 메시지 중 하나가 수학적 엄밀성이다. 섀넌의 정보 엔트로피는 명료한 수학 언어로 정의되는 개념이고 그와 관련된 ‘정보 전달 효율성의 한계’에 관한 수학 정리가 정보 이론의 기반을 이룬다. 그는 수학적으로 허술한 연구에 대해 매우 비판적이었다.

사실 많은 과학 논문에서 수학적 오류는 흔하다. 그러나 현실에서의 과학 발전은 질서 정연하게 이뤄지지 않으며, 가장 뛰어난 학자라 할지라도 신중한 사고를 일관되게 유지하는 것도 아니다. 20세기 최고의 과학자라고 할 아인슈타인과 관련한 여러 전설 중엔 그가 논문을 몇 편밖에 쓰지 않았다는 말이 있다. 그러나 그는 평생 300편 이상의 논문을 출판했다. 특히 특수상대성이론과 양자역학에 관한 혁신적 논문 네 편을 썼던 ‘기적의 해’인 1905년에 나온 그의 출판물은 25편에 이른다. 물론 대다수는 읽히지 않았다.

섀넌이 에세이에서 ‘일류 논문’과 ‘어설픈 발행물’을 단순 대조한 것은 중대한 오류다. 현실에선 뛰어난 걸작도 하찮아 보이는 작고 무수한 통찰력의 축적에 의존하기 때문이다. 그 소품들은 대가 자신의 습작일 수도 있지만, 많은 경우에 커뮤니티 전체의 숨은 노력의 산물이며 비록 허술한 논리일지라도 그 안에서 놀라운 직관을 얻기도 한다. 가령 최근 몇십년 동안 (비교적) 엄밀한 수학의 여러 분야들은 직관적인 생각을 창의적으로 밀고 나가는 물리학자들에게서 많은 도움을 받았다. 앞으로 인공지능 역시 다양한 오류에도 불구하고 수학계에 비슷한 영향을 미치리라고 예측할 수 있다.

소설 같은 과학의 역사에서는 천재 몇 명의 깊고 엄밀한 사고가 절대적이지만, 현실 세계의 발전은 무질서와 경쟁 및 아이디어가 들끓는 밴드왜건 안에서 잘 일어난다.