[홍성욱의 과학 오디세이] [28] 슬로 사이언스

요즘 챗GPT에 대한 기대와 우려가 증폭되면서 종종 등장하는 개념이 ‘일라이자(Eliza) 효과’다. 일라이자는 1960년대 중반에 조지프 와이젠바움이 개발한 심리 치료 채팅 프로그램이다. 그리고 일라이자 효과는 사용자들이 챗봇과 대화하면서 마치 인간 상담사와 대화하듯 감정적 교감을 느낀 것을 의미하는 말이다. 개발자 와이젠바움은 호기심에서 만든 초보 인공지능이 예상치 못한 결과를 낳음을 목격하고, 인공지능의 사회적 영향을 충분히 이해할 때까지 그 개발을 잠깐 중단하자는 모라토리엄(moratorium·연구 중단)을 제안했다.

지난달 말, 일론 머스크와 딥러닝의 아버지라고 하는 조슈아 벤지오 등 5000명이 챗GPT 4.0 이상의 인공지능 개발을 6개월 동안 중지하자는 성명을 냈다. 자칫하다가는 통제를 벗어나는 자율적 인공지능이 만들어지고, 이로 인해 돌이키기 힘든 파국적 결과를 낳을 수 있다는 우려 때문이었다. 그렇지만 수십 년 전의 와이젠바움의 제안이 효과를 거두지 못했듯이, 이번 제안도 큰 반향을 얻지 못하고 있다.

과학이 발전하면서 몇 번 모라토리엄이 발의되었다. 1975년에 유전자 재조합 방법을 개발한 과학자들이 이것이 낳을 엄청난 파장을 제어하기 위한 모라토리엄을 제안했고, 2019년에도 유전체 편집 기술을 인간에 적용하는 연구를 통제하자는 모라토리엄이 선포되었다. 그렇지만 이런 모라토리엄은 강제성이 없고, 첨단 연구가 가져올 경제적 효과를 갈망하는 정치권과 기업의 입김 때문에 흐지부지되었다. 내가 연구를 중단해도 경쟁자들이 연구를 가속하는 상황에서 모라토리엄 선언은 실효성이 없다.

길이 없는 것일까? 벨기에 철학자 이자벨 스탕저(Isabelle Stengers)는 응용과 상업화의 압력 속에서 무섭게 발전하는 ‘빠른(fast) 과학’의 대안으로 ‘느린(slow) 과학’을 제창했다. 빠른 과학이 외부 압력에 의해 윤리적 성찰 없이 발전하는 과학이라면, 느린 과학은 과학자들의 충분한 토의와 검토를 거치고, 우려하는 시민사회와 소통하면서 발전 방향을 정해나가는 과학이다. 느린 과학은 숙의와 참여를 환영하고, 가치와 규범을 포용하는 과학이다. 현기증이 날 정도로 빠르게 기술이 발전하는 지금, ‘느린 과학’은 확고한 대안이다.