머릿속 전기신호처럼…신경세포 닮은 인공지능 시도

한겨레 2023. 11. 4. 08:05
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

[[한겨레S] 이관수의 인공지능 열전][한겨레S] 이관수의 인공지능 열전
퍼셉트론
다수 입력신호 가중치 조절
최종 합산해 판정하는 개념
가중치 조절=학습…판정=인식
인공신경망 연구의 시발점
프랭크 로젠블랫이 개발한 마크 1 퍼셉트론. 다수의 입력신호가 400개 광전소자와 520개의 소자층을 거치며 가중치가 조절되며 합산돼, 최종적으로 0 또는 1로 판정되는 출력신호가 나오는 방식이다. 코넬대 도서관 자료

기계가 사람의 지능을 따라 하려면 무엇이 필요할까? 마빈 민스키를 비롯한 기호주의자들은 개념과 추론을 명료하게 표상하는 기호들을 연산할 수 있으면 합리적으로 사고하는 셈이라고 주장했다. 반면 로트피 자데는 사람이 어렴풋한 느낌만으로도 유용한 판단을 내리는 것처럼, 사람을 닮은 기계라면 불명확한 정보와 짐작만으로도 쓸모 있는 계산을 할 수 있어야 한다고 믿었다. 이토록 생각의 방향은 반대였지만, 둘 다 사람의 지능이 어떻게 발생하는지에는 무심했다.

신경세포가 활동할 때 전기신호가 오가고, 시냅스, 즉 신경세포들 사이의 연결이 무언가 중요한 역할을 하는 것 같다는 정도는 1차 세계대전 이전에 대략적으로나마 확인됐다. 하지만 신경세포의 수는 너무 막대했고 개별 신경세포 안에서 일어나는 일은 너무 복잡·다양했기 때문에 확실한 연구가 쉽지 않았다.

항공연구소에서 시작된 착상

그렇다면 신경세포를 닮은 아주 간단한 모델을 만들어, 모델의 성질을 연구하면 도움이 되지 않을까? 1943년 신경생물학자인 워런 매컬럭과 논리학자인 월터 피츠는 모든 신호가 0 또는 1이라고 가정하고, 최대 2개의 입력신호를 받아서 1개의 출력신호를 내보내는 간단한 ‘신경세포 개념 모델’을 제시했다. 그들은 신경세포의 조합만으로도 모든 사칙연산이 가능함을 증명했다. 2차 세계대전이 끝나고 진공관 등 각종 전자부품들이 잉여물자로 대거 방출된 이후, 매컬럭과 피츠의 연구에서 자극을 받아서 나름 인공신경망을 만들어 보려는 시도들이 뾰족한 성과 없이 반복됐다. 이런 정체 상태는 1957년 인공신경망 연구의 신참자인 프랭크 로젠블랫이 퍼셉트론 구상을 내놓으면서 해소되기 시작했다.

코넬대학 심리학과 대학원생 시절 로젠블랫의 관심사는 심리학 설문조사 자료 분석 작업에 디지털 컴퓨터 기술을 적용하는 일이었다. 박사학위 논문을 준비하던 1950년대 초 잉여 부품들을 불하받아서 초당 25개의 문항을 읽어 처리하는 오엠알(OMR) 판독기 겸 컴퓨터를 자작했다. 여기에 학부생 200여명이 각각 작성한 600여 문항짜리 설문지를 입력했다. 당시 지역신문은 한 종류의 계산만 할 줄 아는 로젠블랫의 ‘바보 두뇌’가 캠퍼스에서 일으킨 소동을 보도하면서 “(설문지) 답변이 서로 매우 유사하거나 매우 다른 군집에 속한다면 성격을 객관적으로 분류할 수 있을 가능성이 있다”는 해명을 덧붙였다. 요즘이라면 이런 분류 문제는 전형적인 인공신경망 활용 예제로 간주될 터이지만, 그의 학위논문은 뚜렷한 결론을 내리지 못한 채로 끝났다. 답변들이 서로 다른 군집을 형성하는지 확인하기에는 총 250만회의 계산으로도 부족했기 때문었다.

그는 할 수 없이 코넬대학의 항공연구소에 심리학자로 취직했다. 코넬 항공연구소는 미국의 군용기 제작사들이 설립해서, 세금과 이해충돌 문제를 피하려고 코넬대학에 맡겨놓은 연구소였다. 로젠블랫은 착륙 환경과 보조설비가 조종사에게 미치는 영향을 조사하는 등 인식작용에 대한 각종 실험심리학 작업에 투입되다가 퍼셉트론의 착상을 떠올리게 됐다.

퍼셉트론은 기계장치인 동시에 수학적 모형이기도 했다. 퍼셉트론은 0과 1 사이의 다양한 값의 입력신호를 받아서, 입력신호별로 가중치를 부여해서 합산한 다음, 합산한 수치가 기준값을 넘으면 1, 아니면 0이라고 판정해서 출력한다. 다수의 신호를 입력해 하나의 신호를 출력하는 것이다. 계산과정 자체는 학위논문에서 했던 작업을 극도로 단순화한 것으로, 0 아니면 1이었던 ‘매컬럭-피츠 모형’과는 다양한 입력값을 허용한다는 점, 조절할 수 있는 가중치가 등장한다는 점이 달랐다.

로젠블랫은 퍼셉트론을 병렬로 연결한 망을 구성하면 학습하는 인식기계를 구현할 수 있다고 예상했다. 미리 분류해둔 입력값들을 제대로 판정할 때까지 가중치를 조절하면 즉각적으로 판정이 가능할 것이고, 가중치를 조절하는 과정이 학습이며, 판정이 곧 인식이라는 셈법이었다. 로젠블랫의 퍼셉트론 구상은 코넬 항공연구소를 통해 미국 해군연구국의 후원을 받아 정식 프로젝트로 출범했다. 컴퓨터로 시뮬레이션해서 가능성을 확인하고, 실제 기계제작에 착수하기로 정해졌다.

☞한겨레S 뉴스레터 구독하기. 검색창에 ‘한겨레 뉴스레터’를 쳐보세요.

☞한겨레신문 정기구독. 검색창에 ‘한겨레 하니누리’를 쳐보세요.

잡음제거 이어폰과 퍼셉트론

미 해군은 1958년 7월7일 워싱턴에서 기상청의 컴퓨터를 빌려서 시연회를 열었다. 펀치카드가 좌우 어디에 구멍이 뚫렸는지를 “사람의 도움 없이 스스로 학습”해서 구별하는 모습을 공개했다. ‘뉴욕타임스’는 “점점 똑똑해지는 컴퓨터의 씨앗이 등장”했다고 보도했다.

‘마크 1 퍼셉트론’이라고 불린 실제 기계장치는 1960년 6월23일에 공개됐다. 방 하나를 가득 채울 정도로 거대한 기계였는데, 가로세로 20줄로 배열된 광전소자 400개와 520개의 퍼셉트론 소자층으로 구성됐다. 하나의 퍼셉트론 소자는 진공관과 스위치·모터들을 모아 조립한 장치로, 입력신호가 통과하는 볼륨스위치를 좌우로 돌려 가중치를 조절했다. 400개 광전소자에서 발생한 입력신호는 512개→8개 소자층을 단계적으로 거치면서 0과 1을 최종 판정하는 방식이었다.

처음에는 가운데가 빈 원과 가운데를 꽉 채운 사각형을 구별하는 가중치를 찾는 정도였지만, 실험 겸 ‘학습’을 통해 좀 더 복잡한 도형들을 구별하는 가중치들이 발견됐다. 로젠블랫 팀은 마이크를 입력기로 쓰는 청각용 퍼셉트론 기계장치 제작도 착수하고, 퍼셉트론 소자층을 다단계로 늘려 보기도 했다. 단순한 모형인 퍼셉트론은 여러모로 응용이 가능했다. 특정 용도에 적합한 가중치 값을 찾아내면, 그것을 알고리즘으로 변환하거나 나아가 순수한 전자회로로 바꾸어 채택하기도 했다.

후일 최초의 상용 중앙처리장치(CPU)를 개발한 테드 호프는 퍼셉트론형 통신잡음 저감 장치를 학위논문으로 내놓았다. 정해둔 기준값과 입력신호값의 차이를 최소화하는 가중치를 조절하는 소자를 알고리즘과 전자회로로도 구현했다. 이 방식은 현재도 잡음제거 이어폰부터 모뎀에까지 광범위하게 사용된다. 미국 정보당국에서는 항공정찰 사진 변화를 자동 판독하는 용도로 퍼셉트론 연구를 간접 지원하기도 했다.

이렇듯 성공을 거듭하던 퍼셉트론 연구는 1960년대 말 갑자기 암흑기에 들어갔다. 퍼셉트론으로 구현해 놓은 기능을 전용 전자회로로 옮기면, 더 빠르고 저렴하게 구현할 수 있었다. 로젠블랫을 비롯한 연구자들이 복잡한 ‘인공신경세포 모형’을 시도했지만, 이전의 단순한 퍼셉트론과 달리 수학적 분석이 어려웠다.

이런 상황에서 카리스마 넘치는 민스키가 퍼셉트론에 기반한 인공신경망 연구를 공격했다. 그는 1969년에 발간한 책 ‘퍼셉트론’에서 두 입력 중 한 입력이 0일 때만 1을 출력하는 ‘배타적 논리합’(XOR) 연산이 논리회로 구성에 필수적인데, 퍼셉트론은 가중치를 아무리 조절해도 이를 구현하지 못함을 증명했다. 가장 단순한 모형인 퍼셉트론이 무능하니 다른 인공신경망도 가망 없다는 논변을 펼쳤다. 민스키가 이미 다음 단계로 넘어간 인공신경망 이론 연구를 모르고 그런 주장을 했는지, 아니면 알고도 일부러 외면했는지는 여전히 수수께끼다. 20년 뒤 연결주의 인공지능이란 이름으로 재부상할 때까지, 인공신경망 연구는 유럽과 일본 그리고 미국의 비주류 연구실들에서 명맥을 유지할 수밖에 없었다.

과학저술가

서울대학교 물리학과를 졸업하고 과학사 및 과학철학협동과정에서 박사 학위를 취득했다. 가톨릭대학교 교양교육원 초빙교수를 거쳐 현재 동국대학교 다르마칼리지에 재직 중이다.

Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지

이 기사에 대해 어떻게 생각하시나요?