[이수화의 마켓 나우] AI 마음의 비밀

이수화 한림대학교 AI 융합연구원 교수

인류는 인간의 마음도 인공지능(AI)의 마음도 사실 잘 모른다. 역설적으로 AI의 마음을 알아가는 과정에서 인간 마음에 대해 더 많은 것을 알게 될 것이다. 또 인간 마음에 대해 새로이 알게 된 것을 AI 개발에 응용하면, AI가 비약적으로 발전할 것이다.

그동안 인공지능(AI)은 속을 알 수 없는 블랙박스로 여겨져 왔다. 특히 방대한 텍스트 데이터로 훈련된 AI 모델인 거대언어모델(LLM)은 거대한 미스터리였다. 입력과 출력 사이의 연관성이 없거나 결과가 일정하지 않아도, AI 모형 바깥에서는 알 길이 없었다. 최근 LLM의 내부 작동을 이해하는데 획기적인 시도가 있었다.

일러스트=박용석

5월 21일 인공지능(AI) 스타트업 앤트로픽이 ‘거대언어모델(LLM)의 마인드 매핑’이라는 글을 발표했다. 앤트로픽은 자사의 LLM인 클로드 소네트 내부에서 수백만 개의 개념이 어떻게 표현되는지를 자세히 들여다보고 최초로 LLM의 ‘마음의 지도’를 그린 것이다.

왜 마음인가. LLM의 마음, 즉 내부 동작을 들여다볼 수 없다면 편향되거나 거짓이거나 유해하거나 위험한 응답을 관리하고 제지할 방법이 없으므로 결과를 신뢰할 수 없게 되기 때문이다. 신뢰를 확보하지 않고, AI를 인간의 생명·재산·건강·정치 등 높은 신뢰성이 요구되는 영역에 사용할 수 없다.

신뢰성 문제 해결에 키워드는 ‘정렬(alignment)’이다. ‘정렬’은 ‘외부의 어떤 기준에 맞춘다’는 뜻이다. ‘외부의 기준’이란 인간의 목표다. 정리하자면, 정렬은 ‘인공지능 시스템의 목표와 인간의 목표가 일치하는 상태’이다.

AI 시스템을 인간의 가치와 더 잘 정렬하려면 결국 두 가지가 필요하다. 첫째, AI의 내부 동작을 이해해야 한다. 둘째, 이를 위해서는 인간 마음의 이해가 뒷받침돼야 한다. 인간의 인지 메커니즘을 알아내야 한다.

AI가 인간을 대체하는 ‘AI 자동화의 꿈’보다도 ‘AI를 통한 인간 도약의 꿈’이 더 중요하고 필요하다. 예컨대 AI가 교사와 교수를 대체한다는 논점에서 벗어나야 한다. AI는 인간 교사와 교수가 할 수 없는 일을 도울 수 있는 잠재력을 가지고 있기 때문이다. 개별 학생의 학습 능력 모델링, 실시간 학습 능력 추적과 분석, 개별화된 피드백 제공과 같은 디지털 교육의 궁극적인 목표는 기존 기법만으로는 불가능하다. 이는 컴퓨터나 AI 사용만으로 해결되는 것이 아니라 개별 학생에 특화된 맞춤형 AI 서비스에 의해서만 가능하기 때문이다. 그런 AI 서비스를 위한 출발점은 ‘마음’이다.

인간의 내부와 내면을 향한 AI 기법의 발전을 기대해 본다. 어느 연구자·기업·국가가 먼저 AI 마음의 비밀에 다가갈까.

이수화 한림대학교 AI융합연구원 연구교수