[젊은 과학포럼] AI의 시대, 다시 ‘감정’을 묻는 이유

이우진 ETRI 석사후연수연구원

"인공지능(AI)도 감정을 느낄 수 있나요?" AI를 연구한다고 하면 이따금 듣는 질문이다. ETRI에 합류하기 전, 필자 역시 같은 질문에 매혹됐다.

그래서 거대언어모델이라는 블랙박스를 현미경처럼 들여다보며, 문장 속 감정을 처리할 때 활성화되는 '이모션 뉴런(Emotion Neuron)'의 존재와 그 역할을 탐구했다.

당시 필자에게 AI는 그 머릿속을 해부해 원리를 밝혀내야 할 관찰 대상이었다. 연구원에 와서는 AI 내면의 탐구에서 AI가 현실의 문제를 직접 풀도록 하는 에이전트 연구로 방향을 틀었다.

그 첫 번째 산물인 코딩 에이전트 'SolidCoder'에서는 정답을 모르는 문제라도 정답이라면 반드시 지켜야 할 조건을 따지게 함으로써 AI가 제 코드를 스스로 검증하도록 했다. 정답지 없이도 채점할 길을 연 것이다. 또한 연구야말로 정답지 없는 시험이다. 이어서 개발한 자율 연구 에이전트 'YouRA'는 가설부터 실험, 논문 작성까지 연구의 전 과정을 스스로 해내면서 동시에 논문 속 주장 하나하나가 어떤 실험 결과에 근거했는지 추적할 수 있게 했다.

이 연구들은 모두 ACL 등 국제학회에 잇달아 채택됐다. 이러한 자율 연구 에이전트에게 AI 자신을 연구하게 하면, AI가 더 나은 AI를 만들고 그 AI가 다시 더 나은 AI를 만드는 '재귀적 자기 개선'이 시작된다. 올봄 오픈AI 창립 멤버 안드레이 카파시가 공개한 '오토리서치'는 그 가능성을 엿보게 했다.

에이전트가 스스로 학습 코드를 고쳐 가며 사람이 놓친 개선점까지 찾아내 정해진 목표를 향해 실험을 거듭하는 일에서만큼은 기계가 이미 인간을 앞질렀음을 보여 준 것이다. 많은 이들은 이 루프가 계속 돌면 결국 인간을 넘어서는 지능, 곧 초지능에 이른다고 본다.

하지만 또 다른 공동창업자인 일리야 수츠케버가 그리는 초지능은 모든 것을 아는 기계 신이 아니라 아는 건 많지 않아도 배움의 원리 자체를 깨우친 열다섯 살 천재에 가깝다. 그가 보기에 지금의 AI는 정반대다.

인터넷 전체 규모 데이터의 패턴을 익힌 뒤 정답이 정해진 문제만 반복해 풀며 훈련됐기에 기출문제만 반복 학습한 수험생처럼 처음 보는 문제 앞에선 쉽게 무너진다.

이 진단은 우리에게 묵직한 질문을 던진다. 그동안 한국은 선두 주자가 골라 둔 문제를 빠르게 풀어 따라잡는 '패스트 팔로워' 전략에 익숙했는데 바로 그 일이 이제 기계에게 넘어가고 있기 때문이다. 문제를 골라내는 이 안목은 자율 연구 에이전트가 넘어야 할 장벽이기도 하다.

에이전트는 하룻밤에 수십 개의 가설을 세우고 검증하지만 초기 데이터가 반대해도 파고들 수 있는 직감, 즉 과학자의 '연구 취향'은 아직 갖추지 못했다.

수츠케버는 기계가 사람처럼 효율적으로 배우지 못하는 이유를 짚으며 이 문제의 실마리로 감정을 지목한다. 뇌 손상으로 감정을 잃은 환자는 논리가 멀쩡해도 양말 하나 고르는 데 몇 시간이 걸린다. '이 직관이 맞는 방향인가'를 미리 가늠케 하는 내재적 가치 함수가 바로 감정이라는 것이다.

실제로 그는 연구 취향을 묻는 질문에 아름다움과 단순함에 대한 감각, 그리고 데이터가 반대해도 '이래야만 한다'며 버티게 하는 믿음을 꼽았다.

AI의 감정을 탐구하며 출발한 필자의 연구는 코드 에이전트와 자율 연구 에이전트를 거쳐 결국 다시 감정으로 돌아왔다. 잠들지 않는 기계가 연구를 대신하는 시대, 무엇을 탐구할지 결정하는 마지막 열쇠는 의외로 감정 속에 녹아 있을지도 모른다.