[김병필의 인공지능 개척시대] 인공지능 합주의 힘

김병필 KAIST 기술경영학부 교수

합주의 힘은 놀랍다. 여러 악기가 어우러져 하나의 화음을 만든다. 각각의 악기가 내는 소리도 매력적이지만, 함께 어울릴 때의 울림에는 미치지 못한다. 기타 연주자가 무대에서 한 시간 내내 독주를 한다고 생각해 보라. 전문 연주자에게도 벅찬 일이다. 그러나 여러 사람이 모여 밴드를 만들면 이야기는 달라진다. 취미로 모인 직장인 밴드도 제법 듣기 좋은 소리를 낸다. 이것이 바로 합주가 주는 힘이다.

인공지능(AI)에서도 이제 합주의 시대가 시작됐다. 여러 AI가 협업해 일을 처리하기 시작한 것이다. 비유하자면 그동안은 AI가 개별 악기를 잘 다루게 만드는 데 치중해 왔다면, 이제는 여러 악기를 어울리게 하려는 노력이 본격화되고 있다.

■

「 여러 AI 협업해 업무 처리 시작
오케스트라 구성, 조율과 유사
답변 도출 위한 기록도 남아
AI 신뢰성·활용범위 확대 기대
」

예를 들어 보자. 올해 6월 마이크로소프트는 의료 진단용 AI를 선보였다. 의료 AI 전담 연구팀의 주요한 초기 성과라 한다. 진단을 위해 다섯 개의 AI가 협업한다. 여기서 각각의 역할을 맡은 AI를 ‘에이전트’라 부른다. 한 에이전트는 진단 가설을 세우고, 또 다른 에이전트는 그 가설의 문제점을 찾아 비판한다. 진단에 필요한 검사를 제안하는 역할도 있다. 체크리스트를 점검하거나 윤리적 문제가 없는지 따지는 에이전트도 있다.

이렇게 다섯 에이전트가 서로 토론하며 결론을 내린다. 추가 정보가 필요하면 다시 질문을 하기도 하고, 검사를 요청하기도 한다. 충분한 정보를 얻었다고 판단하면 진단 결과를 내어놓는다. 300건이 넘는 고난도 사례를 평가했을 때, AI의 정확도는 85%를 넘어섰다. 같은 사례에서 인간 의사의 평균 정확도는 20%에 불과했다.

여기서 놀라운 점은, 각각의 역할을 맡는 AI를 처음부터 새로 개발할 필요는 없었다는 사실이다. ChatGPT나 제미나이 같은 이미 출시된 AI를 가져다 쓸 수 있었다. 마이크로소프트 팀의 주된 역할은 AI 각각에 어떤 역할을 맡을지 지정하고, 필요한 자료를 제공하는 것이었다. 연구진은 이 과정을 ‘오케스트레이션’이라 불렀다. 여러 악기가 조화를 이루도록 오케스트라를 구성하고 조율하는 것과 비슷하기 때문이다.

이처럼 여러 에이전트가 협업하는 방식은 널리 활용되기 시작했다. 이제 AI는 이용자가 질문하면 곧바로 답을 내어놓는 것이 아니다. 대신 여러 에이전트가 함께 답을 만든다. 작업 계획을 세우는 에이전트, 자료를 검색하는 에이전트, 오류를 점검하는 에이전트 등 다양하다. 이렇게 임무를 쪼개어 맡기면 효율이 높아지고 답변 품질도 개선된다. 에이전트 각자는 특화된 역할만 잘 수행하면 되기 때문이다. 예컨대 외부 자료를 검토하는 팩트체크 에이전트를 더하면, 허위 답변 비율을 줄일 수 있다. 나아가 에이전트가 협업하는 과정을 통해 답변의 신뢰도를 높이려는 시도도 이루어지고 있다. 법률 분야에서는 한 AI가 곧바로 답을 내는 대신, 배심원이 토론하듯 여러 에이전트가 토론해서 답을 도출하는 방식이 시도되고 있다. 그 결과 종전보다 신뢰성과 정확성을 개선할 수 있다.

멀티 에이전트 방식의 또 다른 장점은 AI 답변의 이유를 알 수 있다는 것이다. 여러 에이전트가 토론하며 답을 도출하는 과정이 모두 기록으로 남기 때문이다. 의사가 진단 AI를 활용할 때에는 이 토론 기록을 확인해 평가할 수 있다. 토론 내용을 살펴보아 설득력 있으면 참고하고, 엉뚱하다면 무시하면 된다.

이제껏 우리가 AI에 대해 가져왔던 가장 큰 불만은, 왜 그런 답을 내놓는지 알 수 없다는 점이었다. 흔히 ‘블랙박스’ 문제라 부른다. ‘왜’라는 질문에 답할 수 없으니, AI의 답변을 신뢰할지 판단하기 어려웠다. 그러나 여러 에이전트가 토론하여 답을 내는 방식은 다르다. 토론 기록을 통해 그 이유를 살펴볼 수 있기 때문이다. 이는 단순히 신뢰 문제를 넘어서, 인공지능 기본법이나 개인정보 보호법 등에서 요구하는 설명 의무를 충족하는 데도 중요하다. 더욱이 의료나 금융처럼 잘못된 답변이 큰 피해로 이어질 수 있는 분야에서는, 법적 책임을 따질 때 토론 기록이 중요한 단서가 될 수 있다.

다중 에이전트 방식은 AI 활용의 새로운 패러다임이다. 이제껏 AI 자동화는 방대한 학습 데이터를 모아 GPU로 장시간 학습시키는 과정으로 여겨졌다. 하지만 이제는 달라졌다. 다중 에이전트 환경에서는 AI 역량을 어떻게 조율해 활용하느냐가 핵심이다. 여러 악기가 모여 합주를 통해 화음을 만들 듯, 에이전트에 어떤 임무를 맡기고 어떤 데이터를 참고하게 하느냐에 따라 결과는 크게 달라진다. 이 방식은 AI의 신뢰성을 높이고 활용 범위를 넓혀준다. 이제 AI 정책을 세우고 활용 방안을 모색할 때도, 종래의 ‘학습-이용’ 패러다임이 아니라 ‘조율-합주’ 패러다임을 전제로 해야 한다. 앞으로 AI 활용의 성패는 그것들이 어우러져 내는 합주의 완성도에 달려 있다.

김병필 KAIST 기술경영학부 교수