"땡, 틀렸어요" 공개 망신당했는데…2년 만에 구글 '대반전' [김인엽의 퓨처 디스패치]

'바드 굴욕' 2년 만의 반전
구글, '30년 검색 내공'으로 GPT 꺾었다
스케일링 법칙 한계, 독자 기술 'DRAG'로 돌파
검색 결과와 대조해 환각 최소화
'지식 그래프' 결합해 신뢰성 확보
검색·유튜브 방대한 DB가 AI 두뇌로
추론에 강한 'TPU', 메타도 도입 검토

사진=로이터

2023년 2월. 구글의 첫 생성형 AI '바드'는 시연 도중 제임스 웹 우주망원경에 대한 오답을 내놓으며 망신을 당했다. 당시 시장은 3개월전 챗GPT를 내놓은 다윗 오픈AI가 골리앗(구글)을 꺾었다"고 평가했다. 하지만 불과 2년여 만에 상황은 반전됐다.

최근 공개된 제미나이3 프로는 AI 성능 평가 지표인 '인류의 마지막 시험(Humanity's Last Exam)' 벤치마크에서 오픈AI의 최신 모델인 GPT-5.1을 큰 격차로 따돌렸다. 생물학, 물리학 등 고난도 문제 2500개를 푸는 이 테스트에서 GPT-5.1은 26.5%, 제미나이2.5 프로는 21.4%를 기록했으나, 제미나이3 프로는 무려 37.5%의 정답률을 보였다. 월스트리트저널(WSJ)은 이를 두고 소설 모비딕의 첫 문장을 인용해 "이것을 미국의 차세대 AI 모델로 부르리라"며 극찬했다.

 데이터 무작정 넣는 시대 끝 '똑똑한 검색'이 비결

최근 AI 업계는 단순히 데이터와 컴퓨팅 파워를 늘리는 것만으로는 성능 향상이 정체되는 '스케일링 법칙'의 한계에 직면해 있었다. 구글은 이 벽을 독자적인 기술로 돌파했다. 핵심은 지난해 10월 구글 딥마인드가 논문을 통해 공개한 '시연 기반 검색증강생성(DRAG)' 기술이다. 검색증강생성(RAG)는 AI모델이 기존에 학습한 데이터가 아닌 질문을 받으면 자체 검색을 해서 답변을 생성하는 기술이다.

DRAG는 AI에게 우수 답변 예제를 미리 학습시키고 이를 RAG 결과와 비교해 정확도를 높인다. 구글은 여기에 자사 검색 시스템의 중추인 '지식 그래프'를 적용했다. 지식 그래프는 단어와 단어 사이의 관계를 형성하는 기술을 말한다. 예를 들어 '이재용 패딩'을 검색하면 이재용 삼성전자 회장과 패딩 점퍼가 별개로 나오는 게 아니라 이 회장이 입어 유명세를 타서 빨간 패딩이 검색된다.

DRAG는 이러한 지식그래프 기반 검색을 통해 AI에게 모범 사례를 보여준다. 예를 들어 '세종대왕 맥북'과 같은 엉뚱한 조합의 단어를 입력했을 때, 세종대왕이 맥북을 던졌다는 문장은 환각에 가깝다고 스스로 판단하게 되는 것이다. 

/자료=구글 딥마인드

또 하나의 기술은 '반복적 시연 기반 검색증강생성(IterDRAG)'이다. 이는 LLM(거대언어모델)이 한 번에 이해하기 힘든 복잡한 질문을 여러 개의 하위 질문으로 쪼개 처리하는 방식이다. 구글은 DRAG와 IterDRAG를 통해 답변 퀄리티를 획기적으로 높였다, AI 모델의 신뢰성을 평가하는 '심플QA 버리파이드(Simple QA Verified)' 테스트에서 제미나이3 프로는 72.1%를 기록하며 챗GPT(51.6%)를 압도했다. 30년 동안 전 세계 웹사이트 정보를 정리해온 구글의 검색 데이터베이스가 AI의 두뇌와 결합하며 강력한 시너지를 낸 것이다.

구글은 자사 검색엔진의 검색 색인(인덱스)을 RAG에 활용한다. 검색 색인은 구글을 검색 엔진의 절대 강자로 만든 기술 중 하나다. 사용자가 구글에 검색을 하면, 구글은 전체 인터넷을 찾는 게 아니라 키워드에 맞는 색인에서 결과를 도출한다. 도서관에서 책을 하나씩 열어볼 필요 없이 분류 기호로 찾는 것과 같다. 구글은 20여년 간 웹 크롤링(정보 수집)을 통해 색인 체계를 구축해왔다.

구글 캡차(CAPTCHA·Completely Automated Public Turing test to tell Computers and Humans Apart). 컴퓨터와 인간을 구별하는 완전 자동화된 공개 튜링 테스트라는 뜻으로 AI 모델 학습에 사용됐다.

 구글은 크롬 브라우저와 구글 검색 등도 AI 학습에 동원했다. 사용자들이 각종 웹사이트에 접속할 때 사용자가 사람인지 컴퓨터인지 구별하는 '리캡차(reCaptcha)' 기능도 AI의 이미지 학습에 일조했다. 유튜브가 보유한 방대한 영상 데이터, 구글 렌즈, 지도, 크롬 브라우저 등을 통해 획득한 멀티모달 데이터는 구글의 이미지·영상 복합 처리 능력을 경쟁사들이 따라올 수 없는 수준으로 만들었다는 평가가 나온다, 

 13년간 준비한 구글의 TPU

하드웨어 측면에서도 구글은 자체적인 생태계를 구축하고 있다. 구글은 이미 2013년부터 자체 AI 반도체인 TPU(텐서프로세싱유닛) 개발에 착수했다. 당시 음성 검색 기능을 출시한 구글은 모든 사용자가 음성 검색을 3분씩 쓴다면 데이터센터가 2배는 필요할 것이라고 내다봤다. 이러한 수요 폭증에 대응하기 위해 시작된 이 프로젝트는 현재 7세대 TPU '아이언우드'까지 진화했다.

구글의 7세대 TPU(텐서프로세싱유닛) 아이언우드. AI 추론에 특화돼있다. /사진=구글

업계에서는 향후 AI 칩 수요의 80%가 학습용이 아닌 '추론용'에서 발생할 것으로 보고 있다. 엔비디아 그래픽처리장치(GPU)가 학습에 강점이 있다면, 구글 TPU는 추론 연산에 특화돼 비용 효율성이 뛰어나다. 메타가 구글 TPU 도입을 검토 중이라는 25일(현지시간) 블룸버그통신 보도는 구글의 하드웨어 경쟁력을 보여주는 사례라는 분석이다.
 

실리콘밸리에는 부자와 천재가 많습니다. 이들이 만나면 미래가 만들어집니다. 현장에서 보고 듣고 느끼는 미래의 이야기를 '퓨처 디스패치'에서 전해드립니다. 기자 페이지를 구독해주세요.

실리콘밸리=김인엽 특파원 inside@hankyung.com