석학도 못 내다본 AI의 5년...“주도권은 미국·중국 소수기업에”

스탠퍼드大 AI100, 5년 만의 진단
수학 난제 풀고 과학 혁신 가속
딥페이크·군사 AI 부작용 확산
네프 교수 “반도체는 국가 전략”

스탠퍼드대 HAI의 보고서 ‘AI, 주류로 자리 잡다: 스케일링 시대와 생성형 AI의 부상’

인공지능(AI)이 수학자들이 수십 년간 풀지 못한 문제를 해결하기 시작한 사이, 전쟁터에서는 공격 표적 선정에 동원되고 사진과 영상은 진위를 믿기 어려워졌다. 세계 석학들도 5년 전 충분히 내다보지 못한 변화다. 그러나 이처럼 수십억 명의 삶을 바꾸는 기술의 개발은 미국과 중국의 소수 주체에 집중됐고, 그 방향을 정하는 데 대중의 목소리는 거의 반영되지 않았다는 진단이 나왔다.

미국 스탠퍼드대 인간중심AI연구소(HAI)가 운영하는 ‘인공지능 100년 연구(AI100)’는 10일(현지시간) 세 번째 보고서 ‘AI, 주류로 자리 잡다: 스케일링 시대와 생성형 AI의 부상’을 공개했다. AI100은 2014년 시작된 장기 프로젝트로 국제 전문가들이 5년마다 AI의 기술·경제·사회적 영향을 평가한다. 이번 연구패널은 마이클 울드리지 영국 옥스퍼드대 교수가 이끌었다.

◆ 석학들도 놓친 AI의 폭발적 성장

지난 5년간 AI의 발전 속도는 전문가들의 예상을 뛰어넘었다. 2021년 보고서는 대규모 언어모델을 유망한 기술로 소개했지만 생성형 AI가 사회 전반에 미칠 파급력까지는 내다보지 못했다. 이듬해 11월 공개된 챗GPT는 불과 두 달 만에 월간 활성 이용자 1억명을 넘어서며 AI의 대중화 시대를 열었다. 이번 보고서는 당시 전문가들조차 이러한 변화의 규모와 속도를 충분히 예상하지 못했다고 평가했다.

발전은 이용자 확대에 그치지 않았다. 2021년 도전 과제였던 국제수학올림피아드 금메달 수준의 문제 풀이가 이번에는 달성한 성과로 제시됐다. AI는 창작과 소프트웨어 개발을 바꾸고, 수년 걸리던 과학 연구를 수개월이나 수주로 단축하고 있다. 2024년 노벨 물리학상과 화학상도 AI의 과학적 기여를 보여주는 사례로 꼽혔다.

연구패널 위원인 지나 네프 영국 퀸메리런던대 교수는 매일경제와의 서면 인터뷰에서 “챗GPT의 전신인 GPT-3는 여러 자릿수 계산도 제대로 하지 못했지만, 6년이 지난 지금 AI는 수학자들이 수십 년간 풀지 못한 문제를 해결하기 시작했다”고 말했다.

경제적 영향력도 커졌다. 2021년 보고서는 AI의 경제적 효과가 일부 분야에 국한돼 있다고 평가했다. 이번에는 AI 인프라 투자가 미국 경제 일부를 떠받치고 자본시장을 움직이는 주요 변수로 떠올랐다고 진단했다. 보고서는 엔비디아가 2025년 10월 시가총액 5조달러에 도달한 사례를 소개했다.

하지만 발전을 이끈 ‘스케일링’ 방식에는 제약이 커지고 있다. 데이터와 연산량을 늘려 성능을 높이는 방식이 비용과 자원 확보의 한계에 부딪히면서 AI가 답을 내기 전에 더 많은 연산을 수행하는 ‘추론’과 효율 개선이 중요해졌다는 것이다. 막대한 데이터센터 투자도 수익을 거둘 수 있을지는 불확실하다고 지적했다.

◆ 눈으로 봐도 못 믿는 시대…전쟁까지 바꾸는 AI

기술 발전의 이면에서는 사회적 위험이 현실로 나타났다. 보고서는 AI가 만든 이미지와 음성, 영상이 실제 기록과 구별하기 어려워지면서 눈으로 확인한 사실조차 그대로 믿기 힘든 시대가 됐다고 진단했다. 사진과 녹음·녹화물을 믿을 만한 증거로 여겨온 100년 된 신뢰 체계가 흔들리고 있다는 것이다. 목소리를 복제한 금융사기와 당사자 동의 없이 제작한 성적 합성물 등이 대표적인 사례다.

군사 분야에서도 AI는 실제 전쟁을 바꾸고 있다. 우크라이나와 가자지구 등에서 공격 표적 목록 작성과 군사적 판단에 활용되고 있다. 보고서는 인간의 판단을 AI에 맡길수록 공격 결정과 실제 피해 사이의 심리적 거리가 커져 무력 사용의 문턱이 낮아질 수 있다고 경고했다. AI의 오류가 민간인 피해로 이어질 위험도 지적했다.

◆ AI 주도권은 美中에…한국 반도체 전략적 가치 커져

문제는 이러한 위험을 통제할 체계가 기술 발전을 따라가지 못한다는 점이다. AI 규율은 국가안보 논리를 중심으로 국가마다 갈라져 국제적 합의가 부족한 상태다. 막대한 개발비까지 겹치면서 최첨단 AI를 개발할 수 있는 주체는 미국과 중국의 소수 기업·기관으로 좁혀졌다.

보고서는 AI가 수십억 명의 삶을 바꾸고 있지만 개발과 도입 과정에 대중의 목소리는 거의 반영되지 않았다고 지적했다. 기술의 발전 방향을 피할 수 없는 흐름이 아닌 사회 전체의 선택으로 바라봐야 한다는 것이다.

네프 교수는 한국의 대응을 묻는 질문에 “자체적으로 최첨단 AI 모델을 개발할 역량이 없는 국가는 외국 소유 시스템에 의존할 위험이 있다”며 “최첨단 반도체 제조 역량은 주로 대만과 한국에 있고, 반도체는 국가 전략의 도구가 됐다”고 말했다.

그는 한국을 포함한 각국이 학생과 노동자의 역량 저하를 막고, AI의 발전 방향에 시민을 참여시키며, 국제적인 공통 규칙을 마련해야 한다고 강조했다. 네프 교수는 “이러한 과제를 제대로 해결한다면 AI는 질병을 치료하고 에너지와 기후 문제를 해결하는 놀라운 기회를 제공할 것”이라고 말했다.

실라 매킬레이스 AI100 상임위원장 겸 캐나다 토론토대 교수는 “지난 5년은 AI 역사의 중대한 전환점이었다”며 “정부와 산업계는 빠른 변화 속에서 사람과 사회 제도, 핵심 기반 시설을 보호해야 한다”고 강조했다. 그는 AI가 가져올 혜택과 위험 모두를 냉철하게 검토해야 한다고 덧붙였다.

보고서는 앞으로의 5년도 예측하기 어렵다고 내다봤다. 기술 발전이 워낙 빨라 보고서가 공개되는 순간 일부 내용은 이미 과거의 기록이 될 수 있다는 것이다. 연구진은 “지금과 같은 발전 속도가 이어진다면 앞으로 5년 역시 지난 5년 못지않게 예상 밖의 변화가 나타날 것”으로 전망했다.

[실리콘밸리 원호섭 특파원]