인간과 AI, 경계가 사라지다

오픈AI ‘아스트라’, 인간 증명 테스트 48단계 모두 통과
인간과 AI 구분 힘들어져, 사이버 보안체계 재설계 필요

로봇(기계)이 아닌 인간임을 증명하는 캡차 인증 방법 중 한 가지. 도로 표지판이 있는 사진을 선택하면 인증 절차가 완료된다./캡차

미국 인공지능(AI) 기업 오픈AI의 최신 AI 모델 ‘GPT-6 아스트라’가 인간과 컴퓨터를 구분하는 ‘인간 인증 시스템’을 허물어뜨렸다. AI의 발전이 상상보다 더 빨리 진행하면서 인간과 AI의 간극이 급속도로 좁혀지고 있는 것이다. 수학과 과학의 일부 영역에서는 AI가 인간을 뛰어넘기 시작했다.

오픈AI 개발자 샤리프 샤밈은 지난 7일(현지 시각) X에 “아스트라가 ‘나는 로봇이 아닙니다’ 게임 48단계를 모두 통과했다”고 밝혔다. 인터넷 웹사이트에서 사람과 자동 프로그램(로봇)을 구별하는 ‘캡차’ 인증을 본뜬 게임이다. 아스트라는 단계별 과제를 한 번도 막히지 않고 연달아 풀어내 ‘인간 증명서’까지 받았다.

기존 AI는 지속적 성능 개선에도 여전히 인간을 뛰어넘지 못했다. 하지만 오픈AI가 지난 3일 내놓은 아스트라는 전 영역에서 고지능(高知能) 인간 못지않은 능력을 드러내고 있다. 아스트라 출현을 계기로, AI가 사람이 할 수 있는 다양한 지적 업무를 폭넓게 이해하고 수행할 수 있는 ‘AGI(범용 인공지능)’ 시대가 열렸다는 평가가 나오고 있다. AI는 이제 인류가 풀지 못한 난제도 하나하나 해결하고 있다. 오픈AI는 이날 비공개 최신 AI 모델이 90년 묵은 수학 7대 난제 중 하나의 해법을 찾았다고 했다.

인간과 AI의 구분이 모호해지면서, 인간에 기반을 둔 기존의 금융·전자정부 보안 체계가 뿌리부터 흔들릴 수 있다. 앤스로픽의 전 AI 연구원 제이컵 콕슨은 “AI 개발자들은 이 기술이 2030년 이전에 우리 모두를 죽일 수(쓸모없게 만들 수) 있다고 진지하게 믿고 있다”고 했다.

/그래픽=김현국

◇‘인간 증명서’ 받아낸 아스트라… 처음 보는 문제 99.9% 해결했다

아스트라는 지난 3일 공개 직후 앤스로픽의 ‘클로드 페이블 5.1’ 등과 함께 최상위권에 올랐다. AI 성능 분석 업체 아티피셜 어낼리시스의 종합 지능 지표에서 아스트라의 최고 추론 설정은 53점으로 페이블 5.1과 공동 1위를 기록했다. 처음 보는 문제를 해결하는 능력을 평가하는 벤치마크(ARC-AGI-3)에선 점수가 99.9%, 최고 난도 수학 문제 평가(FrontierMath Tier 4)에서는 98%를 기록했다. 최소 10년 이상 뚜렷한 진전이 없던 수학·컴퓨터 과학 난제 10개에서 새로운 증명이나 반례를 만들어내는 성과도 냈다.

아스트라가 모두 통과한 ‘캡차’는 인터넷에서 사람과 자동화 프로그램(봇)을 구별하기 위해 만든 인증 절차다. 초창기에는 일그러진 문자를 읽어 입력하게 했고, 봇의 문자 인식 능력이 좋아지자 최근엔 여러 사진 중에서 자전거·신호등 등이 들어간 사진만 고르는 방식으로 발전했다. 사람은 시각적 맥락과 애매한 이미지를 비교적 쉽게 이해하지만, 자동화 프로그램은 정해진 규칙을 반복 실행하기 때문에 이런 판단에 취약하다는 점을 이용한 것이다. 이를 이용해 가짜 계정 대량 생성, 스팸 게시, 과부하, 콘텐츠 무단 수집 등을 막아왔다.

샤리프 샤밈 X

◇글·목소리 넘어 인간 모든 것 따라한다

AI의 인식과 추론 능력이 발전하면서 인간과 AI의 경계는 빠르게 붕괴하고 있다. 글·사진·영상·음성 같은 창작의 영역에서 가장 먼저 그 여파가 나타났다. 생성형 AI 콘텐츠가 쏟아지지만 소셜미디어에선 결과물만 보고 사람이 만든 것인지 AI가 만든 것인지 판단하기 어려워졌다.

대화의 경계도 흐려지고 있다. 과거 음성 AI는 사람이 말을 끝내고 잠시 기다려야 답하는 식이어서 기계와 대화하고 있다는 느낌이 뚜렷했지만, 최근엔 AI가 실시간으로 말을 이해하고 자연스럽게 끼어들기도 한다. 지난 5월 미국 AI 스타트업 싱킹머신랩이 공개한 실시간 음성 AI는 사람이 말을 멈춘 뒤 0.4초 만에 답하기 시작했다. 오픈AI는 최근 사용자가 말하는 도중에도 동시에 듣고 실시간으로 반응할 수 있도록 음성 기능을 강화했다.

AI는 이제 ‘인간 인증’의 영역까지 들어왔다. 사람 대신 일정한 권한을 넘겨받아 직접 행동하는 ‘AI 에이전트’가 등장하면서, 주식 거래·결제·이메일 발송 같은 온라인 활동의 주체가 사람인지 AI인지 구분하기 이미 어려워진 상황이다. 김경훈 오픈AI코리아 사장은 “아스트라가 사람이 하던 것을 다 할 수 있으니 캡차도 할 수 있어야 할 때가 있다”며 “가드레일(안전장치)을 통해 더 많은 일을 안전하게 할 수 있도록 접근 제한 등의 장치를 두고 있다”고 말했다.

◇기존 보안 체계 재설계해야

기존 사이버 인증과 보안 체계는 전면적 재설계가 불가피해졌다. 범죄 집단이나 적국에 의해 AI가 악용돼 가짜 계정 생성, 스팸과 피싱 사기, 정보 수집 같은 작업이 기존보다 훨씬 큰 규모로 자동화될 수 있다.

AI에 더 많은 권한이 갈수록 피해 규모는 커진다. 앤스로픽은 “에이전트가 더 많은 도구와 권한을 가질수록 한 번의 실패가 미칠 수 있는 피해 범위, 즉 ‘폭발 영향권(blast radius)’도 커진다”고 했다. 영국 파이낸셜타임스는 “대형 AI 사고 한 건의 직접 피해가 약 1000억달러(약 134조원)에 이를 수 있다”고 분석했다.

구글은 이에 의심스러운 접속에는 휴대전화로 QR코드를 스캔하게 하는 등 사람이 직접 개입해야 하는 ‘AI 저항형(AI-resistant) 인증’을 활용하는 등 대안을 내놓고 있다. 문제는 안전장치를 마련해도 AI가 이를 다시 우회할 가능성이 있다는 것이다. 월스트리트저널(WSJ)은 “봇들이 사람의 불규칙한 마우스 움직임까지 흉내 내며 새로운 탐지 체계를 우회하려 한다”고 전했다.

가장 큰 문제는 이런 안전장치가 마련되는 속도보다 AI 모델의 성능이 향상되는 속도가 더 빠르다는 점이다. 올해 들어 오픈AI는 4월(GPT-5.5)·7월(GPT-5.6)·9월(아스트라)에 주요 모델을 잇따라 내놨고, 이 외에도 성능 개선·기능 추가를 위한 세부 업데이트를 수차례 해왔다.

앞으로의 인증은 사람인지 AI인지 접속 주체를 구별하는 것을 넘어서 더욱 정교해질 전망이다. 어떤 계정과 기기가 어떤 권한으로 무엇을 하려는지를 확인하고 결제·계정 변경 같은 중요한 행동에는 사람의 최종 승인을 요구하는 쪽으로 바뀔 수 있다. WSJ는 앞으로 봇 탐지의 초점이 “방문자가 봇인지 인간인지”보다 “그 방문자의 의도가 좋은지 나쁜지”를 판단하는 방향으로 옮겨갈 수 있다고 전했다.