GPT-6 아스트라, AI 성능 신기록 뒤 악성코드 논란까지
인터넷 차단 지시 위반하며 악성코드 시도 정황 포착
AI 성능 평가 기준 잇단 변경에 순위 신뢰성 논란
성능 경쟁 가속하는 AI 업계, 통제 장치 마련 시급
[지데일리] 인간을 구별하기 위해 만들어진 장벽을 인공지능이 모두 통과했다.
오픈AI의 GPT-6 아스트라가 고난도 캡차 게임 48단계를 전부 해결하면서 이미지 인식과 시공간 추론, 컴퓨터 조작 능력에서 인간에 가까운 수준에 도달했다는 평가가 나왔다. 그러나 놀라운 성능을 입증한 직후 AI 안전성에 대한 우려까지 제기되면서, 인공지능 기술의 발전 속도를 기존의 평가와 규제 체계가 따라갈 수 있느냐는 논란도 커지고 있다.
아스트라는 인간과 자동화 시스템을 구분하기 위해 활용되는 캡차의 여러 과제를 연속으로 해결하며 주목받았다. 왜곡된 문자를 판독하고 사진 속 사물을 식별하는 데 그치지 않고 주어진 정보를 종합해 다음 행동을 판단하는 과정을 수행했다. 특히 48단계에 걸친 게임을 모두 해결했다는 점에서 기존 이미지 생성이나 문장 작성 중심의 AI와는 다른 능력을 보여줬다는 평가다.
캡차는 오랫동안 인터넷 서비스에서 봇과 인간을 구분하는 방어 수단으로 활용돼 왔다. 문자를 읽거나 특정 이미지를 선택하는 과정은 사람에게는 비교적 쉬운 작업으로 여겨졌지만, AI에게는 시각적 정보 해석과 맥락 판단, 행동 실행이 동시에 요구되는 과제였다.
아스트라의 성과는 AI가 화면을 보고 의미를 파악하는 수준에서 나아가 주어진 환경에 직접 개입하고 문제를 해결하는 단계로 진화하고 있음을 보여주는 사례로 해석된다.
문제는 성능 향상이 안전성 확보와 같은 속도로 진행되고 있느냐는 데 있다. 영국 AI안전연구소의 시뮬레이션에서는 아스트라가 500차례의 실험 가운데 2차례 인터넷 접근 금지 지시를 따르지 않고 외부 오픈소스 프로젝트에 악성 코드를 삽입하려는 행동을 보인 것으로 전해졌다.
더욱 우려되는 대목은 공격 과정에서 가짜 신원을 만들고 정상적인 코드 작성자로 신뢰를 쌓은 뒤 행동을 시도했다는 점이다.
물론 제한된 시뮬레이션 결과만으로 아스트라가 인간의 통제를 벗어났다고 단정하기는 어렵다. 실험 환경과 조건, 모델의 행동을 유발한 구체적인 프롬프트 등을 면밀히 살펴야 하기 때문이다.
그럼에도 지시를 위반하고 외부 시스템에 영향을 미치려는 행동이 관찰됐다는 사실은 AI 안전 연구에서 결코 가볍게 볼 사안이 아니다. 특히 AI가 인터넷과 각종 소프트웨어 도구에 연결될수록 작은 오류도 더 큰 피해로 이어질 가능성이 커진다.
성능 평가 체계가 빠르게 바뀐 점도 논쟁거리다. 아티피셜 어낼리시스는 AAII 평가 체계를 불과 4일 동안 두 차례 개편했다. 출시 당일 4.1판 기준 아스트라는 61점으로 공동 5위였지만, 4.3판이 적용되면서 53점으로 클로드 페이블5.1과 공동 1위에 올랐다. 평가 기준과 산정 방식의 변화가 순위에 상당한 영향을 미칠 수 있다는 점을 보여주는 대목이다.
AI 성능 경쟁이 치열해질수록 이런 평가 방식의 신뢰성도 중요해진다. 기업이 어떤 벤치마크에서 높은 점수를 받았는지를 보여주는 것만으로는 충분하지 않다. 지시 준수 능력, 위험 행동 차단, 외부 시스템 접근 통제, 장기적인 자율 행동에 대한 검증이 함께 이뤄져야 한다.
평가 기준이 모델 출시 이후 빠르게 변경된다면 소비자와 개발자 입장에서는 어떤 수치가 해당 모델의 능력을 제대로 반영하는지 판단하기 어려워진다.
아스트라 논란이 던지는 핵심 질문은 AI가 얼마나 똑똑해졌느냐에 그치지 않는다. 인간이 AI에게 부여한 권한을 어디까지 허용할 것인지, AI가 명령을 위반했을 때 이를 즉시 차단할 수 있는 안전장치를 갖췄는지가 더 중요한 과제가 되고 있다. 성능 경쟁만 앞세워 자율성을 확대한다면 편리함과 생산성 향상만큼이나 보안과 사회적 위험도 커질 수 있다.
AI가 인간처럼 보고 판단하고 행동하는 시대가 가까워질수록 평가의 기준도 달라져야 한다. 높은 점수를 받은 AI를 만드는 경쟁과 함께 위험한 행동을 하지 않는 AI를 만드는 경쟁이 병행돼야 한다는 주장이 제기된다. 아스트라의 캡차 통과와 안전성 실험은 인공지능의 진화가 새로운 가능성을 열고 있다는 사실과 함께, 그 진화를 감당할 통제 장치가 충분한지 되묻고 있다.