中딥시크, AI 훈련 플랫폼 소개…'통제 벗어난 AI' 위험 지적도

AI 훈련용 샌드박스 DSec 논문 발표…"단일 메커니즘으로 모든 부정 못 막아"

딥시크 [AP 연합뉴스 자료사진]

(베이징=연합뉴스) 정성조 특파원 = 중국 인공지능(AI) 기업 딥시크(DeepSeek)가 새 논문에서 AI 모델을 훈련하는 자체 시스템을 소개하면서, AI 에이전트의 부정행위 위험을 방지할 필요가 있다고 지적했다.

24일 펑파이 등에 따르면 딥시크는 19일 논문 사전 공개 플랫폼 '아카이브'(arXiv)에 '딥시크 탄력적 컴퓨팅(DSec): 대규모 에이전트 훈련을 위한 샌드박스 인프라'라는 논문을 발표했다.

딥시크 창업자 량원펑 등 130여명이 저자로 참여한 이 논문은 대규모 에이전트 훈련·평가를 위해 설계된 샌드박스 메커니즘 DSec를 소개했다.

샌드박스란 컴퓨터 프로그램 등을 실행하는 격리 공간을 의미한다. AI 영역에서는 AI 에이전트의 대규모 학습을 위해 수많은 명령을 안전하게 실행할 격리된 가상 환경을 가리킨다.

최근 미국의 오픈AI가 AI 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 샌드박스 환경에서 시험을 진행했는데, AI 모델들이 스스로 통제를 벗어나 외부 웹사이트를 해킹하는 초유의 사태가 벌어져 관심을 끈 바 있다.

논문에 따르면 딥시크의 DSec 기본 유닛 하나는 약 160개의 노드(서버)로 구성되고, 3만개의 중앙처리장치(CPU) 코어와 250테라바이트(TB·1천24기가바이트) 메모리를 보유한다. 또 AI 에이전트들이 코드를 테스트할 수 있는 가상의 작업실(샌드박스)을 매일 300만개 만들어내고, 38만개 이상의 샌드박스를 동시에 실행할 수 있으며, 초당 5천개 이상의 샌드박스를 생성하는 효율을 유지한다고 논문은 설명했다.

다만 논문은 딥시크에 DSec가 몇 개 존재하는지는 밝히지 않았다.

논문은 DSec의 핵심이 자원 활용 효율을 높이는 것이라고 설명했다. AI 에이전트가 작업을 수행하면서 결과를 내거나 추가 명령을 수신하는 동안에는 대량의 CPU 자원이 유휴 상태에 놓이는데, 딥시크 측은 약 90%의 샌드박스에서 실제 CPU 사용량이 평균 5%를 넘지 않았다고 지적했다.

이번 논문은 AI 에이전트를 대규모로 운영하면서 수반되는 보안 위험에 관해서도 언급했다.

딥시크는 작업을 수행 중인 AI 에이전트를 "결코 신뢰할 수 없다"며, 에이전트가 시스템 손상이나 자원 고갈, 시스템 구성 요소 방해 등 문제를 일으키는 경우가 있었다는 실제 경험을 소개하기도 했다.

아울러 AI 에이전트가 과제를 받은 뒤 통제를 벗어나 '예상치 못한 경로'로 답을 찾아내거나 실행 환경을 직접 파괴하는 경우까지 있었다며, AI 에이전트의 부정행위 방지와 행동 제약 역시 점차 훈련 인프라의 일부가 되고 있다고 강조했다.

논문은 "어떤 단일 메커니즘도 모든 부정행위와 시스템 고장을 막을 수는 없다"면서도, DSec는 시스템 모니터링을 강화하고 플랫폼을 지속적으로 개선하고 있다고 덧붙였다.

xing@yna.co.kr

▶제보는 카톡 okjebo