"AI는 지능, Web3는 신뢰"…에이전틱 AI 통제 해법 꺼낸 라온시큐어

엔비디아 젠슨 황 "사이버보안, AI의 다음 주요 활용 분야"
AI 안전의 시작은 '인증'…Web3 기반 신원·권한·책임관리 부상

인공지능(AI)이 사람의 질문에 답하는 도구를 넘어 스스로 판단하고 행동하는 '에이전틱 AI(Agentic AI)'로 진화하면서 AI 산업의 화두도 '성능'에서 '안전'으로 이동하고 있다.

최근 글로벌 AI 업계에서는 좀처럼 보기 힘든 장면이 펼쳐졌다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 능력의 발전 속도를 조절해 기술적 안전장치와 제도적 관리체계가 함께 따라갈 시간을 확보해야 한다고 제안하자, 경쟁 관계인 샘 올트먼 오픈AI CEO와 일론 머스크도 공개적으로 공감했다. 아모데이는 외부 독립 평가자가 주요 AI 기업의 시스템을 지속적으로 검증하는 방안도 제안했다.

이에 앞서 앤트로픽 연구원 제이컵 콕슨도 회사를 떠나면서 AI 개발 경쟁이 가속할수록 안전 조치가 뒤로 밀릴 수 있다고 경고했다. AI가 AI 개발 자체를 가속하는 '재귀적 자기개선' 가능성까지 거론되면서 AI 발전 속도와 통제 역량 간 격차에 대한 우려도 커지고 있다.

결국 논쟁의 초점은 'AI 개발을 멈출 것인가'가 아니라 'AI에 얼마나 많은 자율성을 부여하고 이를 어떻게 안전하게 통제할 것인가'로 옮겨가고 있다. 에이전틱 AI는 기존 생성형 AI와 다르다. 질문에 답하는 데 그치지 않고 기업 시스템에 접속해 데이터를 조회하고, 여러 애플리케이션을 넘나들며 스스로 판단해 업무를 실행한다. AI가 '답하는 도구'에서 '업무를 수행하는 주체'로 바뀌는 것이다.

이 같은 변화는 새로운 보안 시장으로도 이어지고 있다. 젠슨 황 엔비디아 CEO는 최근 골드만삭스 테크놀로지 콘퍼런스에서 사이버보안을 AI의 다음 주요 활용 분야로 지목했다. AI가 코딩을 자동화할수록 취약점을 찾는 공격과 이를 막는 방어 역시 AI 중심으로 재편되면서 사이버보안 분야의 AI 수요가 커질 것이란 전망이다.

AI가 공격과 방어의 주체로 부상하면서 보안의 범위도 넓어지고 있다. 앞으로는 단순히 외부 공격을 막는 것에 그치지 않고 '이 AI가 누구인지', '누구에게 권한을 부여받았는지', '어디까지 접근할 수 있는지', '무슨 행동을 했는지'를 식별하고 통제해야 한다.

사람에게 신분증과 접근 권한이 필요하듯 AI 에이전트에도 검증 가능한 디지털 신원과 권한 체계가 필요해지고 있다. 결국 에이전틱 AI 시대의 핵심은 자율성을 없애는 것이 아니라, 필요한 만큼의 자율성을 허용하되 그 범위를 명확히 관리하는 '통제된 자율성'을 구현하는 데 있다.

이 지점에서 업계는 라온시큐어(042510)의 기술 포트폴리오를 주목하고 있다. 라온시큐어는 AI 에이전트의 신원과 권한을 관리하고 위험한 행동을 통제하는 기술부터 AI를 활용한 보안 위협 탐지·대응까지 아우르는 5대 에이전틱 AI 보안 솔루션을 이달 말 개최되는 '시큐업 세미나'에서 공개할 계획이다.

또 하나의 축은 블록체인 기반 분산신원인증(DID)이다. AI 에이전트가 사람을 대신해 업무를 수행하거나 다른 시스템과 상호작용하게 되면 '이 AI가 누구인지', '어떤 권한을 위임받았는지'를 검증하는 체계가 중요해진다. 라온시큐어는 모바일 운전면허증, 모바일 공무원증, 국가보훈등록증 등 국가 모바일 신분증 구축을 통해 디지털 신원 기술과 레퍼런스를 축적해왔다.

이를 AI 영역으로 확장하면 AI 에이전트에 검증 가능한 신원을 부여하고, 누구에게 어떤 권한을 위임받았는지를 확인하는 기반으로 활용할 수 있다.

라온시큐어의 차별점은 AI 보안과 디지털 신원 기술을 각각 보유한 데 그치지 않고, 이를 '신원 확인·권한 부여·행위 통제·책임 추적'의 하나의 흐름으로 연결할 수 있다는 데 있다.

DID가 '이 AI가 누구인지'를 증명하고, 권한관리 기술이 '무엇을 할 수 있는지'를 결정하며, 에이전틱 AI 보안이 '실제로 무엇을 하고 있는지'를 통제하는 구조다. 이 과정에서 블록체인과 DID 등 Web3 기반 기술은 AI의 신원과 권한 위임, 실행 이력을 검증하는 신뢰 인프라로 활용될 수 있다.

AI가 더 많은 업무를 수행하고 더 넓은 권한을 부여받을수록 경쟁의 기준은 '얼마나 똑똑한 AI인가'를 넘어 '얼마나 믿고 일을 맡길 수 있는 AI인가'로 이동할 가능성이 높다. AI 에이전트를 식별하고 권한을 부여하며 행동을 통제하는 '신뢰 인프라'의 중요성도 더욱 커질 것으로 보인다.

에이전틱 AI 보안과 Web3 기반 디지털 신원 기술을 함께 확보한 라온시큐어가 AI 시대의 '디지털 신뢰 인프라' 시장을 새로운 성장축으로 겨냥하는 이유다.

장효원 기자 specialjhw@asiae.co.kr