젠슨 황이 극찬한 ‘오픈클로’…부작용 우려 사용 주의 권고
국정원, 울산 등 전국 공공기관에 사용 주의 당부
네이버·카카오 등 국내 주요 IT 기업들도 ‘빗장’
18일 울산시에 따르면 최근 국가정보원은 울산 5개 구·군을 비롯해 전국 공공기관에 자율형 AI 에이전트인 오픈클로를 사용할 시 주의할 것을 권고했다.
오픈클로는 오스트리아 출신 개발자 피터 스타인버거가 개발한 오픈소스 기반의 자율형 AI 에이전트 플랫폼이다. 기존 챗GPT와 같은 챗봇이 사용자 질문에 텍스트로 답하는 수준에 머물렀다면, 오픈클로는 최소한의 입력만으로 스스로 계획을 세우고 의사결정을 내리며 실제 소프트웨어나 도구를 조작해 작업을 완수하는 실행력을 갖춘 것이 특징이다.
젠슨 황 엔비디아 CEO는 17일(현지시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아의 연례 개발자 콘퍼런스 GTC에서 인류 역사상 가장 성공적인 오픈소스 프로젝트로 꼽으며, 이것이 인간과 AI 상호작용 방식을 근본적으로 바꿀 '차세대 챗GPT'가 될 것이라고 평가하기도 했다.
하지만 오픈클로는 메일 발송, 메시지 작성, 파일 접근 등 광범위한 권한을 활용한다는 점에서 사내망에서 사용할 경우 민감한 정보에 쉽게 접근할 수 있다는 지적이 이어지고 있다.
실제로 한 개발자가 오픈클로에게 아이폰 메시지 앱을 이용해 매일 뉴스 요약을 보내달라고 했는데, 에이전트가 설정을 잘못 이해하고 자신과 아내에게 500개가 넘는 메시지를 보내는 일이 발생했다. 연락처에 저장된 다른 사람들에게도 무작위 메시지를 보내는 상황까지 벌어졌다.
이에 국정원은 공공기관에서 오픈클로와 같은 자율형 AI 에이전트를 활용할 경우 각종 대외비가 외부로 유출될 것을 우려해 사전에 사용에 주의할 것을 요구한 것으로 알려졌다.
울산의 공공기관에서는 아직 이를 사용한 사례는 확인되지 않았다.
공공기관뿐만 아니라 국내 주요 IT 기업들도 보안 우려를 이유로 오픈클로 사용을 제한하고 있다.
지난 8일 네이버, 카카오, 당근은 최근 개발자와 임직원을 대상으로 오픈클로 사용을 자제하거나 금지하라는 공지를 내렸다.
안대한 울산대 ICT융합학부 AI융합트랙 주임교수는 "오픈클로와 같은 자율형 AI 에이전트는 스스로 판단해 지속해서 기능을 추가하는데, 이 과정에서 외부 서버로부터 검증되지 않은 코드가 유입될 수 있다"라며 "보안에서 여러 취약점을 노출한 만큼 보완이 이뤄지기 전까지는 사용에 유의할 필요가 있다"라고 전했다.
윤병집 기자 (sini20000kr@iusm.co.kr)