IT업계에 켜진 '자동화 AI' 경고등…편리함보다 보안에 무게

네이버·카카오·당근 등 '오픈클로' 반입 금지 결정
자동화 AI 보편화 대비 가이드라인 필요성 대두

국내 정보기술(IT) 업계가 업무를 자동으로 처리하는 외부 자동화 AI의 보안 문제점을 인식하고 회사 내부에서의 사용을 잇달아 금지하고 있다. /제미나이 생성 이미지

[더팩트｜우지수 기자] 국내 정보기술(IT) 업계가 외부 자동화 인공지능(AI)에 경고등을 켰다. 기술 특성상 기업 기밀과 개인정보가 외부로 유출될 수 있다는 우려에 따른 조치다. 산업계에서는 자동화 AI 도구가 보편화될 시기에 대비해 구체적인 보안 기준과 가이드라인이 마련돼야 한다는 목소리가 나온다.

11일 관련업계에 따르면 네이버와 카카오, 당근은 최근 임직원들에게 사내망과 업무용 기기에서 '오픈클로(OpenClaw)'를 포함한 외부 AI 에이전트의 사용을 제한하거나 관련 접속을 차단한다는 공지를 내렸다. 국내 기업들이 특정 AI 도구군에 대해 집단적으로 사용 금지를 명시한 것은 지난해 초 중국 AI 모델 '딥시크' 논란 이후 약 1년 만이다.

이번 조치의 발단이 된 '오픈클로'는 오스트리아 개발자 피터 스타인버거가 만든 오픈소스 AI 에이전트다. 텍스트 답변을 넘어 사용자 PC의 마우스와 키보드를 직접 제어해 업무를 수행하는 것이 특징이다. 영화 '아이언맨'의 비서에 빗대 '현실판 자비스'로 불리며 개발자 사이에서 인기를 끌었지만 기업 환경에서는 위험 요소로 분류된 것이다.

글로벌 보안 기업 비트디펜더는 지난 9일(현지시간) 보고서를 통해 "오픈클로의 기능 확장 도구의 17%에서 악성 코드가 발견됐다"고 경고했다. 이들 중 절반 이상은 사용자 PC를 암호화폐 채굴에 무단 활용하거나 금융 정보를 탈취하도록 설계된 것으로 드러났다. 사태가 심각해지자 당근 등 일부 기업은 AI 에이전트 전용 플랫폼 접속까지 원천 차단하며 강력한 대응에 나섰다.

전문가들은 이번 사태를 계기로 AI의 자율성보다 통제 가능성에 더 주목해야 한다고 강조했다. AI가 모든 것을 알아서 처리하는 완전 자율화에 대한 기대감은 높지만 실제 산업 현장에서는 사람의 개입과 통제를 여전히 핵심 원칙으로 삼고 있기 때문이다. LG유플러스는 최근 AI 에이전트 도입 현황을 공개하며 이러한 신중론에 힘을 실었다. LG유플러스는 네트워크 운영에 AI를 적극 도입 중이지만 핵심 영역만큼은 AI에게 전권을 넘기지 않고 있다.

박성우 LG유플러스 네트워크 AX부문장은 "기지국 장비 등은 AI가 자율적으로 조치하도록 권한을 부여하지만 통신 서비스의 심장인 코어망 장비는 AI가 분석과 판단까지만 하고 최종 조치 승인은 반드시 사람이 하도록 설계했다"며 "안정성이 무엇보다 중요하기 때문에 마지막 순간까지 사람이 개입하는 절차를 유지하고 있다"고 설명했다.

문제는 이러한 보안 충돌이 오픈클로만의 논란으로 그치지 않을 전망이다. 실제로 글로벌 빅테크는 오픈클로와 유사한 기술을 개발하고 있다. 앤트로픽의 '컴퓨터 유즈', 오픈AI와 구글 역시 각각 '오퍼레이터'와 '자비스'라는 이름의 자율 AI 서비스를 준비 중이다. 이 기술들이 확산되면 기업 보안망과 AI 편의성의 정면충돌이 다시 수면 위로 떠오를 것이라는 전망도 나온다.

한 IT업계 관계자는 "오픈클로 사용 금지 사태는 AI 에이전트가 '보조 도구'를 넘어 '실행 주체'가 될 때 발생할 수 있는 부작용을 우려한 것"이라며 "기업 보안 환경이 AI를 안전하게 통제할 수 있는 수준으로 고도화되기 전까지는 사람의 개입이 배제된 완전 자동화 도구의 사내 도입은 요원할 것"이라고 말했다. 이어 "향후 자동화 AI의 권한 범위와 책임을 명확히 하기 위한 업계 공통 기준이나 정부 차원의 가이드라인 논의도 뒤따를 것으로 보인다"고 덧붙였다.

index@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write