업무에 생성형 AI 쓰는 기업들 ‘보안은 어쩌나…’

사용 확대에 정보 유출 우려 확산
AI 리스크 관리 플랫폼도 등장

게티이미지뱅크

사내 업무 효율화를 위한 생성형 인공지능(AI) 도입 바람이 거세다. 게임 업체부터 공공기관까지 속속 사내 업무에 생성형 AI를 적용하고 있다. AI 활용도가 높아지면서 정보 유출 우려도 커지고 있다. 일부 기업은 정보 유출을 막기 위해 자체 개발한 생성형 AI를 활용하는 등 보안 대책을 한층 강화하고 있다.

게임 개발, 공공기관 업무까지 활용

20일 업계에 따르면 삼성전자는 사내에 임직원의 이메일 작성이나 문서 요약 등을 돕는 자체 생성형 AI를 도입한다고 지난 18일 밝혔다. 삼성전자 디바이스솔루션(DS) 부문은 18일부터 사업부별로 순차적으로 생성형 AI를 도입한다고 공지했다. 디바이스경험(DX) 부문도 자체 개발한 ‘가우스 포털’을 지난주부터 순차적으로 도입하는 중이다.

DS 부문 사내 생성형 AI의 명칭은 ‘DS 어시스턴트’이다. 반도체 사업 특성 등을 고려해 별도로 구축한 자체 시스템으로 알려졌다. DS 어시스턴트는 구매·경비 등 업무 프로세스 자동 응답, 공정·설계·제조 등 전문 지식 검색, 제조·공정 데이터 요약, 문서 작성, 회의록 녹취·요약, 시장·업체 분석, 코드 생성·리뷰, 고객 소리(VOC) 대응 등 업무를 지원한다.

엔씨소프트는 게임 개발에 자체 개발한 생성형 AI인 ‘바르코’를 사용한다. 엔씨소프트는 올해 연말까지 ‘바르코 스튜디오’의 사내 적용을 완료할 계획이다. 내년부터는 외부 상용화를 목표로 하고 있다. 엔씨소프트 관계자는 “바르코는 디지털 휴먼의 생성 및 편집과 운영 통합 툴, 텍스트 생성 및 관리 기능을 제공한다”고 말했다.

공공기관도 생성형 AI를 도입하고 있다. 지난 10월 소상공인시장진흥공단은 생성형 AI 챗봇 ‘김계약 주임’을 도입했다. 소진공의 내부 계약업무 규정과 매뉴얼을 학습한 김계약 주임은 법령 및 업무절차 등 계약업무와 관련한 질의에 계약업무 담당자를 대신해 답변하는 역할을 맡고 있다.

AI 위험관리 시장도 커질 듯

업무용 생성형 AI 도입이 늘며 기업 맞춤형 AI 서비스 시장도 급성장하는 추세다. 시장조사업체 프리시던스리서치에 따르면 글로벌 기업용 생성형 AI 시장 규모는 2030년 1029억 달러(약 131조원)에 달할 전망이다.

경쟁도 치열하다. LG CNS는 지난 10월 생성형 AI로 기업 내부의 유용한 지식과 데이터를 찾는 ‘AI를 활용한 KM 혁신’ 서비스를 시작했다. 사내 임직원들이 업무에 필요한 지식을 찾기 위해 채팅 창에 질의하면 생성형 AI가 사내 데이터를 분석해 최적의 답변을 제공하는 서비스다. 마이크로소프트(MS)는 지난달 사무용 소프트웨어에 생성형 AI를 탑재한 ‘MS 365 코파일럿’을 출시했다. 구글 역시 워크스페이스에 탑재되는 ‘듀엣 AI’를 지난 8월 선보였다.

다만 생성형 AI 도입에 따른 정보 유출 등 리스크에 대한 우려도 커지고 있다. 회사와 관련된 각종 데이터가 외부로 나갈 수 있고 이는 해커의 공격 도구로 활용될 수 있기 때문이다. 이에 생성형 AI 도입에 따른 위험을 관리하는 서비스까지 나왔다. 대표적 서비스로는 한국 IBM이 출시한 생성형 AI 플랫폼 솔루션 ‘왓슨x. 거버넌스’이 꼽힌다. 이 서비스는 AI 생애주기 거버넌스, AI 위험 요소 관리, 규제 준수 부문에 대한 기술 제공 등 생성형 AI 도입에 따른 리스크에 대한 안전장치를 제공한다.

임송수 기자 songsta@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지