[AI혁명](27) 챗GPT發 보안 위협, 우리가 잡는다…지란지교데이터

지란지교데이터, 'AI필터'로 챗GPT 개인정보 유출 방지

최근 오픈AI의 '챗GPT'를 업무에 활용하려는 기업들이 늘고 있다. 그러나 내부 정보 유출을 우려해 챗GPT 도입을 꺼리는 곳들도 적지 않다. 챗GPT와 같은 대언어 모델(LLM) 기반 생성형 AI 서비스는 학습된 데이터를 기반으로 사용자 질문에 답변한다. 사용자의 질문과 답변에 대한 평가를 학습함으로써 답변 수준을 지속적으로 높이는 것이 특징이다. 하지만 사용자의 질문을 학습한다는 점에서 기업의 기밀정보가 학습돼 불특정 다수에게 공개될 수 있다.

실제 국내 모 기업에서 챗GPT 사용으로 인한 사내 정보 유출 사례가 나왔는데, 프로그램 오류를 해결하는 과정에 챗GPT를 활용한 사실이 사내 모니터링 과정에서 밝혀졌다. 이 기업은 챗GPT 사용할 때 주의해달라고 직원들에게 공지했다. 질문 시 업로드 용량을 제한하는 등 재발 방지 조치도 취했다. 더불어 일부 부서는 챗GPT 사용을 금지했다.

데이터 보호 전문기업 지란지교데이터는 이 같은 챗GPT 오남용으로 인한 기밀정보 및 개인정보 유출을 방지하기 위해 인공지능 기반 데이터 보호 솔루션 ‘AI필터(FILTER)’를 내놨다.

AI필터는 ▲비정형 텍스트 데이터 내 개인정보·기밀정보 탐지 및 비식별 처리 기술 ▲이미지 및 영상 데이터 내 개인정보 탐지 및 비식별 처리 기술 ▲합성데이터를 통한 증강 학습데이터 생성 기술 ▲ 챗GPT 등 인공지능 서비스 기밀정보 및 개인정보 보호를 위한 질의와 응답 내용 필터링 기술 등을 집약해 놓은 제품이다. 이를 API(Application Programming Interface·응용프로그램 인터페이스) 형태로 제공함으로써 조직 내 시스템에 연동해 활용할 수 있다.

AI필터는 API 방식으로 제공하는 것이 특징이다. 지란지교데이터의 데이터 및 개인정보 보호 제품군 ‘필터 시리즈’는 물론 협업툴, 그룹웨어 등 다양한 솔루션과 연동해 개인정보 및 기업 주요정보 유출을 방지할 수 있다.

AI필터 시스템 구성도. 지란지교데이터 제공

조원희 지란지교데이터 대표는 챗GPT등 새로운 IT 기술이 등장해 생긴 보안 위협에 대응하기 위해 두가지 목표를 설정했다. AI필터처럼 기밀정보 및 개인정보가 입력, 유출되지 않도록 필터링하는 기술을 개발하는 것과 AI 학습 등 데이터 활용 과정에서 개인·기밀정보가 침해되지 않도록 보호하는 기술을 고도화하는 것이다.

조 대표는 "인공지능 학습 과정에서 개인정보, 기밀정보가 침해되지 않도록 지원하는 비식별화 기술을 지속적으로 고도화하고 있다"며 안전하게 데이터를 활용할 수 있도록 지원하고자 만든 것이 ‘아이디필터’"라고 설명했다. 2021년 출시한 '아이디필터'는 개인정보 비식별화 솔루션이다. 개인정보를 개인을 식별할 수 없는 가·익명정보로 바꿔 프라이버시 침해 없는 데이터 활용을 지원한다. 데이터 활용에 대한 관심이 나날이 높아지면서 이 솔루션에 대한 관심과 수요 역시 빠르게 늘고 있다.

지란지교데이터가 챗GPT발(發) 보안 위협에 발 빠른 대응이 가능했던 이유는 업계에서 15년 이상 쌓은 노하우 덕분이다. 지란지교데이터는 개인정보보호법이 제정되기 이전인 2006년부터 개인정보 및 데이터 보호 솔루션 제품군을 출시하며, 기관·기업들이 데이터 및 개인정보를 안전하게 보호할 수 있도록 지원해 왔다.

2006년 개인정보 및 불건전 게시물 필터링 솔루션 ‘웹필터(WEBFILTER)’ 출시를 시작으로, 2010년 개인정보 보호 솔루션 ‘피씨필터(PCFILTER)’, 2011년 서버 개인정보 진단 솔루션 ‘서버필터(SERVERFILTER)’, 2021년 아이디필터 등 데이터 및 개인정보 보호 솔루션 제품군 ‘필터’ 시리즈를 출시, 제공하고 있다.

지란지교데이터는 AI 기반 개인정보 보호 기술 연구·개발을 지속적으로 해나갈 계획이다. 조 대표는 "개인정보 및 기밀정보는 다양한 형태의 수많은 데이터로 저장돼 있다. 수많은 데이터 내 개인정보 및 기밀정보를 식별하고 보호하기 위해서는 AI 기술이 필수"라며 "DB 및 문서 파일은 물론, 이미지, 영상 등 다양한 데이터에 포함된 개인정보 및 기밀정보를 안전하고 편리하게 보호할 수 있도록 AI 기술 연구를 계속 해 나가겠다"고 말했다.

강나훔 기자 nahum@asiae.co.kr