지란지교데이터, 안전한 챗GPT 활용 돕는 ‘AI필터’ 출시

지란지교데이터는 챗GPT 모니터링 기능을 포함한 AI(인공지능) 기반 데이터 보호 솔루션 'AI필터'를 출시했다고 20일 밝혔다.

챗GPT 오남용에 따른 기밀정보 및 개인정보 유출을 방지하기 위해 개발된 솔루션으로, 데이터 보호를 위해 15년 이상 쌓은 요소기술을 집약함으로써 보다 발 빠른 대응이 가능했다는 게 회사의 설명이다.

LLM(거대언어모델) 기반 생성형AI 서비스는 사용자 질문과 답변에 대한 평가를 학습함으로써 답변 수준을 지속적으로 높인다. 하지만 이 과정에서 기업 기밀정보가 학습돼 불특정 다수에 공개될 우려도 제기되고 있다.

지란지교데이터 'AI필터'는 챗GPT에 입력하는 내용(프롬프트)을 모니터링함으로써 사내 기밀정보가 유출되지 않도록 돕는다. 챗GPT에 작성되는 질의와 응답 내용을 모니터링하며, 지정된 키워드나 문장 패턴 등이 탐지될 때 차단하는 기능을 제공한다. 사내 챗GPT 인터넷 네트워크 차단 기능도 포함됐다.

'AI필터'는 API(응용프로그램인터페이스) 방식으로 제공되는 점도 특징이다. 지란지교데이터는 사내에서 챗GPT 등 생성형AI 서비스뿐 아니라 번역 서비스에서도 기밀·개인정보 유출을 방지할 수 있는 업무 전용 웹포털을 개발해 제공할 예정이다.

조원희 지란지교데이터 대표는 "정보유출을 방지하기 위한 가장 쉬운 방안은 챗GPT 접속을 차단하는 것이지만, 이는 AI기술 활용으로 얻을 수 있는 업무효율성 향상 등 이점을 포기하는 것과 같다. 단순히 차단할 게 아니라 정보를 보호하면서 챗GPT를 활용할 수 있는 방안을 모색해야 한다"며 "'AI필터'는 API 연동으로 다양한 솔루션에도 적용할 수 있다. 기밀정보 및 개인정보 유출은 막고 AI서비스 활용으로 인한 이점은 모두 누릴 수 있을 것"이라고 말했다.팽동현기자 dhp@dt.co.kr