아마존베드록, 생성형 AI 답변에 정확도 점수 매긴다

AWS, 베드록에 '문맥 그라운딩 체크' 기능 추가…질문·답변·출처 연계분석

(지디넷코리아=김미정 기자)"전 세계가 생성형 인공지능(AI) 보안과 안전에 주목하고 있습니다. 생성형 AI를 이용하는 개인·기업이 늘면서 AI 취약점인 환각현상 해결책 마련이 시급해졌습니다. 이에 발맞춰 아마존웹서비스(AWS)는 아마존베드록이 안전하고 책임감 있는 AI 서비스를 제공할 수 있는 기능을 추가했습니다."

AWS코리아 김선수 AI·ML사업개발 매니저는 13일 서울 샌터필드에서 열린 'AWS 2024 생성형 AI 미디어 브리핑'에서 아마존베드록의 새 보안 기능 특장점을 소개하면서 이같이 밝혔다.

김 매니저는 최근 아마존베드록에 추가된 '문맥 그라운딩 체크' 기능을 공개했다. 지난달 미국 뉴욕서 열린 AWS 행사에서 처음 발표된 기능이다. 문맥 그라운딩 체크는 아마존베드록 보안 기능을 담당하는 가드레일에 신규 탑재됐다. 생성형 AI 답변 신뢰성과 정확성 향상을 목표로 뒀다.

AWS코리아 김선수 AI·ML사업개발 매니저.

김 매니저는 문맥 그라운딩 체크 기능 특장점으로 객관적 수치를 통한 답변 필터링으로 꼽았다. 아마존베드록이 생성물에 신뢰성·정확성 점수를 자체적으로 매김으로써 답변 품질을 평가하는 식이다.

점수 매기는 기준은 문맥에 따라 다르다. 다만 공통으로 답변에 핵심 참조 내용이 포함됐는지, 질의 내용과 답변이 통일성 있는지, 답변과 질문 관련성이 얼마나 높은지를 측정한다.

김 매니저는 구체적인 평가 기준이나 점수 커트라인에 대한 설명을 밝히진 않았다. 다만 그는 "점수 매기는 작업은 AWS 노하우를 통해 이뤄진다"고 설명했다. 이어 "답변에 AWS가 지정한 필수 출처 내용이 답변에 없으면 이를 사용자에게 제공하지 않는다"며 "답변 품질 점수가 평균보다 낮을 때도 이를 내놓지 않는다"고 강조했다.

전 세계 AI 안전망 구축에 한창..."AWS도 동참"

김 매니저는 가드레일에 보안 기능을 추가한 이유를 밝혔다. 기업들이 AI 보안과 안전에 높은 관심을 보이는 분위기 때문이다.

김 매니저는 가드레일에 보안 기능을 추가한 이유를 밝혔다.

김 매니저는 "AI 사용 기업은 보안이나 책임감 있는 AI에 높은 관심을 두고 있다"며 "관련 문의를 AWS 측에 활발히 주고 있다"고 설명했다. 그는 "이에 발맞춰 AWS도 AI 안전과 보안에 대한 많은 고민을 해 왔다"며 "AI 모델과 기업 데이터, 내부 시스템을 연계했을 때 환각현상 등을 최소화하기 위한 방안 마련에 한창"이라고 덧붙였다.

실제 전 세계 기업과 정부는 생성형 AI 안전망 구축 마련에 집중하고 있다. 생성형 AI를 이용하는 기업이나 개인이 늘면서 AI 한계점으로 알려진 환각현상이나 개인정보 유출 등을 최소화하기 위한 대책이 각국 정부·기업에서 이뤄지고 있다.

현재 유럽연합(EU)을 비롯한 미국 등은 이런 안전 대책을 마련했다. 정부가 자체적으로 'AI 안전연구소'를 설립해 관련 작업에 착수했다. 특히 캐나다 정부는 AI 안전연구소 설립에만 500억원 투자한 바 있다. 한국도 올해 한국전자통신연구원 산하에 AI 안전연구소 설립을 계획했다.

AWS가 이런 시대에 발맞춰 AI 안전망을 아마존베드록에 구축했다는 입장이다. 김 매니저는 "실제 문맥 그라운딩 체크 기능을 이용했을 때 검색 결과에 대한 증명, 요약 작업에 대한 필터링을 75% 더 선명히 이룬 결과가 나왔다"며 "사용자는 아마존베드록 신기능을 통해 각 산업에 맞는 안전 가드레일을 구축할 수 있을 것"이라고 덧붙였다.

김미정 기자(notyetkim@zdnet.co.kr)