앤트로픽 "윤리적인 고성능 AI, 방법은 헌법적AI"

[AWS 2024 리인포스] 앤트로픽 라킨 라이더 규정준수 총괄

(지디넷코리아=남혁우 기자)앤트로픽이 인공지능(AI)의 급속한 발전 속 잠재적 위험을 관리하기 위한 방안으로 ‘헌법적AI(Constitutional AI)'를 제시했다.

헌법이나 UN 인권 선언처럼 인간의 가치와 윤리를 기반으로 한 문서를 구축해 AI가 학습하거나 피드백하는 과정에서 사회적 가치와 윤리적 기준을 반영하도록 설계하는 방식이다.

10일(현지시간) 앤트로픽의 라킨 라이더 규정준수 총괄은 미국 필라델피아에서 개최한 AWS 2024 리인포스에서 “헌법적AI는 AI의 안전성을 극대화하는 동시에, 기술의 잠재력을 최대한 활용하려는 산업의 요구를 충족하기 위해 개발한 기술”이라고 소개했다.

앤트로픽 라킨 라이더 규정준수 총괄

앤트로픽은 오픈AI의 중요 경쟁자 중 하나로 꼽히는 AI전문 기업이다. 최신 AI 모델인 클로드3는 텍스트 생성, 번역, 요약, 질문 답변 등 다양한 업무를 수행할 수 있으며, 말투나 대화 방식까지 자연스럽게 변경할 수 있는 높은 수준의 성능을 보여준다.

또한, 안전성과 윤리성을 고려해 훈련되었으며, 텍스트 생성 시 유해하거나 불쾌한 내용을 필터링하거나 원치 않는 주제나 내용을 제외하도록 설정할 수 있다.

라킨 라이더 총괄은 앤트로픽이 AI 안전 연구에 중점을 두고 있으며, 정책 결정자들과 협력을 통해 AI 관리 방안을 개선하고 기술을 연구 중이라고 소개했다.

그는 “헌법적AI는 이러한 연구를 통해 개발된 기술로 인간의 윤리적 가치를 AI 시스템에 직접 통합하려는 새로운 접근 방식”이라며 “대규모 학습 과정에서도 사전에 마련된 원칙에 따라 AI의 행동을 유익한 결과로 유도하도록 설계된 만큼 데이터 오염이나 악의적 사용자 행동 등을 막기 위한 제약을 최소화할 수 있다”고 설명했다.

헌법적AI는 헌법처럼 사전에 마련된 원칙을 기반으로 AI를 학습하고 운영할 수 있는 만큼 보다 안정적이고 윤리적인 문제 등에 제한 없이 활용할 수 있다.

제약기업인 화이자는 앤트로픽의 AI 모델을 활용하여 의료 데이터 분석의 시간을 대폭 단축했다. 환자의 실험실 보고서를 전체 종양학 데이터베이스와 신속하게 비교 분석하는 것이 가능해지며, 몇 달이 걸리던 진단 및 치료 계획의 수립 작업을 며칠로 줄였다. 이러한 기술의 발전으로 환자 치료의 효율성을 향상할 수 있었다.

배달 전문기업인 도어대시는 AI를 이용한 챗봇 서비스로 고객 서비스의 응답 시간을 50% 단축했다. 또한, 여행 전문 기업인 론리 플래닛은 사용자가 이전에 즐겼던 활동과 선호도를 기반으로 AI를 학습해 개인화된 여행 계획 생성 비용을 80% 줄일 수 있었다.

라킨 라이더는 “도어대시 같은 고객 서비스 기업은 응답 시간의 단축이 직접적으로 고객 만족도와 수익 증가로 이어진다”며 “AI를 활용한 실시간으로 고객 질의는 실적으로 직접적인 연관이 발생하게 된다”고 설명했다.

그는 헌법적AI를 개발하는 과정이 AI 기술의 안전한 발전과 사회적 책임의 중요성을 재확인하는 계기가 되었다고 밝혔다. 더불어 IT 기업들이 함께 윤리적이고 책임감 있는 기술 개발에 나서야 한다고 촉구하며 이번 기술 연구를 지원한 대표적인 파트너사로 아마존웹서비스(AWS)를 소개했다.

앤트로픽 라킨 라이더 규정준수 총괄

앤트로픽은 배드록과 세이지메이커 등 AWS의 클라우드 인프라와 서비스를 활용하여, AI 모델의 호스팅과 배포를 간소화했다. 이를 통해 클로드3 등 AI서비스에 대한 접근성을 높이고 사용자 데이터의 보안도 더욱 강화할 수 있었다.

라킨 라이더 총괄은 "앞서 말한 도어대시 같은 사례들은 앤트로픽과 AWS가 AI의 안전성과 신뢰성을 어떻게 향상시키고 있는지 보여준다”며 “두 회사의 협력은 AI 기술이 사회에 미치는 긍정적인 영향을 극대화하고 잠재적인 위험을 관리하는 데 중요한 역할을 하고 있다”며 기술 기업들이 앞으로 더욱 윤리적이고 책임감 있는 기술 개발에 나서야 한다고 강조했다.

이어서 “앤트로픽은 헌법적 AI 접근을 통해 AI 모델이 인간의 윤리적 가치와 정렬되도록 하는 것을 목표로 하고 있다”며 “AI가 사회적, 윤리적 기준을 준수하며 안전하게 운영될 수 있도록 우리는 이 접근법을 계속 발전시키고, AI 안전 연구를 강화하여 정책 영향력을 높일 것”이라고 말했다.

남혁우 기자(firstblood@zdnet.co.kr)