[AWS 서밋 2024] 다리오 아모데이 앤트로픽 CEO “‘헌법적인 AI’로 오픈AI와 차별화… 공공 부문 공략”

공공 부문 공략하는 다리오 아모데이 앤트로픽 CEO
“AI 론칭 전 취약성 테스트 여러번 진행”
생성형 AI 스스로 이상한 질문 탐지 후 답변 피하기도
“생성형 AI는 민주주의 해치는 개념들 약화시킬 것”
앤트로픽 내부 인원 8%가 보안 이슈 해결에 대처

다리오 아모데이 앤트로픽 CEO가 27일(현지시각) 미국 워싱턴DC 월터 E.워싱턴 컨벤션 센터에서 개최된 ‘AWS 서밋 2024’에서 발표를 한 뒤 참석자들과 이야기를 나누고 있다./워싱턴DC=전효진 기자

“우리가 오픈AI와 가장 크게 차별화할 수 있는 점은 ‘헌법적인 AI(Constitutional AI)’를 구현한다는 것이다. UN 인권 선언 등에 기반을 두고 생성형 인공지능(AI)이 향후 나아갈 방향성을 잡고 있다.”

다리오 아모데이 앤트로픽 최고경영자(CEO)는 27일(현지시각) 미국 워싱턴DC 월터 E.워싱턴 컨벤션 센터에서 개최된 ‘AWS 서밋 2024’에서 이같이 말하며 “우리의 목표는 단순히 더 나은 LLM(대규모언어모델)을 만드는 것이 아니라 사람들과 소프트웨어가 의미 있는 방식으로 협력할 수 있는 AI 시스템을 개발하는 것”이라고 했다.

앤트로픽은 오픈AI에서 일했던 다니엘라·다리오 아모데이 남매가 지난 2021년 설립한 스타트업이다. 이달 20일에는 ‘클로드 3′의 가장 강력한 버전인 ‘오푸스(Opus)’보다 2배 빠른 속도의 ‘클로드 3.5 소네트’를 약 3개월 만에 출시해 주목 받았다. 앤트로픽이 공개한 자체 평가 자료에 따르면 클로드 3.5 소네트는 멀티모달(복합정보처리) 과제 수행에서 차트 이해도와 문서 이해도 부문으로 각각 90.80%, 95.2%의 점수를 받아 오픈AI의 ‘GPT-4o’를 앞섰다.

아모데이 CEO는 “앤트로픽은 (미국) 정부와 긴밀하게 협력해 국가 안보와 관련된 요소들을 생성형 AI가 학습할 때 여러 번 검증 과정을 거친다”면서 “생성형 AI가 부딪히는 반복적인 문제(악용 사례)들에 대해 정부 커뮤니티 차원에서도 수월하게 대응할 수 있도록 적응시키고 있다. 이는 철학적으로 봤을 때 민주주의 회복에도 도움이 될 것으로 기대한다”고 했다. 다음은 세션 대담을 일문일답 형식으로 정리했다.

─조 바이든 미국 대통령이 지난 5월 AI 기술에 대한 보안·안전 문제 논의를 위해 앤트로픽을 포함해 구글, 마이크로소프트, 오픈AI 등 4개사 CEO를 백악관으로 초청한 바 있다. 정부에서 AI 기업에 관심을 갖는 포인트는 무엇인가.

“앤트로픽은 짧은 역사(3년)를 가지고 있지만, 높은 역량을 가진 모델을 만들었고 타사와 비교해서도 안전이나 보안성 측면에서 전혀 타협한 점이 없다. 정부 측에서는 ‘정치적으로 민감한 질문에 대해 생성형 AI가 내놓은 대답을 믿을 수 있는가’라는 질문을 주로 했다. 우리는 AI 모델을 특정 방향으로 혹은 편향 없이 만들었다는 식의 비결이 있다고 말하기보다, 단지 ‘헌법적인 AI 원칙’을 적용하고 있다고 했다. 이 점은 오픈AI와도 크게 차별화되는 부분이다.”

─'헌법적인 AI 원칙’은 어떻게 실현 가능한가.

“헌법이나 UN 인권 선언처럼 인간의 가치와 윤리를 기반으로 한 문서를 구축해 AI가 학습하거나 피드백하는 과정에서 사회적 가치와 윤리적 기준을 반영하도록 설계한다. 텍스트 생성 시 유해하거나 불쾌한 내용을 필터링하거나 원치 않는 주제나 내용을 제외하도록 설정할 수 있다.

이를 위해선 취약성 테스트를 상당히 여러 번 진행하는 편이다. 모델 자체가 이상한 질문을 인지하고, 답변을 주지 않도록 만드는 것이다. 악의적인 해커 등의 범죄 단체가 입력을 시도할 때 모델이 굴복하느냐 아니냐를 테스트한다. 특히 올해는 ‘선거의 해’이기에 정치적 취약성 테스트를 외부에 맡겨 많이 진행했다.”

─ 생성형 AI 도입을 고민하는 공공 부문 리더에게 전하고 싶은 말이 있다면.

“오늘날 정부 고객들은 미래를 만들어 내고자 하는 부분에 관심도가 많이 올라가 있다. 내가 만약 정부 측 공무원이라면 굉장히 간단한 포인트부터 (생성형 AI 도입을) 시작할 것이다. 계속해서 반복되는 업무인데, 손쉽게 자동화될 만큼의 간단한 업무는 아니어서 사람의 손길을 여전히 거치고 있는 부분부터 말이다. 딱 2년 전으로 거슬러 올라가 보자. 그때 자동화가 불가능할 것이라고 생각한 부분은 사실 지금 모두 다 (생성형 AI가) 자동 처리할 수 있다. 발빠르게 시민 서비스를 시작하려고 할 때 생성형 AI를 도입하면 저비용으로 강력한 효율을 얻을 수 있을 것이다.”

─앤트로픽이 최근 공공 부문에서 협력한 사례가 있다면 소개해달라.

“워싱턴DC는 최근 세계에서 가장 건강한 도시가 되고자 노력하고 있고, 생성형 AI를 도입해 어느 정도 현실화시키고 있다. 우리는 AWS와 함께 최근 워싱턴DC의 보건부와 백신 스케줄 관련한 건강 정보를 사람들에게 전달하는 데 생성형 AI를 활용했다. 영어와 스페인어로 정보를 제공했는데, 건강 및 식품 영양에 대한 질문, 백신 예방 접종 스케줄과 같은 간단한 건강정보를 AI가 답하게 했더니, 공중보건에 대한 시민들의 서비스 접근성이 상당히 높아졌다는 효과를 확인할 수 있었다. 과거에는 사람(공무원)이 하나하나 데이터를 찾고 개인에게 연락을 해야 했다면 이런 번거로운 단계가 없어진 것이다. 덕분에 취약 계층도 줄고 있다. 이러한 서비스가 효과적으로 작동하면 전체 민주주의도 살아나는 효과로 이어진다. 차별과 같이 민주주의를 해치는 개념들을 약화시킬 수 있는 것이다.

우리는 정부와 긴밀하게 협력해서 국가 안보 관련 요소에 대한 생성형 AI 검증도 진행한다. 반복해서 제기되는 국가 안보를 위협하는 문제에 대해 정부 커뮤니티 차원에서 수월하게 대응할 수 있도록 (생성형 AI를) 적응시키고 있다. 철학적으로 봤을 때 다양한 방식으로 AI가 민주주의 확산에 도움이 되도록 하고 있다.”

─클라우드 기반 생성형 AI에 대한 보안 이슈는 어떻게 대처하나.

“우리는 앤트로픽 내부 8%에 해당하는 인원이 보안 이슈를 담당하고 있다. 공적 영역에서 보안은 곧 국가 안보이자, 자산이다. 우리는 책임성 있는 AI 운영 원칙을 가지고 있다. 특정 알고리즘이나 모델이 범죄 조직이나 국가 단위에서 악의적인 상황들에 활용되는 것을 원치 않는다.”

─공공 분야의 생성형 AI 미래를 그려본다면.

“앞으로는 AI 챗봇을 통해 시민들이 대부분의 생활 관련 정보를 빠르게 얻어나가는 미래가 그려질 것으로 기대한다. 보다 빠르게 정부 서비스에 접근하고, 정부와 개별적 상호작용이 더욱 빠른 속도로 가능해 질 것이다. 좋은 미래를 만들기 위해선 좋은 행동도 있어야한다. 변화는 빠르게 이뤄지고 있다. 과거에 해내기 어려웠던 부분부터 바꾸면 방대한 규모로 변화가 일어난다. 많은 걱정이나 우려가 있겠지만, AI가 민주주의를 더욱 증진할 수 있다는 믿음은 여전히 유효하다.”

- Copyright ⓒ 조선비즈 & Chosun.com -