[신문과 놀자!/피플 in 뉴스]클로드에 ‘AI 헌법’ 가르친 앤스로픽 CEO 아모데이

여러분은 ‘더 강력한 인공지능(AI)을 만드는 것’과 ‘더 안전한 AI를 만드는 것’ 중 무엇이 더 중요하다고 생각하나요. 이 질문을 가장 중요하게 다뤘던 사람이 바로 AI 기업 앤스로픽(Anthropic)의 최고경영자(CEO) 다리오 아모데이(사진)입니다.

아모데이는 1983년 미국 샌프란시스코에서 태어나 어린 시절부터 수학과 과학에 뛰어난 재능을 보였습니다. 프린스턴대에서 ‘신경 회로의 전기생리학’에 관한 주제로 생물물리학 박사학위를 받았습니다.

그는 바이두와 구글에서 AI를 연구한 뒤, 2016년 오픈AI에 합류해 대규모언어모델 GPT-2와 GPT-3 개발의 핵심 연구를 주도했습니다. 생성형 AI의 핵심 기술인 ‘인간 피드백 기반 강화학습(RLHF)’ 연구를 발전시키는 데에도 중요한 역할을 했습니다. RLHF는 AI가 사람이 선호하는 피드백을 활용해 모델을 학습시키는 기술로, 오늘날 대부분의 AI 챗봇이 이 방식을 사용합니다. AI를 단순히 똑똑하게 만드는 것을 넘어 ‘사람에게 안전하고 이로운 AI’를 만드는 데 집중한 것입니다.

2021년 아모데이는 여동생 다니엘라 아모데이 등과 함께 앤스로픽을 공동 창업했습니다. 창업의 이유는 AI가 빠르게 강력해지는 만큼, 안전성에 더 집중하는 회사가 필요하다고 판단했기 때문입니다. 그가 만든 AI ‘클로드(Claude)’는 현재 기업용 AI 시장에서 높은 신뢰를 받는 생성형 AI 가운데 하나로 성장했습니다.

아모데이는 AI가 욕설이나 거짓말, 위험한 정보 조장을 하지 않도록 독특한 기술을 도입했는데, 그것이 바로 ‘헌법적 AI(Constitutional AI)’입니다. 인간이 일일이 잘못을 지적하는 대신 세계인권선언 등 인간 중심의 원칙을 ‘헌법’처럼 AI에 학습시켜 AI 스스로 자신의 답변이 도덕적이고 안전한지 점검하게 만든 것입니다.

이러한 뚝심 있는 철학과 기술력 덕분에 앤스로픽은 엄청난 상업적 성공도 거두고 있습니다. 최근 언론 보도에 따르면, 앤스로픽은 올해 2분기(4∼6월) 매출 109억 달러(약 16조4000억 원)를 올릴 것으로 전망되며 글로벌 AI 전문 기업 중 최초로 분기 영업이익 흑자 전환을 눈앞에 두고 있습니다.

아모데이가 특히 주목받는 이유는 AI 기술 발전의 밝은 면뿐 아니라 위험성도 함께 강조하기 때문입니다. 올해 여러 국제 포럼과 언론 인터뷰에서 “AI가 몇 년 안에 수많은 사무직 일자리를 바꿀 수 있다”고 경고하며 AI가 인간의 통제를 벗어나지 않도록 국제 사회의 협력과 규제가 시급하다고 주장하고 있습니다.

AI가 우리 생활에 깊숙이 파고드는 지금, 단순히 더 똑똑한 기술을 만드는 것보다 더 안전하고 인간다운 기술을 만드는 것이 중요하지 않을까요. 그의 발자취는 미래를 준비하는 청소년들에게 지식뿐만 아니라 올바른 책임감이 왜 필요한지 잘 보여주고 있습니다.

이진영 인천개흥초 교감