美 선물거래위 최고 AI 책임자 임명...관공서, 기업마다 ‘CAIO’ 모셔오기

미국 선물거래위원회(CFTC)가 처음으로 최고 인공지능 책임자(Chief AI Officer·CAIO) 직을 신설하고, 기존 최고 데이터 책임자이자 데이터 사업부 이사를 맡고 있던 테드 카우크를 선임했다. 카우크는 CFTC에 합류하기 전 미 행정부 인사관리처에서 최고 데이터 책임자 겸 AI 담당 관리자로 근무했다. 그는 앞으로 AI를 CFTC에 어떻게 적용할지 결정하고 AI 사용 중에 윤리적·법적으로 문제가 없는지 감독·점검하는 역할을 맡게 된다.

인공지능 일러스트. /연합뉴스

기업과 공공기관에서 AI를 활용하는 업무가 늘면서 AI 사용을 책임지는 ‘CAIO’라는 새로운 직책이 등장하고 있다. CAIO는 AI를 통해 업무 효율성을 개선하거나 새로운 수익원을 발굴하는 것뿐 아니라, 윤리 문제나 보안 위험을 해결하는 임무를 책임진다. 기존에는 이와 비슷한 업무를 최고기술책임자(CTO)가 했다. 하지만 AI활용이 광범위해지고, AI 규제에 대한 논의가 본격화하면서, AI 분야에 한정해 기술·지식뿐 아니라 경영 전략이나 법률·규제를 이해하는 사람이 필요해진 것이다. 컨설팅 업체 액센츄어의 란 구안 CAIO는 파이낸셜타임스(FT)에 “CAIO의 업무에서 기술이 차지하는 부분은 35~40% 수준”이라며 “리스크를 관리하고 정책·규제를 이해하는 능력을 갖추는 게 훨씬 더 중요하다”고 했다.

◇AI 리스크 책임질 사람 필요

정신아 카카오 대표는 3월 말 취임 직후 SK텔레콤의 이상호 CTO를 CAIO로 영입했다. AI 개발을 하는 카카오에서도 처음 생긴 임원직이다. 정 대표는 “글로벌 스탠더드에 부합하는 안전하고 책임감 있는 AI 개발을 위해 속도를 더할 것”이라며 “AI 교육·안전·정책·기술 연구 등에 있어 글로벌 표준 수립에 한국의 기준들이 반영될 수 있도록 적극적인 목소리를 낼 예정”이라고 밝혔다. 정 대표가 언급한 ‘책임감 있는 AI 개발’은 신설된 CAIO 조직이 주도한다.

KT에는 CAIO라는 직책은 아직 없지만, 같은 가능을 하는 조직인 ‘책임감 있는 인공지능 센터(Responsible AI Center·RAIC)’를 최근 설립했다. AI의 윤리적 이용과 AI 관련 법, 정책을 담당하는 곳이다. KT 관계자는 “이 센터에 엔지니어와 개발자도 있지만 법률이나 규제에 대한 이해도 필요하기 때문에 이 방면 전문가를 채용하려 한다”고 했다.

그래픽=박상훈

최근 기업마다 CAIO 직책을 신설하는 이유는 AI가 가진 불확실성이나 위험 요소를 줄이기 위해서다. AI가 사실이 아닌 답을 내놓는 ‘환각(hallucination) 현상’처럼 AI 기술의 한계로 인한 리스크나 데이터 처리 과정에서 생길 수 있는 보안 문제, 윤리적 논란 등 AI 관련 위험 요소가 한두 가지가 아니다. 업계 관계자는 “언제, 어디서 AI 관련 문제가 터질지 모르기 때문에, 개발자나 기술 담당자와 별개로 AI의 리스크를 관리할 사람이 필요하다”고 했다.

◇병원·로펌에도 CAIO

CAIO는 세계적으로 조금씩 증가하는 추세다. 글로벌 기업 채용 사이트 글라스도어에 따르면 지난해 12월 기준 CAIO나 이와 비슷한 업무를 하는 미국 기업 임원은 122명이었다. 1년 전인 2022년에는 19명이었다.

미국은 행정부 내에 의무적으로 AI 담당 책임자를 도입하는 방안을 추진 중이다. 지난해 말 조 바이든 미국 대통령은 AI 시스템에 대한 감독을 강화하는 새로운 행정 명령을 발표한 뒤 3월 말부터 행정부 기관에서 AI 사용을 조정할 최고 AI 책임자를 지정하도록 했다. 이에 따라 미국 법무부는 지난 2월에 프린스턴 대학교의 조너선 메이어 교수를 ‘CAIO’로 임명했다. 미 행정부는 올여름까지 약 100명의 AI 전문가를 고용할 계획이라고 밝혔다.

한국에서는 기술 기업 위주로 CAIO가 생겨나고 있지만 해외에서는 의료계나 금융계에서도 CAIO 도입을 서두르고 있다. 미국 전역에 70개 이상의 병원과 진료소를 보유한 세계 최대 규모의 비영리 의료센터인 ‘메이요 클리닉’은 지난해 ‘AI 책임자’라는 자리를 만들었다. 이 자리에는 초음파에서 숨겨진 데이터를 찾아내 희귀 심장병 진단을 쉽게 하는 AI 모델을 개발한 방사선과 의사가 임명됐다. 미국의 3대 신용평가기관 에퀴팩스, 법무법인 에버셰즈 서더랜드 등과 같은 회사들도 CAIO를 임명했다.