완성도 떨어지는 AI… 세계 CEO 68% “안전장치 필요”

개발 속도전 따른 리스크 부각
72% “업계 변화, 기회보단 위험”

글로벌 기업 최고경영자(CEO) 10명 중 7명은 인공지능(AI)에 안전장치가 필요하다고 보고 있다. 구글, 오픈AI 등 글로벌 빅테크가 야심차게 내놓은 AI가 허위 답변 논란에 휘말리는 등 AI 개발 속도전에 따른 리스크가 부각되면서다.

IBM 기업가치연구소(IBV)가 금융 컨설팅 업체 옥스퍼드 이코노믹스와 30여개 국가 CEO 2500명을 대상으로 인터뷰를 실시한 결과 CEO의 68%는 AI 솔루션 자체에 내장된 안전장치가 필요하다고 생각하는 것으로 조사됐다.

AI 솔루션이 배포된 후 정책적 보완이 아니라 설계 단계부터 AI의 위험을 걸러낼 수 있는 거버넌스를 구축해야 한다는 의미다. CEO의 약 75%는 기업 내 유효한 AI 거버넌스 없이는 신뢰할 만한 AI를 구현할 수 없다고 인식했다. 현재 제대로 된 AI 거버넌스를 갖추고 있다고 답한 비율은 39%에 그쳤다. 이에 CEO의 72%는 업계의 변화를 기회라기보다는 위험 요소로 인식하고 있다.

기업들이 AI 도입에 신중한 건 AI 경쟁이 속도전으로 양상으로 흘러가는 데 비해 안전성에 대한 의문은 좀처럼 해소되지 않고 있는 탓이다. 미국 뉴욕타임스 등 외신에 따르면 구글의 새로운 검색 기능 ‘AI 오버뷰’에서 잘못된 답변을 제시하는 사례들이 잇달아 발견되고 있다. AI 오버뷰는 구글 검색창에 이용자가 질문을 하면 빠르게 답변을 요약해 제공하는 신규 서비스다.

예컨대 한 사용자가 “미국에 얼마나 많은 무슬림 대통령이 있었느냐”고 질문하자 “버락 오바마는 미국 최초의 무슬림 대통령”이라고 답했다. 또 “하루에 몇 개의 돌을 먹어야 하는가”라고 물어보자 “캘리포니아주립대 버클리 지질학자들에 따르면 하루에 최소 하나를 먹어야 한다. 돌은 소화기에 필수적인 미네랄과 비타민을 함유하고 있다”는 답이 돌아왔다.

이는 그럴듯해 보이지만 비현실적인 답변을 내놓는 오류인 ‘환각(할루시네이션)’의 일종이다. 앞서 지난해에도 구글이 생성형 AI ‘바드(Bard)’를 공개했지만 환각 현상을 극복하지 못했다는 점이 드러나면서 주가가 폭락했다. 뉴욕타임스는 “AI 오버뷰의 허위 답변은 20억명 이상의 사람들이 사용하는 검색엔진에 대한 신뢰를 저하시켰다”고 평가했다. 또다른 주요 AI기업인 오픈AI는 최신 AI 모델 ‘GPT-4o’의 음성비서 ‘스카이’가 유명 배우 스칼렛 요한슨의 목소리를 도용했다는 의혹에 휩싸여 서비스를 중단했다.

김현정 한국IBM 컨설팅 대표는 “그 어떤 혁신적 기술보다 생성형 AI 기술에 대한 기업들의 기대가 높은 것이 사실이지만 새로운 기술을 도입하는 데는 항상 위험이 수반된다”고 설명했다.

임송수 기자 songsta@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지