알고보니 사람 1000명이 일일이 작업…아마존도 '무늬만 AI'?

2018년 문을 열 당시 아마존 고의 매장에서 한 고객이 자동결제를 하는 모습. 연합뉴스

세계 최대 전자상거래 업체 아마존은 2018년 고객이 필요한 물건을 들고 나가면 자동으로 계산이 되는 ‘아마존 고’를 선보였다. 인공지능(AI) 시스템인 ‘저스트 워크 아웃(Just Walk Out)’을 적용해 자동 결제가 된다고 홍보했다. 매장 내 수백 대의 카메라가 고객의 얼굴을 인식하고, 진열대의 센서로 고객이 고른 상품을 알아낸다는 것이었다. 하지만 인도 지사에서 고용한 1000여명의 직원이 각 매장 카메라를 수동으로 체크해 결제를 진행한다는 사실이 드러나 논란이 됐다. 아마존은 “인도 근로자들은 검수 작업을 한 것뿐”이란 입장을 냈지만, AI를 통한 완전 자동화를 믿었던 소비자의 신뢰엔 금이 갔다.

‘AI 거품론’이 제기되는 가운데 글로벌 정보기술(IT) 업계에 ‘AI 워싱’ 주의보가 내렸다. AI 워싱(AI washing)이란 AI와 관련이 적거나 없는데도 마케팅을 위해 AI를 활용한다고 포장하는 ‘무늬만 AI’를 뜻한다. 친환경적이지 않은 기업이 마치 친환경적인 것처럼 홍보하는 그린 워싱(Green washing)과 유사한 행태다.

5일 주요 외신과 KB금융지주 경영연구소 등에 따르면 AI가 탑재됐다고 홍보한 P&G의 고가 전동칫솔도 AI 워싱의 사례로 꼽힌다. P&G는 AI가 치아 위치와 밝기 등을 파악해 이가 잘 닦였는지 알아낼 수 있다고 광고했다. 하지만 워싱턴포스트(WP)는 “칫솔의 AI가 어떻게 작동하는지에 대해 질문했지만, 회사는 대답을 못했다”고 보도했다. 코카콜라도 서기 3000년 미래시대를 상상하며 AI와 공동 개발했다고 홍보한 한정판 제품 Y3000가 문제가 됐다. AI가 어떤 방식으로 제품 개발에 참여했는지 문의가 쏟아졌지만, 코카콜라는 이렇다 할 설명을 내놓지 않았다.

김영희 디자이너

최근 AI 워싱은 급증하는 추세다. AI라는 이름표를 붙이면 소비자의 관심을 끌면서 서비스나 제품을 구매할 확률이 높아진다. 기업 입장에선 혁신적이고 기술 선도적인 이미지를 구축할 수 있다. 특히 투자자를 모으고, 정부 지원을 얻어내기도 쉽다. 글로벌 시장조사 업체 피치북에 따르면 올해 2분기 미국 스타트업에 몰린 자금은 556억달러(약 75조7420억원)였다. 이 가운데 절반가량인 271억달러(약 36조2787억원)가 AI 스타트업에 투자됐다. 포브스는 "AI를 언급한 스타트업은 그러지 않은 스타트업보다 15~50% 투자를 더 유치했다"고 분석했다.

영국 벤처캐피털 회사 MMC벤처는 AI 기반이라고 주장하는 유럽 스타트업 2830곳 중 44.1%가 AI 기술 활용에 대한 증거를 내놓지 못했다고 밝혔다. 자신을 AI 스타트업이라고 회사들은 주로 ▶AI 효율성을 과장하거나 ▶불완전한 AI가 완벽하게 작동한다고 주장하며 ▶단순한 챗봇을 AI 시스템이라고 과장하는 AI 워싱 행태를 보였다. 신기술 기업 투자 펀드인 오픈오션의 스리 아얀가르 팀장은 BBC와의 인터뷰에서 “일부 스타트업은 사업 계획 발표 과정에서 AI를 언급하지 않으면 불리하다고 보는 것 같다”고 말했다.

김영희 디자이너

문제는 AI 워싱이 관련 생태계와 사회적 신뢰를 무너뜨릴 수 있다는 점이다. 거짓·과장 광고는 소비자를 기만하고, AI가 거품이란 인식을 키울 수 있다. 혁신 기술 개발 기업에 투입돼야 할 정부 지원이나 투자금이 AI 워싱 기업으로 흘러가는 부작용도 있다. KB금융지주 경영연구소는 최근 보고서에서 “AI 워싱을 마케팅 수단으로 사용하는 기업이 증가하면 소비자는 AI의 성능에 의문을 갖게 될 것”이라며 “실제 사용을 통해 부정적 경험이 누적될 경우 AI 기술 자체에 대한 신뢰도가 저하될 수 있다”고 밝혔다.

규제당국은 AI 워싱에 칼을 겨누기 시작했다. 미국 증권거래위원회(SEC)는 최근 투자자문회사 델피아와 글로벌프리딕션스에 벌금 40만 달러(5억3560만원)를 부과했다. 투자 결정 과정에서 AI·머신러닝을 사용한다고 광고했지만, 사실은 AI를 쓰지 않은 것으로 드러났다. 가짜 AI 기술로 투자금을 받은 혐의로 채용 소프트웨어 스타트업 준코도 SEC에 기소됐다. AI로 기업에 적합한 지원자를 선발하는 기술을 보유했다고 속여 2100만 달러(281억원)의 투자금을 유치한 혐의다. 게리 겐슬러 SEC 위원장은 기업들에 “AI 워싱을 하지 말라”는 경고 메시지를 내놓기도 했다. KB경영연구소는 “정부가 AI 워싱에 대한 규제를 강화해 AI 사용에 대한 기업의 투명성을 높이고 허위 주장을 남발하지 않도록 해야 한다”고 제언했다.

곽재민 기자 jmkwak@joongang.co.kr