시사위크=박설민 기자 2003년, ‘웰빙’이 한국 전역을 휩쓸었다. 건강한 삶을 추구하는 대중들의 니즈를 정확히 노린 것이다. 때문에 소위 ‘웰빙족’을 겨냥한 상품·서비스가 홍수처럼 쏟아졌다. 헬스, 의류, 식품, 제약, 심지어 IT산업에 이르기까지 관련 산업 범위도 다양했다. 그러다보니 전혀 관계가 없는 제품에도 웰빙이라는 이름을 붙인 기업들도 다수 등장했다.

20년이 넘은 현재, 웰빙의 뒤를 이어 ‘인공지능(AI)’ 산업계에서도 유사한 현상이 발생하고 있다. AI열풍에 편승, 사업적 이득을 보려는 기업이 늘고 있다. 더 큰 문제는 그 범위가 과거 웰빙 때보다 훨씬 넓다는 것이다. 건강한 AI생태계 조성을 위해 ‘AI 위싱’ 문제를 짚고 넘어가야한다는 목소리가 커지는 것도 이 때문이다.

◇ “포장지만 번지르르”… AI업계 좀먹는 ‘AI워싱’

‘AI워싱(AI Washing)’은 AI기술과 거의 무관하지만 관련 제품 및 서비스인 것처럼 홍보하는 행위다. ‘하얗게 칠하다, 눈가림하다’를 의미하는 단어 ‘Whitewash’와 인공지능 ‘AI’를 합성한 단어다.

최근 AI워싱이 급증하는 이유는 간단하다. AI시장이 ‘돈’이 되기 때문이다. 글로벌 시장조사업체 ‘스태티스타(Statista)’는 올해 AI산업 규모가 1,840억달러(약 249조 8,720억원) 규모에 이를 것으로 내다봤다. 오는 2030년 8,260억달러(약 1,122조원)를 돌파할 전망이다.

사실 기술 트렌드에 맞춰 산업계가 움직이는 것은 흔한 일이다. 정부 지원을 쉽게 받을 수 있고 투자자 유치에도 쉽다. 고객들 역시 AI라는 단어에 이끌려 서비스, 제품을 구매할 확률도 증가한다. 또한 업계서 혁신적이고 기술 선도적인 이미지를 구축하는데도 용이하다. 2020년 ‘메타버스’가 트렌드로 자리 잡았을 때 대기업부터 스타트업에 이르기까지 관련 기술·서비스를 쏟아낸 것도 비슷한 사례다.

하지만 기업의 워싱이 업계에 미치는 부정적 영향도 크다. 기술과 관련한 과장 혹은 거짓 광고는 소비자를 기만하는 행위다. 이는 자칫 해당 산업 분야가 ‘거품’이라는 인식을 만들 수 있다. 뿐만 아니라 산업계 자원 배분 문제에도 악영향을 미칠 수 있다. 실제 혁신 기술 개발 기업들에게 돌아가야 할 정부 지원, 투자금이 워싱 기업으로 흘러들어갈 수 있기 때문이다.

실제로 유사 사례인 ‘그린워싱(Greenwashing)’ 관련 연구 결과를 살펴보면 AI워싱의 심각성을 유추할 수 있다. 그린워싱은 기업, 연구기관, 단체서 환경보호효과가 전혀 없거나 오히려 악영향을 끼칠 수 있는 기술을 친환경으로 포장하는 허위 마케팅 행위다. 2010년대 친환경 붐이 불기 시작할 때부터 산업계에 유행했다. 최근 AI워싱과 방식이 매우 유사하다.

유럽증권시장청(European Securities and Markets Authority, ESMA)이 지난해 발표한 보고서에서 “2020년과 2021년 그린워싱 논란 빈도가 증가하면서 친환경 산업 관련 재정에 부정적 영향을 미치고 있다”며 “저탄소 전환에 대한 대중의 신뢰를 유지하기 위한 노력이 필요하다”고 분석했다. 즉, 그린워싱과 마찬가지로 AI워싱이 지속될 경우 소비자, 투자자 신뢰가 떨어져 산업계 전반에 악영향을 미칠 수 있음을 의미한다.

KB금융지주 경영연구소도 최근 발표한 리포트를 통해 “AI 워싱을 마케팅 수단으로 사용하는 기업이 증가하면 소비자는 AI의 성능에 의문을 갖게 될 것”이라며 “실제 사용을 통해 부정적 경험이 누적될 경우 AI 기술 자체에 대한 신뢰도가 저하될 수 있다”고 우려했다.

이어 “AI워싱 기업의 과장된 주장을 의식해 정상적인 기업마저 현실성이 떨어지는 목표를 추진할 수 있다”며 “ 기업이 의미 있는 AI 역량을 개발하는 대신 피상적인 개선에 투자를 남발할 경우 산업계 전체 혁신이 지체되는 부정적 결과를 초래할 수 있다”고 경고했다.

◇ 대기업부터 스타트업까지… 너도나도 AI워싱

심각한 것은 이 같은 AI워싱이 대기업, 중소기업, 스타트업을 가리지 않고 발생하고 있다는 점이다. 다행히 아직까지 국내 기업에서는 큰 문제 발생 사례는 나오지 않고 있다. 하지만 미국, 유럽 등 AI선진국에선 벌써 AI워싱이 심각한 문제로 대두되는 추세다.

대표 사례로는 ‘아마존고(Amazon Go)’를 꼽을 수 있다. 아마존고는 세계 최대 전자상거래 업체 ‘아마존(Amazon)’에서 운영하는 무인 매장 시스템이다. 아마존에서는 아마존고에 AI기반 ‘저스트 워크 아웃(Just Walk Out)’ 시스템을 적용, 물건만 들고 나가도 자동으로 결제가 가능하다고 홍보했다. 매장 천장에 설치한 수백 대의 카메라가 고객들의 얼굴을 인식한 후, 진열대 무게감지 센서로 고객이 집은 상품을 추적해 자동 결제가 되도록 하는 것이다.

하지만 실제로 아마존고의 결제는 ‘사람’이 하는 것으로 밝혀져 논란이 됐다. 인도 지사에서 고용한 1,000여명의 직원이 각 매장 카메라를 통해 수동으로 체크, 결제를 진행하고 있었던 것이다. 아마존 측은 AI가 생성한 실제 데이터를 사람 직원이 검토하는 것일 뿐이라고 반박했다. 하지만 인간이 결제 청구 과정에 관여한다는 사실을 부인하진 않았다. 결국 AI를 통한 ‘완전 자동화’로 홍보됐던 아마존고는 AI워싱의 대표 사례라는 불명예를 안게 됐다.

전 세계인이 사랑하는 음료회사 ‘코카콜라’도 AI워싱 논란을 받고 있다. 코카콜라는 지난해 9월 ‘Y3000’이라는 한정판 콜라를 출시했다. 이 콜라는 소비자, 회사가 상상한 맛을 생성형 AI로 구현했다는 광고로 출시됐다. 출시 이후 코카콜라에는 AI가 어떤 방식으로 개발에 참여했는지 문의가 쏟아졌다. 하지만 이에 대해 코카콜라 측은 전혀 설명하지 않았다.

코카콜라의 공식 홍보 문구였던 ‘인간과 AI가 공동으로 창조한 최초의 미래형 맛(The first futuristic flavor co-created with human and artificial intelligence)’라는 문구도 과장됐다는 주장도 나온다. 이미 과거에 스위스 비비콜라(Vivi Kola), 헝가리 헬에너지(Hell Energy) 등 음료수 업체에서 AI를 이용한 음료가 출시된 바 있기 때문이다.

아울러 코카콜라는 과거 그린워싱 논란도 있었기에 비판은 더욱 거세지고 있다. 지난해 7월 스위스 소비자보호재단(SKS)는 코카콜라를 기업 경쟁법 위반 혐의로 스위스경제사무국에 제소했다. 플라스틱 병을 막대하게 생산하는 코카콜라가 ‘친환경 플라스틱’을 사용한다는 광고를 내보내는 것은 근거가 없고 과장됐다는 이유에서다.

박지환 씽크포비엘 대표는 “AI워싱은 AI에 대한 과도한 기대가 사회와 산업 전반에 걸쳐 퍼져 있는 환상에서 비롯된 것”이라며 “우리는 이제, 단순히 AI를 적용했다는 사실에서 올바르게 적용했다는 쪽으로 인식을 확장시킬 때가 됐다”고 말했다.

이어 “AI가 사회와 산업에 미치는 영향, 그 한계를 충분히 고려하지 않고 단순히 AI가 적용됐다는 환상만 쫒아가다가는 언젠가는 결국 AI에 대한 불신이 산업 전반에 퍼질 것”이라며 “기술이 제공하는 혜택을 온전하게 누리지 못하는 상황에 직면할 수 있다고 본다”고 우려했다.

◇ AI워싱 심각한 미국, 실제 처벌 사례도 쏟아져

실제 혐의가 인정돼 재판에 넘겨진 AI워싱 사례도 존재한다. 미국 증권거래위원회(SEC)와 법무부는 지난 7월 미국 채용 소프트웨어 스타트업 ‘준코(Joonko)’를 기소했다. 기업에 적합한 지원자를 추천할 수 있는 AI시스템을 개발했다고 속인 혐의다. SEC는 준코가 이 같은 사기 행각으로 2,100만달러(약 287억원)의 투자이익을 본 것으로 추정한다. 현재 준코 창업자인 일릿 라즈(llit Raz)CEO는 기소된 상태다.

최근엔 전자상거래 플랫폼 기업 ‘오토메이터스(Automators AI)’가 미국연방거래위원회(FTC)로부터 허위정보 투자 유치 혐의로 기소됐다. 오토메이터스 AI는 온라인 스토어 입점 사업자들에게 자사의 AI기술을 활용하면 매월 4,000달러에서 6,000달러의 순이익을 얻을 수 있다고 홍보했다. 또한 8개월 후 100% 투자수익률 달성도 가능하다고 주장했다. 이를 통해 얻은 투자 유치 금액은 2,200만달러(약 294억원)에 달한다.

하지만 오토메이터스 AI의 주장은 거짓이었다. FTC의 조사에 따르면 이들의 플랫폼엔 AI가 적용된 것이 없었다. 고객들에게 약속한 수익도 지불되지 않았다. 뿐만 아니라 투자금도 회수하지 못한 사업자들이 대부분이었다. 이에 FTC는 미국연방법원에 지난해 8월 오토메이터스 AI를 기소했고 올해 7월 투자 유치 금액 전부인 2,200만달러를 배상하라는 판결이 나왔다. 또한 이들에게 영구적으로 사업을 할 수 없도록 법적 조치도 내려졌다.

새뮤얼 레빈 FTC 소비자 보호국 국장은 “오토메이터스 AI는 소비자들을 AI 온라인 매장이라는 속임수로 매혹해 막대한 금액을 투자하도록 했다”며 “그들의 거짓말로 투자자들은 평생 저축한 돈을 잃는 등 큰 피해를 입었다”고 말했다.

박지환 씽크포비엘 대표는 “AI워싱은 한류 푸드테크가 열풍이니 피자 위에 김치 한조각 얹고 신개념 한식이라 억지 부리는 것과 유사하다”며 “시장의 AI에 대한 환상에 기대 투자금을 챙기려는 일부 기업의 영업 의욕을 자극한 결과”라고 비판했다.

이어 “기업이 당장의 이익을 위해 셀링포인트로 과장 마케팅에만 몰입하면 성실하게 임하는 다른 기업의 앞길을 막고 업계 자체의 사회적 신뢰까지 무너뜨리게 될 것”이라며 “산업계가 AI 기술의 중요성을 인식하는 만큼 기술의 성숙한 수용에 대해서도 더 진지해질 필요가 있다”고 조언했다.

#인공지능 #AI #AI워싱 #메타버스 #대기업 #스타트업 #중소기업 #아마존고 #준코