조직까지 퍼진 호모 브레인오프...데이터 함정에 빠지는 기업 경영 [스페셜리포트]

데이터 함정에 빠지는 기업 경영

“알고리즘, 정치 양극화 원흉” 의견

개인뿐 아니라 조직과 기업, 나아가 사회 전체까지 호모 브레인오프 부작용이 번져 나간다.

먼저, 데이터 함정에 빠지는 기업이 많다. 스타트업과 중소기업 상당수는 인스타그램이나 페이스북 광고 관리자, 구글이나 네이버가 제공하는 트렌드 지표만 보고 마케팅을 설계한다. 자체 조사나 직관적 전략은 사라지고 기업은 플랫폼 알고리즘에 종속된다. 기업 고유의 철학과 희소성도 희미해질 수 있다. 조직은 단순 자동화 성과에 안주하고 고차원·창의적 전략 수립 역량을 잃는다.

국내 한 패션 스타트업 광고 마케팅 담당자는 “기업이 빅데이터 분석 툴로만 소비자 심리를 파악하며 현장 인터뷰나 오프라인 체험 조사가 줄어들고 있다. 이렇게 되면 소비자의 ‘진짜 불만’을 간과하는 결과가 나타날 수 있다”며 “또 SNS 광고 관리자가 제안하는 ‘최적 예산 분배’를 그대로 따르다 보니 광고 크리에이티브 다양성이 실종되고 비슷한 광고만 양산된다”고 말했다.

최근 AI 도입이 가장 활발한 영역 중 하나인 ‘인사 채용’에서도 문제가 발생할 수 있다. 일부 대기업은 효율을 좇아 서류나 인적성 평가를 AI 필터링으로만 처리한다. 하지만 AI는 특정 학교·연령·성별 편향을 내재할 수 있는 가능성이 있는 데다, 맥락을 읽지 못하는 한계가 아직 분명하다. 인사 담당자가 적극 개입하지 않으면 다양성이 훼손되고 또 실제 기업이 원하는 인재를 놓치는 결과를 초래할 수 있다.

AI와 알고리즘이 자본 시장 왜곡도 야기할 수 있다는 우려도 나온다. 예를 들어 특정 종목은 인기 유튜브 재테크 채널이 추천하는 순간 주가가 급등하거나 급락한다. 근거 없는 루머가 SNS 알고리즘을 타고 빠르게 확산될 경우, 개인 투자자의 잘못된 선택이 이어지며 시장 혼란이 발생하기도 한다. 여러 증권사가 제공하는 로보어드바이저 서비스는 수많은 이용자가 AI 추천을 무비판적으로 수용하면서 투자 리스크를 스스로 점검하지 않게 된다.

개인과 조직에 발생한 부작용은 사회 전체 손실로 이어진다. 잘못된 정보 무비판적 수용 → 학습·소비 실패 → 경제·사회적 비용 확대라는 악순환이다. 곽금주 서울대 심리학과 교수는 “AI와 알고리즘 확산은 허위 정보나 왜곡된 판단을 사회 전반에 확산하는 위험을 낳는다”며 “예를 들어 AI가 의사인 양 확인되지 않은 전문 의학 정보를 유통하는 콘텐츠가 이미 범람하고 있다. 사회 전체가 잘못된 기준을 사실로 받아들이게 되며 혼란이 증폭될 수 있다”고 지적했다.

최근 한국의 가장 큰 화두 중 하나로 떠오른 ‘정치 양극화’ 원흉이 AI와 알고리즘이라는 의견이 있다. AI가 단순 취향을 넘어 저마다 지닌 고유한 사상이나 철학마저 고착화시키며 인간 ‘정치적 신념’을 조종하고 극단적으로 이끌어간다는 얘기다.

예를 들어, 한 번 진보 성향 채널을 클릭하면 유튜브는 그 다음부터 계속 유사한 채널만 보여준다. 보수 채널도 마찬가지다. 이용자는 다른 관점에서 비판적 사고를 할 수 있는 기회를 잃고, 자기 정치 성향에 갇혀 신념을 계속 강화해가게 된다. 나와 다른 시각은 배제되고, 사상과 취향이 더욱 공고해지는 편향 효과가 발생한다. 이는 ‘확증 편향’의 전형이다.

한 정치평론가는 “과거에는 적어도 같은 뉴스, 같은 매체를 보고 저마다 다른 정치적 판단을 내렸다. 하지만 이제는 모두 자기 입맛에 맞는 콘텐츠만 소비하고 거슬리는 콘텐츠는 쳐다도 안 보게 됐다”며 “한국 국민 정치 성향이 극좌와 극우로 갈라지고 있는 배경에는 유튜브 자동 추천 알고리즘이 큰 지분을 차지하고 있다”고 봤다.

꺼진 뇌를 다시 켜는 방법은

AI 올바르게 쓰는 법 조기 교육을

모든 병의 가장 기본적인 치료 방법은 발병 원인을 없애거나 최소화하는 데 있다. 호모 브레인오프 시대에 나타나는 여러 부작용도 마찬가지다. 사고를 단축하는 환경으로부터 스스로를 떼어놓는 시간과 노력이 필요하다는 데 전문가 이견이 없다.

이인아 교수는 “생활 전반에 퍼져 있는 AI 추천 시스템으로부터 물리적으로, 의식적으로 거리두기가 필요하다”며 “화면을 바라보는 스크린 타임 줄이기, 스마트폰을 떼어놓는 디지털 기기 사용 제한 등 노력을 통해 모든 사안에 스스로 충분히 비교하고 검토하는 과정을 늘려 나가야 한다”고 말했다.

최근 젊은 세대 사이에서 ‘디지털 디톡스 챌린지’나 명상이 인기를 얻고 있는 이유도 여기 있다. 휴대폰 접촉을 최대한 피하고 출퇴근길에 명상 콘텐츠를 들으며 사유 시간을 늘리려는 시도다.

단기 해법으로는 ‘AI 내 경고 장치’도 제시된다. 이경전 경희대 빅데이터응용학과 교수는 “챗GPT에 ‘실수할 수 있습니다’라는 문구가 붙어 있는 것처럼, AI와 대화 시간이 길어지면 음성으로 경고하는 식의 시스템 도입이 필요하다”며 “술·담배처럼 부작용 경고를 표시하는 규제가 곧 AI에도 전면적으로 시행될 것”이라고 말했다.

그럼에도 불구하고 여러 전문가들은 개인의 노력만으로는 한계가 있다고 지적한다. 전홍진 교수는 “현대인 본능은 복잡한 사고를 꺼리기 때문에 무비판 수용 경향이 강해지고 있다”며 “디지털 디톡스 같은 노력은 잠깐이나마 몰입을 회복할 수는 있어도 근본적인 문제 해결 방법이 될 수는 없다”고 말했다.

AI와 알고리즘 노출에 특히 취약한 어린 시절부터, 조기 교육을 통해 기술을 바라보는 관점을 달리해야 한다는 의견이 힘을 얻는다. ‘AI는 완벽하지 않다’는 사실을 주지시키고 과의존을 막는 방법, 또 개인 사고력을 유지한 채 전략적으로 AI를 활용할 수 있는 방법을 기초 교육 과정에 넣어야 한다는 주장이다. AI 활용법을 넘어, 한계를 명확히 인식할 수 있도록 돕는 ‘AI 리터러시’ 교육 필요성이다.

AI 교육 차원에서 가장 앞선 사례로 꼽히는 국가는 핀란드다. 핀란드는 이미 2014년부터 각종 미디어와 그래픽, 영상 등에 대해 비판적으로 사고할 수 있도록 돕는 ‘멀티리터러시 교육’을 교과 역량에 편입했다. 체육·영어·수학 등 어떤 과목을 가르치든 교사들은 모든 연령대 학생에게 여러 미디어에 대응하는 비판적 사고를 키울 수 있도록 지도한다. 이런 교육 시스템으로 핀란드는 ‘가짜 뉴스 저항성’ 평가 지표인 ‘유럽 미디어 리터러시 지수’에서 6년 연속 1위를 차지하기도 했다.

곽금주 교수는 “AI를 철저히 도구로만 활용해야 한다는 내용의 교육이 어려서부터 필요하다. AI 자료를 참고하되 최종 판단은 반드시 스스로 내리는 습관을 길러야 한다”며 “단순히 AI 정보를 가져다 쓰기보다는 해당 결과를 활용해 자기 논리를 세우고 결론을 도출하는 훈련이 중요하다”고 말했다.

예를 들어 보고서를 작성할 때 AI의 답변을 그대로 옮기는 대신, 반론을 제기하고 자신의 생각과 비교·분석하는 과정을 추가하도록 지도할 수 있다. 또한 AI 기술의 작동 원리와 한계, 부작용을 이해하고 이를 비판적으로 바라보는 능력을 기르는 종합 교육이 필요하다는 목소리도 나온다.

백영선 플라잉웨일 대표는 “AI가 판치는 시대 속 부작용을 줄이기 위해서는 또 다른 AI식 접근, 즉 ‘아날로그 인텔리전스(Analog Intelligence·AI)’ 교육이 병행돼야 한다”며 “스스로 사고하는 힘을 기를 수 있도록 다양한 오프라인 환경에서 직접 경험하고 체험하며 배울 수 있는 기회를 늘려야 한다”고 강조했다.

코딩 교육이 오히려 AI 한계를 명확히 할 수 있는 계기를 줄 수 있다는 주장도 있다. AI를 직접 만들어보는 경험을 통해 ‘기계 역시 오작동할 수 있다’는 사실을 명확히 깨닫게 된다는 점에서다. 이경전 교수는 “챗봇 AI를 생성하는 코드를 직접 짜보면 위험성을 생생히 통감할 수 있다. 기계가 인간의 실수를 그대로 드러내는 모습을 보는 과정에서, AI는 스스로 생각하는 존재가 아니라 인간의 통제하에 있다는 점을 체득할 수 있다”고 말했다.

개인을 넘어 기업과 조직, 사회 측면에서도 AI 가이드라인 필요성이 부각된다. 유럽연합(EU)은 기업 AI 리터러시 확보를 위한 직원 교육을 의무화하고 산업별 특성에 맞는 교육을 시행하도록 하고 있다. EU가 만든 인공지능법(AI Act)은 의료·채용·법률 등 고위험 영역에서 AI가 내린 결정을 반드시 인간이 최종 검토하도록 강제한다. 사회적으로 중대한 분야에서 쓰는 AI는 정확도·안전성 시험 등 엄격한 요건을 충족해야 활용이 가능하도록 규정했다.

[정다운·나건웅 기자 지유진·양유라 인턴기자]

[본 기사는 매경이코노미 제2330호 (2025.10.15~10.21일자) 기사입니다]

[Copyright (c) 매경AX. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지]