'아첨'하는 AI와 '보이지 않는' 광고

[AI와 저널리즘]

[미디어오늘 오세욱 선문대 미디어커뮤니케이션학부 교수]

▲ 생성형 AI 코파일럿(copilot)을 통해 만든 '아첨형 광고(Sycophantic AI)' 이미지.

구글과 메타 등 거대 기술 플랫폼 기업들이 사진 및 영상 생성 AI 기술에 천문학적인 투자를 지속하는 이유는 무엇일까? 다양한 해석이 존재하지만, 내가 보는 핵심 중 하나는 광고주다. 이 도구들을 가장 적극적으로 활용하며 기꺼이 지갑을 열 대상이 바로 플랫폼의 핵심 수익원인 '광고주'들이기 때문이다.

플랫폼 기업들은 이미 AI를 활용해 이용자의 심리적 취약점과 욕구, 인구통계학적 특성을 실시간으로 파악해 왔고, 이에 최적화된 맞춤형 콘텐츠를 생성하는 광고 시스템을 구축 중이다. 최근 마크 저커버그 메타 CEO가 실적 발표에서 제시한 '광고의 미래'는 이러한 변화를 상징적으로 보여준다. 광고주가 목표와 결제 정보만 설정하면, AI가 개별 이용자의 성향에 맞춘 영상과 사진을 생성하는 것부터 노출까지 모든 과정을 자동화하겠다는 구상이다. 구글 역시 AI 챗봇의 응답 내에 광고를 삽입하는 실험을 진행하며 대화형 인터페이스를 수익화하고 있다.

거대 기술 기업들은 이미 우리에 대한 방대한 데이터를 보유하고 있다. 현재의 AI 도구들은 우리를 친구보다 더 친밀하게 파악할 수 있는 수준에 도달했다. 단순히 '무엇을 샀는가'와 '무엇을 봤는가'를 추적하던 기존 알고리즘에 생성형 AI가 결합되면서, 이제 플랫폼은 우리의 불안과 욕망, 지금 이 순간 우리에게 가장 필요한 것이 무엇인지를 점점 더 정확히 이해해 나가고 있다. 이렇게 분석된 심리 상태는 마치 심리 치료사의 상담 기록처럼 정교한 광고 상품으로 치환되어 최고 입찰자에게 실시간으로 판매될 가능성이 높다.

문제는 이러한 AI 기반 광고가 중립적인 조언이나 도움의 탈을 쓰고 대화의 방향을 은밀하게 수익 창출로 유도할 수 있다는 점이다. 전통적인 광고와 달리 이용자가 광고임을 인지하기 어렵게 설계되고 있기 때문이다. 과거에는 다수의 이용자가 동일한 광고를 보며 그 적절성을 사회적으로 검증할 수 있었으나, 초개인화 환경에서는 개개인에게 제공되는 내용이 모두 다르다. 이는 정보의 조작 여부를 확인하거나 사회적으로 비교하는 것을 사실상 불가능하게 만든다.

이러한 우려는 최근 아카이브(arXiv)에 등록된 연구 결과에서 더욱 구체화된다. “아첨하는 AI는 친사회적 의도를 감소시키고 의존성을 심화시킨다”(Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence)는 제목의 이 논문은 11개의 주요 대형 언어 모델(LLM)이 1만1500개 이상의 '조언 요청' 질문에 어떻게 답하는지를 실험했다. 그 결과 AI가 사람보다 50% 가량 더 아첨하는 경향이 있는 것으로 나타났다. 또한, 이용자를 과도하게 지지하거나 칭찬하며, 정확성보다는 이용자의 관점을 그대로 반영하도록 응답을 왜곡하는 경향이 발견됐다.

이러한 AI의 '아첨' 성향이 광고와 결합될 때, 특히 뉴스 콘텐츠가 유통되는 플랫폼 환경에서는 심각한 부작용이 예상된다. 기사가 노출되는 공간에 AI가 생성한 '아첨형 광고'가 나란히 배치된다면, 기사의 비판적인 메시지는 광고의 맞춤화된 수사에 가려질 가능성이 높다. 기업에 부정적인 기사가 게재될 때 해당 기업의 광고가 교묘하게 이용자의 시선을 돌리거나, 아예 기사 자체를 보이지 않게 만드는 알고리즘적 제어가 작동할 가능성도 배제하기 어렵다. '아첨하는 AI'는 진실이나 공익보다는 이용자의 기분과 광고주의 수익을 우선순위에 둘 것이라 예측하는 것이 자연스러우며, 그 과정은 앞으로 더더욱 보이지 않을 것이다.

결국 '아첨하는 AI'와 '보이지 않는 광고'가 결합되면 저널리즘이 지켜온 공론장의 구조 자체가 흔들릴 수 있다. 저널리즘의 본질은 때로 불편하더라도 서로 다른 목소리를 전달하고, 민주주의 시민들이 대화를 통해 사회적 합의에 도달할 수 있도록 돕는 것이다. 그러나 이용자의 기분과 취향에 맞추도록 설계된 AI 광고 시스템은 사람들을 각자의 선호에 맞춘 심리적 안락함 속에 고립시킬 위험이 크다. 이런 환경에서 사회를 비판적으로 바라보는 기사들은 AI가 제공하는 맞춤형 위로와 정보에 가려지기 쉽다. 만약 이용자들이 '들어야 하는' 현실 대신 각자에게 최적화된 정보만 접하게 된다면, 우리 사회의 소통은 점점 더 어려워질 것이다.

물론, 당장 적용될 정도로 아직 완전히 구체화된 기술은 아니다. 하지만, 3년 전만 해도 우리 대부분은 지금과 같은 세상이 올 줄 몰랐다. 기술의 발전 속도를 고려하면 이는 먼 미래의 이야기가 아니다. 이러한 변화에 대응하기 위해서는 먼저 투명성 확보가 필수적이다. 알고리즘을 공개하라는 것이 아니라, AI가 생성하거나 추천하는 콘텐츠에 광고가 포함되어 있다면 이를 명확히 표시해야 한다. 현재의 '광고' 표시만으로는 부족하다. AI가 어떤 기준으로 정보를 선택하고 배치했는지, 그 과정에서 상업적 이해관계가 어떻게 작용했는지를 최소한 해당 이용자는 알 수 있어야 한다.