AI가 인간을 해킹한다…더 교묘하고 강력한 ‘다크패턴’

인공지능과 기만적 디자인의 만남
“검색기록·소셜미디어 활동 활용해
AI가 이용자별 맞춤형 속임수 설계”
EU 디지털서비스법으로 본격규제
틱톡은 외부콘텐츠도 ‘AI생성’라벨
국내는 법적구속력 없는 자율지침뿐

해리 브리그널이 ‘다크패턴의 비밀’에서 소개한 트럼프 전 미국 대통령의 대선 모금운동 사례. 2020년 대선 당시 트럼프 선거자금 후원 사이트는 ‘매달 후원’이 미리 선택된 상태여서 무심코 ‘계속하기’를 누른 이용자들은 모르는 새 매달 트럼프에게 돈을 보내게 됐다.

인공지능 기술 발달로 새로운 유형의 ‘다크패턴’이 생겨나 이용자 권익이 위협받고 있다.

‘다크패턴’은 소비자가 의도하지 않은 선택과 구매 결정을 하도록 교묘하게 설계된 속임수 디자인을 가리킨다. 2010년 영국의 사용자 경험(UX) 디자이너인 해리 브리그널이 웹사이트의 다양한 속임수 디자인을 고발하면서 만든 단어로, 이후 ‘다크패턴’은 각국의 규제기관과 법률이 주목하면서 디지털 이용자의 권익 침해를 상징하는 개념이 됐다. 2010년 브리그널이 고발할 때만 해도 다크패턴은 주로 △숨겨진 가격 △해지 어려움 △연속 결제 강요 △과도한 개인정보 공개 등의 속임수 디자인을 지칭했는데, 인공지능 환경에서 종류과 수법이 빠르게 확산하고 있다.

챗지피티(GPT)·미드저니 등 생성 인공지능은 거짓을 사실과 식별하기 어렵게 만드는 딥페이크와 환각 현상으로 규제 여론도 불렀지만, 인공지능 다크패턴은 모호해 일방적 규제나 불법화가 어렵다.

‘AI 다크패턴’의 특징

미국의 프라이버시 전문가 루이자 야로브스키는 인공지능 기반 다크패턴의 유형을 두 종류로 구분한다. 하나는 ‘거짓된 내용’으로, 목소리·문자·사진·동영상 등의 콘텐츠가 인공지능으로 생성된 것임에도 사람들로 하여금 진짜라고 믿게 만드는 것이다. 다른 하나는 ‘사람 행세’로, 상호작용하는 상대가 인공지능인지 모르고 사람이라고 여기며 상호작용하는 현상이다.

다크패턴은 이용자가 오해하거나 속아 자신의 이익에 어긋나는 선택을 하도록 유도하는 설계나 마케팅을 의미했는데, 최근의 생성 인공지능은 사람들이 새로운 차원의 속임수에 무방비 상태로 노출되도록 한다. 챗지피티·제미나이·달리와 같은 생성 인공지능이 만들어낸 콘텐츠는 사람이 식별하는 게 거의 불가능한 수준이다. 또한 인공지능은 기존의 자동안내, 상담, 거래 대행 등 각종 도우미 서비스를 담당하고 있는데, 기술 발달로 인해 사람들은 자신의 대화 상대가 인공지능이라는 점을 알기 어렵다.

인공지능을 이용한 기만 수법도 늘어나고 있다. 인공지능 알고리즘을 사용하여 검색 기록, 소셜미디어 활동 등의 데이터를 활용해 다크패턴을 개별 이용자에게 맞춤화할 수 있다. 이용자는 자신이 조종당하고 있다는 사실을 인식하기 더욱 어려워질 수 있다. 또한 인공지능은 새롭고 더 정교한 다크패턴을 개발하는 데 쓰일 수 있으며, 챗봇이 사람인 것처럼 상품 구매후기를 올리거나 게시글에 댓글을 달 수 있다. 인공지능 자동댓글 프로그램은 이미 출시돼 있는 상태다.

다크패턴 대응 현황

다크패턴은 인공지능을 타고 질주하고 있지만, 대응책은 걸음마 수준이다. 무엇보다 온라인 서비스 설계 운영자들은 다크패턴으로 단지 이용자들을 속이는 수준을 넘어서는 것만이 아니라, 절대적인 정보 우위에서 서비스를 제공하는 비대칭적 지위를 갖게 된다. 서비스 설계·운영자는 이용자들의 심리적 취약점을 이용해 자신의 이익을 극대화하는 시도를 은밀하게 수행할 수 있다. 페이스북이 여러 차례 내부조사를 통해 10대 소녀들의 인스타그램 이용이 자살 충동을 부추긴다는 것을 알고도 개선은커녕 어린이용 인스타그램 출시를 시도한 것 등이 대표적 사례다.

소비자원이 2023년 6월 38곳 온라인 쇼핑몰의 다크패턴 사용실태를 조사한 결과, 총 429개가 발견돼 업체당 평균 5.6개의 다크패턴 유형을 사용하고 있었다. 다크패턴 13개 유형 중 ‘특정옵션 사전선택’(48.7%), ‘숨겨진 정보’(44.7%), ‘유인 판매’ 순으로 많았다. 소비자원 제공

유발 하라리는 저서 ‘21세기를 위한 21가지 제안’에서 “빅데이터와 기계 학습을 통해 알고리즘은 우리를 더 잘 알게 되어 우리를 통제하고 조종할 수 있지만 우리가 할 수 있는 것은 별로 없을 것”이라며 기계가 인간을 해킹할 위험성을 경고했다.

유럽연합(EU)은 다크패턴 대응에 적극적이다. 유럽연합이 2024년 2월부터 시행하는 디지털 서비스법(DSA) 온라인 플랫폼 제공자가 이용자를 속이기 위해 이용자의 자유로운 정보기반 선택 능력을 왜곡·손상하는 방식으로 설계·구성 또는 운영하는 것을 금지한다. 유럽연합 집행위원회(EC)는 법 시행 전부터 소셜미디어 기업들에 인공지능 콘텐츠에 라벨을 붙이라고 촉구했으며, 숏폼 플랫폼 틱톡은 지난 10일 외부에서 제작된 콘텐츠에도 ‘AI 생성’ 라벨을 자동으로 부착한다고 발표했다.

국내 소비자원은 온라인 상거래 서비스를 대상으로 다크패턴 실태조사 보고서를 낸 바 있고, 담당 규제기관인 공정거래위원회도 2023년 다크패턴 문제의 심각성을 국회에 보고하고 소비자 보호방안과 다크패턴 가이드라인을 발표했다. 그런데 공정위의 ‘온라인 다크패턴 가이드라인’은 자율관리 방안에 불과해 법적 구속력이 없다.

‘다크 패턴’의 작명자 브리그널은 최근 ‘다크패턴의 비밀’을 발간하고, ‘다크패턴’ 용어와 웹사이트 주소를 아예 ‘기만적 패턴(deceptive patterns)’으로 바꾸며 속임수 디자인의 문제를 명료화했다. 기존 12가지 유형으로 분류했던 속임수 디자인 유형도 16개로 세분화했다.

구본권 사람과디지털연구소장 starry9@hani.co.kr

*제3회 ‘사람과 디지털 포럼’에 초대합니다. ‘인공지능 100대 인물’을 만나보세요.
⇒포럼 소개 기사보기