취향도 속이는 AI [최연진의 IT 프리즘]

지난 13일 유럽 의회에서 AI법 제정에 관한 투표를 하고 있다. 스트라스부르=AFP 연합

국내외 인터넷 쇼핑몰을 자주 이용하는 지인이 얼마 전 개인별 취향에 맞는 상품을 추천하는 코너에 자주 올라온 물건을 뜻하지 않게 사게 됐다. 지인의 취향과 거리가 있는 상품이지만 자주 보다 보니 관심이 생겨 구매한 것이다.

지인의 사례는 개인화 추천 기능에 얽힌 인공지능(AI) 이야기다. 개인화 추천이란 AI가 평소 이용자의 행태를 분석해 취향에 맞는 상품이나 콘텐츠 등을 추천하는 것이다. 대표적인 경우가 유튜브의 영상 추천 알고리즘이다. 유튜브로 트로트 노래를 자꾸 들으면 비슷한 트로트 노래를 추천하는 식이다.

그런데 더러 AI가 취향과 맞지 않은 상품을 추천하는 경우가 있다. AI의 실수일 수도 있지만, 고의적인 오류도 더러 있다. 이용자의 취향을 정확하게 분석했으나 상품 판매를 위해 일부러 취향에 들어맞지 않는 상품인 줄 알면서도 노출하는 것이다. 사실상 AI의 끼워팔기인 셈이다. AI의 추천이 이용자 취향과 너무 다르면 공해로 인식해 해당 서비스를 이용하지 않겠지만 편차가 크지 않으면 지인의 사례처럼 상품 구매로 이어진다.

이처럼 일부 인터넷 쇼핑몰에서 AI의 개인화 추천 기능을 이용해 이용자 취향과 다른 상품을 고의적으로 끼워 넣는 마케팅이 더러 일어난다. 또는 특정 업체로부터 대가를 받고 광고 성격의 AI 개인화 추천을 하기도 한다.

사람들은 AI의 기술이 발달하면서 AI가 만든 사진이나 영상처럼 눈에 보이는 가짜(페이크) 결과물에 대해 경계의 목소리를 많이 내고 있다. 하지만 눈에 보이지 않는 취향이나 감성까지 AI가 속일 수 있다는 점도 생각해 볼 필요가 있다. 이 경우 마케팅 방법이기 때문에 딱히 문제를 삼기 힘들 수 있다. 검색 광고에서 돈을 많이 낸 광고주를 상단에 노출하는 것과 비슷한 맥락이다. 다만 그것이 광고라는 표시를 하지 않는다면 문제가 될 수 있다. AI가 만든 가짜 영상을 밝히지 않았을 때 문제가 되는 것과 같은 이치다.

만약 광고 표시도 없이 개인의 취향을 속이는 AI 결과물에 대해 문제의 소지를 줄이려면 결국 어떤 기준으로 취향 추천을 하는지 AI의 작동원리, 즉 알고리즘을 공개해야 하는데 AI 업체 입장에서는 기업 비밀을 드러내는 것과 마찬가지여서 쉬운 얘기가 아니다. 포털의 검색 결과가 공정한지 확인하기 위해 검색 알고리즘을 공개하라는 것과 마찬가지다. 검색 알고리즘을 공개하라는 요구는 꾸준히 나오고 있다.

지난 13일 유럽연합(EU) 의회가 세계 최초로 제정을 결정한 AI 규제법에도 비슷한 우려가 반영됐다. AI 규제법의 골자는 AI의 오남용으로 인간의 권리와 존엄이 침해당하는 것을 막겠다는 것이다. 규제법의 내용을 본다면, 사람의 행동을 조작하거나 취약성을 악용하는 것을 막고, 사람 같은 지능을 갖춘 범용AI를 개발하는 경우 어떤 데이터를 활용하는지 공개하도록 했다. 해석의 여지가 있지만 경우에 따라 AI의 취향 조작이 문제 될 수 있다.

반면 AI 규제법 때문에 EU에서는 AI 활용이 제한될 수도 있다. AI 업체들이 데이터 공개를 꺼리거나 제재를 피해 EU에서 특정 AI 서비스를 하지 않을 수 있기 때문이다. 과연 AI 규제법에 사진과 영상, 글뿐만 아니라 취향과 감성도 페이크 AI의 대상이 될 수 있다는 우려를 어떻게 반영할지 궁금하다.

최연진 IT전문기자 wolfpack@hankookilbo.com