‘돌리 파튼’ 대화했더니 그 노래가…AI, 똑똑한 걸까 엿듣는 걸까

━

일상이 된 AI, 명과 암

그래픽=정수경 기자

“우리는 1956년 여름, 다트머스대학교에서 두 달 동안 10명의 과학자가 인공지능(AI) 연구를 수행할 것을 제안한다.”

미국 뉴햄프셔 하노버에서 열린 이 ‘다트머스 워크숍’은 사실상 AI 출발점이다. AI란 용어를 공식적으로 사용하기 시작한 때이기도 하다. 다트머스 워크숍 이후 70년. 뉴욕타임스(NYT)는 비틀스의 노래 ‘히어, 데어 앤드 에브리웨어’를 빌려오며 ‘여기, 저기, 어디에나 AI’라고 했다. 하지만….

“나는 2026년 여름, AI를 쓰지 않을 걸 선언한다.” 김모(54) 부장은 이렇게 호언장담했다. 경기도 자가의 중견 제조기업에 다니는 김 부장은 과연 AI를 끊고 살았을까. 결론부터 말하면, 그는 일명 ‘AI 디톡스’에 실패했다. 영화 제목처럼, ‘어쩔 수가 없다’. ‘황혼에서 새벽까지’도 온통 AI였으니. 김 부장의 여름 하루를 따라가 봤다. 곳곳에 AI 발(發) 사회 이슈도 따라붙었다.

그래픽=정수경 기자

① 오전 6시 : AI가 엿듣는다?
“미국 가수 돌리 파튼이 사망했대.” “그래? 왜? 몇 살이지?” 자리에서 일어난 김 부장은 아내와 ‘돌리 파튼’에 대해 얘기했다. “케니 로저스와 함께 부른 ‘아일랜드 인 더 스트림’은 최고의 듀엣곡이었노라”는 말도 하면서. 김 부장은 핸드폰 앱을 켜고 스트리밍 음악을 틀었다. 두 곡 뒤, 거짓말처럼 그 노래가 흘러나왔다.

“스마트폰의 AI가 대화를 엿듣는다는 의혹이 계속 나왔습니다. 스마트폰 주변에서 특정 단어와 주제가 들어간 대화가 오가면, 이를 기기가 인식해 사용자의 인터넷과 소셜미디어(SNS) 앱에 연동하게끔 한다는 거죠. 돌리 파튼 노래는 우연이라고 볼 수도 있죠. 광고로 이어지면 적나라해집니다.”(IT기업 경력 이용민씨)

AI의 음성 수집 의혹은 그간 음모론으로 잠복하고 있었다. 수면으로 떠오른 때가 2019년이다. 아마존이 전담 직원들을 고용해 AI 스피커 알렉사의 음성 녹음을 정리·분석한 게 드러나면서다. 2024년에는 페이스북의 미국 마케팅 파트너 한 곳이 스마트폰 음성 데이터를 수집해 맞춤형 광고를 만들었다는 자료가 공개되기도 했다. 빅테크들은 이런 의혹을 부인한다. “특정 대화 이후 광고가 나타났다면, 종전에 입력한 특정 관심사 관련 자료를 분석한 알고리즘 때문일 것”이라고 해명하고 있다.

마침 김 부장은 며칠 전부터 근처 빨래방을 검색했다. 이날 중앙SUNDAY의 ‘빨래방 24시’ 기사에 들어갔더니, 세제 배너광고가 떴다.

“그동안 김 부장이 비슷한 키워드를 검색했기 때문입니다. AI가 알고리즘으로 광고를 노출하는 겁니다. 광고 제작 시에 시스템을 구축하는 거죠. 반면 ‘박 과장’이 최근 빵집을 많이 검색했다면 같은 빨래방 기사라도 빵, 아니면 빵과 같이 마실 커피 광고가 나타나게 되겠죠.”(기업 모바일 광고 담당 김모 대리)

② 오전 7시 : 기술격차 양극화
“진희야 아침 먹자. 학교 안 가니.” “그 김치, AI가 만든 거래요.”

김치 담그기엔 AI도 거든다. 세계김치연구소가 AI로 김치 발효 단계를 정밀 예측하는 기술을 개발했다. 이미 일부 대형 김치공장에서는 AI가 ‘최적의 배합비’를 계산해 주고 있다.

지난해 중소벤처기업부에 따르면 디지털과 AI를 이용한 스마트공장 도입률은 20%(전체 기업 19.5%, 중소기업 18.6%)가 채 안 된다. AI 공정을 이용하는 기업은 0.1%에 그친다. 그런데 AI 도입 필요성을 느끼는 중소제조업체들은 78.5%다.(중소기업중앙회) 현실과 이상의 간극이 크다.

“저희가 안 하려 합니까. 돈 없어 못 하죠. 불안해요. 맛과 품질에서는 대등하다고 자신했는데, 이젠 격차가 벌어질 일만 남았어요. 근데 직원들은 AI를 꺼리죠. 일자리가 없어질 수도 있다며.”(경기도 고양시의 김치공장 관계자)

“골드만삭스나 국제통화기금(IMF) 등에서는 AI로 현재 직업의 40~60%가 영향을 받게 된다고 전망합니다. 일자리 절반이 노동 수요의 감소, 임금 하락으로 타격받을 수 있는 겁니다. 향후 10년간은 이런 양극화와 불평등이 지속할 수 있어요. 그다음에는 고착화 단계죠. 연착륙을 위한 대책이 필요한 때입니다.”(이명호 KCERN 이사장)

김 부장은 입에 들어간 김치가 왠지 달게 느껴졌단다. 자신 몸에 ‘AI’가 들어간다는 게 달갑지는 않았지만. 출근한 김 부장은 생성형 AI 챗GPT의 도움 없이 보고서를 작성했다. 1시간 걸리던 게 2시간이 지나도 마무리가 안 됐다. 직원들과 근처 식당으로 향했다. “펼쳐 든 메뉴판은 기괴했고, 흐르는 음악은 해괴했다”고 김 부장은 전했다.

그래픽=정수경 기자

③ 오후 12시30분 : 혐오와 애호 사이
“냉면 면발이 가로세로 정렬인데? 수육도 너무 가지런하지 않아?” “부장님, 이거 AI가 만들어준 메뉴판이에요.”

최근 메뉴판을 AI로 제작하는 음식점이 늘고 있다. 비용을 한 푼이라도 줄이려는 자영업자들의 나름 노고인데, 혐오의 대상이 되기도 한다. SNS에서는 해당 메뉴판 사진을 올리며 ‘속이 메슥거린다’ ‘메뉴판 바로 엎었다’란 내용을 피드한다.

“이를 ‘불쾌한 골짜기(Uncanny Valley)’로 표현합니다. AI가 만든 속칭 ‘인간적인 것’들이, 미세한 오류나 반대로 너무 정돈된 이미지로 구현될 때 사람은 본능적인 불쾌감을 갖게 되죠. 그 불쾌한 디지털 이미지를, 가축에게 먹이는 음식물 찌꺼기를 뜻하는 ‘슬롭(Slop)’이란 신조어로 부르기도 하고요.”(최훈 한림대 심리학과 교수)

‘AI 슬롭’ 앞에는 ‘딸깍’도 붙는다. 너무 손쉬운 생성이란 표현이다. 김 부장이 들은 ‘해괴한’ 음악도 그중 하나다.

“어제도 동네 카페와 김밥집에 갔는데, 비슷한 노래 몇 곡이 연달아 나오자 알아차렸어요. 음률은 밋밋했고, 가사는 비슷한 문장이 계속 나오더라고요. AI 음악이란 걸 알 수 있었던 건 제가 영어 원어민이기 때문인지, 인간으로서의 거부감 때문인지 잘 모르겠습니다. 여하튼 짜깁기한 AI 음악은 불편합니다.”(콜린 마셜·미국 출신 저널리스트)

하지만 자영업자들은 AI 음악을 선호할 수밖에 없다. 보통 점포 면적이 50㎡(약 15평) 이상인 카페·헬스클럽, 생맥주 전문점 및 주점 등은 매장에서 음악을 재생할 때 공연권료를 납부해야 하기 때문이다.(저작권법 제29조) 지난달 25일 한국음악저작권협회는 AI 음악에 대한 저작물 등록 허용 방침을 철회한 바 있다. 국회와 주무 부처인 문화체육관광부가 제동을 걸었다.

김 부장은 회사 차를 몰고 거래처로 향했다. AI를 쓰지 않겠다고 했는데, 종이 지도를 펼치고 갈 수는 없었다. 김 부장이 쓰는 SK텔레콤 모바일 티맵은 2017년 출시되면서 이미 내비게이션에 AI 기능을 장착했다. 퇴근길. 핸드폰 음악 앱에서 머라이어 캐리의 ‘올 아이 원트 포 크리스마스 이즈 유’가 흘러나왔다. 난데없이, 여름에.

④ 오후 6시 : 밀고 당기는 저작권 싸움
“최근 ‘8월의 크리스마스’를 몇 번 검색하기는 했지만….” 캐리의 노래는 최근 다시 화제가 됐다.

기사 앞부분에 쓴 ‘다트머스 워크숍’ 주축 멤버 중 한 명이 클로드 섀넌 MIT 수학과 교수다. 클로드(Claude)? 맞다. 앤트로픽이 개발한 AI 모델에 그의 이름을 썼다. 섀넌은 디지털 정보가 1과 0의 이진법으로 이뤄졌다고 정의했다. 챗GPT·제미나이 등 거대언어모델(LLM)도 그가 1948년에 발표한 ‘통신의 수학적 이론’을 토대로 한다.

그 클로드가 “역사상 가장 거대하고, 노골적으로 이뤄지고 있는 지적재산권 침해에 대한 책임을 묻는다”는 소송의 ‘관련자’가 됐다. 지난달 28일 소니뮤직과 워너채플뮤직이 앤트로픽을 상대로 소송을 제기하면서다. 앤트로픽이 ‘해적판’(불법 복제) 온라인 도서와 실물 책의 악보와 가사를 클로드가 학습하게 했다는 것. 이 중 ‘올 아이 원트 포 크리스마스 이즈 유’와 테일러 스위프트의 ‘페이퍼 링스’ 등이 포함됐다. AI의 합법적인 학습 콘텐트는 어디까지인가에 대한 논란이 다시 확산되고 있다. AI는 전방위로 생성물을 쏟아 내는데, 창작물 여부 논란도 여전히 맴돌고 있다.

“우리 저작권법은 주체가 자연인(인간)으로 돼 있습니다. 창작물은 사상이나 감정을 표현해야 하고요. 법을 개정해야 하는 거죠. AI가 창작을 통해 공익에 기여한다면 좋은 일입니다. 하지만 핵심은 분배입니다. 논란 이전에 AI 학습 과정에서 창작물 사용에 대한 공정한 대가를 지급하도록 정리하는 게 먼저입니다. 그림 한 폭, 노래 한 곡으로 연명하는 작은 저작권자들이 소송을 제기할 수나 있겠습니까.”(최승재 세종대 법학과 교수)

김 부장은 AI를 피할 수 없었다. 핸드폰을 끄면 될 줄 알았지만, 끄지는 못했다. “업무 자체가 안 되겠더라”며. AI는 효율과 성장을 키우지만, 문해력 저하와 보안 위협, 윤리 등의 그림자도 여전하다.

“진희야, 아빠 왔다.” 잠시 침묵. “제게는 아빠가 없습니다.” TV AI 에이전트 ‘지니’의 답이었다. AI는 어디에나 있다.

김홍준 기자