[시선2035] 좋은 기술과 나쁜 기술

어환희 IT산업부 기자

메신저 프로필 사진에 신경이 쓰이기 시작한 건 그 친구의 말을 듣고 나서부터다. “모르는 사람이 네 사진을 캡처해서 사기 칠 수도 있잖아. 게다가 요즘엔 합성 기술도 워낙 발달했다고 하니까….”

정면은 지양해야 한다, 옆모습이나 전신사진이 그나마 안전하다 등 조언과 오지랖의 사이에서 미안하게도 당시엔 조금 유난이라고 생각했었다. 그러면서도 있을 법하다는 생각에 한 귀로 흘려보내진 못했던 것 같다. 10년 전 카카오톡 사찰 논란이 터지며 사이버 망명의 바람이 불 때 “텔레그램이라는 메신저가 있다더라” 처음 말해준 것도 그 친구였으니.

사람은 시대를 잘 타고나야 한다고 했던가. 안전 민감증처럼 여겨지던 그의 과도한 우려가 요즘에는 전혀 지나친 생각이 아니게 됐다. 최근 한국 사회를 뒤흔든 ‘딥페이크’ 논란을 보면 확연히 그렇다.

지난 6일 열린 텔레그램 딥페이크 성폭력 대응 긴급 집회. [뉴스1]

인공지능(AI)으로 이미지를 합성하는 딥페이크 기술은 2017년 세상에 알려졌다. 미국 온라인 커뮤니티 레딧에서 닉네임 ‘deepfakes’라는 사용자가 유명인의 얼굴을 포르노 영상에 합성하면서다.

불명예스러운 등장과 달리 기술은 감동을 만들어 내기도 했다. 지난해 즐겨 본 드라마 ‘웰컴 투 삼달리’의 한 장면에서 전국노래자랑 MC 고(故) 송해 선생님이 나오거나 광복절을 맞아 환하게 웃는 독립 운동가들의 모습을 담은 공익 광고 캠페인을 봤을 때가 대표적으로 떠오른다. 모두 이 세상을 떠난 고인을 딥페이크 기술로 생생하게 구현했다.

그 ‘좋은’ 기술은 순식간에 ‘나쁜’ 기술이 됐다. ‘나쁜’ 딥페이크 잡는 ‘좋은’ 기술을 개발 중이라는 소식은 심심찮게 눈에 띈다. 최근 문제가 된 딥페이크 음란물들이 오픈소스, 즉 공개된 소스코드 등을 기반으로 만들었다는 사실이 알려지면서 개방형 IT 생태계에 대한 지적도 급증했다. 누구나 활용 가능하니, 범죄에 악용되고 보안에도 치명타라는 거다. 그렇다면 쉽게 접근하지 못하는 텔레그램은 어떤가. 보안이 강점이라며 한때 너도나도 깔던 텔레그램은 그 강점을 발판 삼아 범죄의 소굴로 전락했다. 딥페이크 기술도, 오픈소스 생태계도, 그리고 텔레그램까지도 모두 시대를 잘못 만났다.

시대를 결정짓는 것은 인간이다. 경찰이 올해 1~7월 검거한 딥페이크 성범죄 피의자는 10명 중 7명꼴로 10대였다. 딥페이크 범죄의 온상으로 알려진 뒤, 텔레그램으로 달려간 10대는 MAU(월간 활성 사용자 수) 기준 전달 대비 10만 명이 늘어났다. 여태껏 우리는 경주마처럼 달리는 AI의 발전을 마치 경마장에서 도박하듯 지켜만 봤던 건 아닐까. 누군가는 ‘범죄는 놀이 문화가 될 수 없다’는 당연한 사실을 배워야 할 시기를 놓쳤을 수도 있다. ‘기술로 무엇을 하고 있는가’를 일깨워줄 디지털 교육이 시급하게 느껴지는 이유다.

어환희 IT산업부 기자