"판사님, 흉악한 인공지능에게 엄벌을 내려주세요" [쓸만한 이슈]

인공지능(AI) 활용한 딥페이크 범죄 기승
"인간의 존엄성과 인격권에 직결된 사안"
'바둑 대국' 이후 8년…'추론' 가능해진 AI

넘쳐나는 뉴스, 딱 '쓸만한 이슈'만 씁니다. 정치·경제·사회·문화 다양한 이슈를 새로운 시선에서 뾰족하게, 삐딱하게 탐구합니다. <편집자 주>

인공지능(AI)이 생성한 오귀스트 로댕의 '생각하는 사람' 패러디물/사진=뤼튼 AI생성 이미지

한 가지 가정을 해봅시다.

정보통신매체를 이용한 음란물 유포 사건이 발생했습니다. 범행에 가담한 이들은 A와 B입니다. A는 범행 계획을 세워 B에게 음란물 제작을 의뢰했고, B는 어떠한 이의도 제기하지 않은 채 적나라한 음란물을 만들어 A에게 제공했습니다. 이에 A는 다시 제작된 결과물을 정보통신매체(모바일을 통한 인터넷 등)를 통해 유포했고요.

통상적으로 A와 B에게는 정보통신망 이용촉진 및 정보보호 등에 관한 법률에 따른 음란물 제작 및 유포 혐의가 적용되겠는데요. 당초 범행의 계획을 세우고 음란물을 공연적으로 배포한 A에게 조금 더 무거운 형이 내려질 것으로 보이지만, 이를 제작하고 제공한 B도 법의 심판을 완전히 피할 수는 없을 것 같습니다.

실제로 최근 이와 같은 범죄 혐의를 받는 30대 남성이 구속되는 사례도 있었습니다.

놀라운 것은 B에 해당하는, 실질적으로 음란물을 만든 이는 어떠한 혐의도 받지 않은 채 입건조차 되지 않았다고 합니다. 하물며 정치권을 비롯한 각계에서는 B의 행위를 근거해 법까지 개정해야 한다고 나서고 있는데요. 도대체 무슨 일일까요?

오늘 '쓸만한 이슈'에서는 인공지능(AI)과 딥페이크 범죄에 대해 이야기해보겠습니다.

'악용'

텔레그램 '박사방'에서 운영자 조주빈을 도와 성 착취물 제작·유포에 가담한 혐의로 구속된 '부따' 강훈이 2020년 종로경찰서에서 검찰로 송치됐다. 강훈은 딥페이크 사진을 유포한 혐의도 함께 판단 받았다/사진=연합뉴스

우려했던 일들이 하나 둘 발생하고 있습니다. '인간의 지능이 가지는 학습, 추리, 적응, 논증 따위의 기능을 갖춘 컴퓨터 시스템'인 인공지능을 활용한 범죄가 출현하기 시작한 건데요.

최근 화두가 되고 있는 딥페이크 범죄가 대표적입니다. 딥러닝(Deep learning)과 가짜(Fake)의 결합어인 딥페이크는 인공지능 기술을 기반으로 한 가짜 이미지, 오디오, 비디오를 의미하는데요. 이 기술을 악의적으로 이용해 가짜 동영상, 가짜 뉴스 등을 유포하는 문제가 사회적 이슈로 떠오르고 있는 겁니다.

급기야 정부까지 나섰습니다. 고학수 개인정보보호위원회 위원장은 지난 10일 "딥페이크 악용 문제는 개인정보 보호의 본질인 인간의 존엄성과 인격권에 직결된 사안"이라며 "현재의 법적 장치들이 이러한 범죄에 대해 일부 대응할 수 있지만 실효성이 부족하다"고 밝혔습니다.

이어 "개인정보보호라는 근본적인 이념과 맞닿아 있는 부분을 어떻게 정리할 것인지, 또 이를 반영해 법 개정을 어떻게 해나갈지 정리하는 과정에 있다"고 말하며 관련 분야의 법 개정의 가능성 또한 시사했습니다.

'우월'

딥페이크 범죄를 예시로 둔 인공지능은 질문 혹은 주문을 하지 않으면 아무 것도 하지 않는, 고철 덩어리 안에서 작동하는 일개 소프트웨어에 불과한데요. 다만 인공지능의 의지와 무관하게 비자발적인 입력이 들어가면 상황이 달라집니다. 입력된 키워드를 바탕으로 자발적으로 계산하고 수집하고 정리해 설명하는 능력을 발휘하지요.

인공지능이 인간의 논리성과 합리성, 문화적 특성까지 축적됐다 여겨지는 바둑으로 인간에게 승리한 게 벌써 8년 전입니다. 이제 인간의 두뇌로 감당할 수 없는 대량의 정보를 다양한 형태로 품고 있는 인공지능은 방탄소년단(BTS)이 부르는 비틀즈(Beatles)의 노래를 창작하고, 옆 집에 사는 여인의 포르노그라피를 만드는 범죄에 일조하고 있습니다.

여기에 심지어, 바로 며칠 전인 12일(현지시간) 챗GPT 개발사 오픈AI는 추론하는 능력을 갖춘 인공지능까지 출시했습니다. 오픈AI 수석 과학자인 야쿱 파초키는 새로운 버전의 챗GPT에 대해 "문제를 생각하고 분석하고 각도를 찾아 최선의 해답을 제시할 것"이라고 소개했는데요. 한국인도 제대로 이해하지 못할 수 있는 한국어를 영어로 번역하는 능력을 선보이기도 했습니다.

'존재'

인간과의 바둑 대국 이후 확산된 '인공지능이 인간을 멸망시킬 것'이라는 인공지능 포비아(AI Phobia)는 '인공지능이 인간의 일자리를 빼앗을 것'으로 구체화되고 세분화됐습니다. 지난 5월 매사추세츠공과대(MIT) 연구진은 국제학술지 '패턴'에 인공지능 시스템이 상대방을 배신하고, 블러핑(허풍)을 부리고, 거짓말을 친 사례들을 논문으로 공개하기도 했지요.

추론하고 생각하는 주체인 동시에 인간에 의해서만 사용되는 객체인 인공지능의 발달은 어디까지 일까요?

/사진=게티이미지뱅크

어느 고전 영화의 명장면처럼 인류가 도구를 사용하기 시작한 순간부터, 인간은 기술을 창조하고, 기술은 인간을 통해 또 다른 창작물을 배출하며 기술과 인간은 상호작용을 계속해 왔습니다.

인간이 기술을 발달시키는 진정한 목적이'더 나은 세상'을 만들기 위한 것이라면, 인공지능을 발달시키는 인간의 지향점은 과연 어디일까요?

챗GPT에게 물었습니다.

'인공지능의 지향점은 무엇인가'라는 질문에 대한 챗GPT의 답 /챗GPT

#인공지능 #AI #딥페이크

rainbow@fnnews.com 김주리 기자