생성형 AI 이용해 악성 바이러스 만든 20대 체포… 일본 첫 사례

지난 3월 촬영된 오픈AI의 로고. AP연합뉴스

일본에서 생성형 AI를 이용해 컴퓨터 바이러스를 만든 20대가 체포됐다. 생성형 AI를 악용한 컴퓨터 바이러스 범죄가 일본에서 적발된 것은 이번이 처음이다.

마이니치 신문은 28일 경시청 사이버범죄대책과가 하야시 류키(25)를 부정 지령 전자적 기록 작성 혐의로 체포했다고 발표했다고 전했다.

하야시는 지난해 3월 31일 자택의 PC 또는 스마트폰을 사용해 컴퓨터의 데이터를 파괴해 가상 화폐를 요구하는 ‘몸값 요구형 랜섬 웨어’와 유사한 바이러스를 만들었다는 혐의를 받고 있다. 그는 “AI에게 물어보면 뭐든지 할 수 있다고 생각했다. 편하게 돈을 벌고 싶었다”며 범죄 혐의를 인정하고 있는 것으로 알려졌다.

경찰에 따르면, 하야시는 전직 공장 노동자로 IT 기술을 전문적으로 배운 경험은 없었다. 그는 뉴스를 보고 대화형 생성 AI에 흥미를 가져 랜섬웨어를 만들 생각을 했다고 진술했다. 이 바이러스에 의한 피해는 확인되지 않았다.

마이니치 신문은 오픈 AI사의 챗GPT는 부정한 프로그램의 작성 등에 관한 질문에 회답을 거부하는 ‘가드 레일’이라고 하는 악용 방지 기능이 설정돼 있지만 하야시는 가드 레일을 회피하기 위해 목적을 숨기고 간접적인 질문을 반복하는 방식으로 바이러스를 만들어낸 것으로 보인다고 전했다.

하야시는 올해 3월 위조 신분증을 사용해 SIM 카드를 계약했다가 사기 등의 혐의로 체포됐다. 체포 당시 자택 PC 등에서 바이러스 프로그램이 발견됐다.

김남중 선임기자 njkim@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지