[특파원리포트] 현실화된 AI활용 범죄

지식 없이도 PC 바이러스 제작
日 ‘발칵’… 법률 규제 논의 돌입
韓은 AI기본법 국회 문턱 못 넘어
정쟁 대신 제도 마련에 속도 내야

지난달 27일 일본 경찰청은 생성형 인공지능(AI)을 활용해 컴퓨터 바이러스를 제작한 20대 A씨를 체포했다. 일본에서 AI를 활용한 바이러스 제작으로 체포된 첫 사례였다. 그는 작성자를 알 수 없는 상태로 인터넷에 공개된 복수의 대화형 AI에 질문을 반복하고 얻은 정보를 조합해 바이러스를 만든 것으로 알려졌다. 눈에 띄는 건 A씨가 정보통신(IT) 경력, 관련 지식을 배운 적이 거의 없다는 점이다. 누구라도 AI를 이용하면 첨단 범죄도 저지를 수 있는 상황이 만들어졌음을 의미한다. 그는 경찰 조사에서 “편하게 돈을 벌고 싶었다. AI에 물으면 뭐든 가능할 것으로 생각했다”고 말한 것으로 전해졌다. 많은 이들이 떠올려 봤음직한 생각이다.

AI가 가진 크고 다양한 가능성 중에는 범죄 도구로서의 그것도 있다. A씨 사례는 AI를 활용한 범죄가 어떻게 시작되고 현실화되는지를, 또 얼마나 광범위하게 확산될 수 있는지를 보여준다.

강구열 도쿄 특파원

요미우리신문이 지난달 보도한 여론조사 결과에는 이런 불안이 그대로 투영돼 있다. 생성형AI 이용, 보급에 따라 불안하게 생각하는 것을 물은 항목(복수응답)에 응답자 65%가 ‘범죄에 악용되는 것’이라고 답했다. ‘잘못된 정보가 의도치 않게 퍼지는 것’(63%), ‘허위 정보가 확산하는 것’(60%) 등이 뒤를 이었다

이런 걱정은 오래전부터 있었다. 오픈AI가 챗GPT를 공개한 이후 개발 경쟁이 치열해지면서 폭발물 제작 등 범죄에 관련된 정보를 얻을 수 있다는 지적이 있었다. 개발회사들는 위법한 정보나 윤리적 문제가 있는 대답은 하지 않도록 자체적인 대책을 마련했지만, 질문에 제한을 두지 않는 AI가 개발돼 공개되면서 AI를 활용한 범죄에 대한 우려는 더욱 커졌다. 요미우리는 “지난해 6월부터 유료판을 포함해 우후죽순처럼 ‘악(惡)의 생성형 AI’가 개발돼 공개됐다”는 전문가의 말을 전하며 “미국 인디애나대 논문에 따르면 2023년 2∼9월 위법정보 등을 양산하는 생성형AI 212건이 확인됐다”고 전했다.

국제사회는 대책마련에 나서고 있다. 유럽연합(EU)의 움직임이 구체적이고 신속하다. EU는 세계 첫 포괄적 AI 규제법을 지난달 승인했다. 이 법은 AI 활용 위험도를 크게 네 단계로 나눠 시스템의 위험도가 높을수록 엄격하게 규제한다. 최고 위험 등급은 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술이다. 사람이 AI 사용을 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다. AI로 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가, 인터넷이나 폐쇄회로(CC)TV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등은 EU 역내에서 원천 금지된다.

미국은 국토안보부 주도로 지난 4월 AI 안전보안이사회를 발족하고 자문위원 22명의 명단을 발표했다. 명단에는 샘 올트먼(오픈AI), 순다르 피차이(구글), 젠슨 황(엔비디아) 등 IT 기업 최고경영자(CEO)들과 지방자치단체장, 학계·시민단체 전문가들이 포함됐다.

일본은 AI 관련 법률 규제를 논의할 ‘AI전략회의’를 시작했다. 지난달 열린 회의에서는 AI를 활용한 인권침해, 범죄 증가 등 위험성을 논의했다. 요미우리는 “정부는 리스크가 높은 AI에 대한 법률 규제를 실시하고 대규모 개발사업자에게 정보 공개 등을 요구하는 제도를 검토하고 있다”고 보도했다. 일본 정부가 그간 AI의 개발을 중시해 기업 자율을 강조하는 입장을 취해 온 것을 감안하면 정책기조에 변화를 보인 것으로 평가된다. 내년 국회에 관련 법안 제출을 목표로 일본에 적합한 규제를 도출해 갈 계획이다.

우리는 어디쯤 와 있을까. 지난달 28일 21대 국회가 임기를 마무리하면서 ‘인공지능산업 육성 및 신뢰 확보에 관한 법률’(AI기본법) 제정안이 과학기술정보방송통신위원회 문턱을 넘지 못하고 폐기됐다. AI 산업의 기본적인 사항을 규정하고 본격 진흥하는 토대를 만드는 취지의 이 법안은 AI 기업 규제 방안 등도 담고 있다. 제도 마련을 위한 움직임은 느리고, 심지어 정쟁에 발목이 잡혀 있는 듯싶다.

강구열 도쿄 특파원