[하태훈의 법과 사회] 두 얼굴의 AI

사람의 상상력과 창의적 사고에 한계가 없듯 AI의 세계도 무한하다. 보건 의료, 법률, 군사, 물류 유통, 금융 등 모든 분야에서 AI의 활약상은 대단하다. 최근에는 구글에서 기상청보다 더 정확한 날씨 예측 인공지능 모델을 개발했다는 소식도 들려온다. 창작과 예술에서도 인간을 능가한다는 평가다. 인공지능 기반 로봇이 사람을 대신해 각종 서비스를 제공하고 완전 자율 주행 자동차 상용화도 눈앞에 다가왔다. 이제 일상생활 곳곳에 인공지능 기술이 퍼져 우리의 삶은 편리성, 효율성, 생산성이라는 혜택을 누리고 있다. 민간 영역을 넘어 정부도 행정 영역에서 인공지능 기술을 활용하려 한다.

챗GPT가 출시된 후 순식간에 1억명의 이용자를 끌어모은 열풍처럼 인공지능 기술에 대한 낙관적 전망이 우세하다. 인류 발전의 촉진제이자 게임체인저가 될 수 있다고도 한다. 인간의 생물학적 진화 속도는 더디기만 한데 AI로 인해 인간이 함께 진화할 것이라는 예측도 있지만, AI가 인간을 뛰어넘어 통제할 수 없는 상황이 올 것이라는 우려도 나오고 있다. 어쨌든 인간이 AI와 공존하는 시대가 다가온다. 법적으로는 자연인과 법인 이외에 전자인(e-person)도 인정해야 할 시기가 도래할 것이다.

그런데 인간 복제 사례에서 경험한 것처럼 과학기술 발전에 늘 명암이 있기 마련인데 AI의 의도치 않은 부작용도 만만치 않다. 문명의 이기가 초래할 부정적 결과는 사전에 예측할 수 있어 미리 방지할 장치를 마련하기도 하지만, 대개는 기술 발전의 광풍 속에서 치열한 경쟁에서 살아남기 위해서는 옆과 뒤를 돌아볼 겨를이 없어 앞만 바라보며 질주한다. 오남용의 위험성을 알지만 외면하거나 무시하고 멈추지 않는다. 기술 발전의 성과가 세상에 공표되고 나서야 비로소 부정적 측면과 사회적 부작용이 문제 되고 대책 마련에 관심을 끌게 된다. 인공지능 기술도 마찬가지다. 차별과 편견, 경제적 불평등, 개인정보 등 프라이버시 침해, 창의성과 비판적 사고를 막는 기계의존성, 디지털 권력 집중 등 부정적인 사회적 영향을 지적하는 목소리가 들려온다. AI의 두 얼굴이 드러나게 된 것이다.

인공지능 기술이 테러 집단이나 범죄자 손에 들어갈 위험성은 이미 현실이다. 챗GPT가 등장했을 때 너도나도 남보다 먼저 접해보고 싶어 했듯 사이버 범죄자들 또한 얼리어댑터다. 그들도 인공지능 기술 발전 속도만큼 재빠르게 악의적 사용을 기획한다. 인공지능 기술로 정교한 딥페이크 영상을 제작해 피해자를 협박하거나 사기를 치고, 아동 성 착취물을 만드는 등 범죄를 도모한다. 생성형 인공지능이 음성 3초와 사진 1장으로 사람 복제가 가능하다니 누구나 딥보이스나 딥페이크 영상에 피해를 당할 위험에 노출돼 있다. 물론 AI를 이용해 보이스피싱을 사전에 차단하고, 해킹 등 보안 위협에 대응하고, 위험 예측 및 범죄예방 도구로 치안 정책과 범죄 수사에 활용하는 등 AI의 긍정적 이용이 기대되지만, AI를 이용한 범죄의 습격은 언제 어디서 자행될지 모를 일이 되어 버렸다. 더 심각한 것은 허위 정보를 유포하거나 여론을 조작하는 등 민주주의를 위협하는 요소가 될 수 있다는 사실이다.

AI가 만들어낼 가짜 세상이 우리를 지배하기 전에 부작용과 악의적 오남용을 최소화할 강한 규제가 마련되어야 한다. 뒤늦게 빅테크 기업들이 생성형 인공지능에 대한 표기 의무 정책을 발표하고, 인공지능 선두 기업들이 AI로 생성·변조된 음성·영상 콘텐츠를 사용자가 식별할 수 있는 시스템을 개발하기로 했다니 다행이다. AI가 만든 ‘가짜 바이든’에 놀란 미국 대통령이 ‘안심할 수 있고, 안전하며, 신뢰할 수 있는 인공지능개발과 사용에 관한 행정명령’에 서명했다고 한다. 우리도 국회에 계류 중인 인공지능 관련 규제법 논의에 속도를 내야 한다. 날마다 보고 듣는 것을 의심하며 살아야 하는 두려움에서 벗어나고, AI에 종속되지 않으려면 진흥과 발전의 보폭을 조금은 줄여도 되지 않을까.

하태훈 한국형사·법무정책연구원장 고려대 명예교수

하태훈 한국형사·법무정책연구원장 고려대 명예교수