[김상준의 횡단] AI백신이 필요하다

지난해 딥페이크 '끝판왕'을 봤다. 선진국 인공지능(AI) 취재를 위해 이스라엘에 출장을 갔을 때, 이스라엘 AI 기업 'DiD'에서 만난 '디지털 휴먼'이 주인공이다.

디지털 휴먼은 사람의 얼굴을 하고 말로 소통하는 AI 챗봇이다. 얼굴이 있다는 점 외에 다른 챗봇과 구별되는 디지털 휴먼의 '특이점'은 챗봇의 뇌라고 할 수 있는 언어 모델(LLM)에 대한 개인화가 가능하다는 점이다. 예컨대 DiD는 일론 머스크가 SNS에 쓴 글 등을 모아 그의 언어로 소통하는 'AI 머스크'를 만들 수 있다.

놀라운 점은 AI 머스크는 현실 머스크가 그동안 내린 판단, 경영 철학 등을 통해 그의 사고 체계까지 모방할 수 있다는 점이다.

두려웠다. 기술이 보편화한다면 일반인도 '아바타'처럼 복제될 수 있을 텐데. 사고 체계가 같고 소통까지 가능하다면 악용될 수 있는 분야는 성범죄에만 국한되지 않는다.

최근 전국의 학교에서 발생한 딥페이크 성범죄는 국내에 AI 규제 논의를 촉발했다. 하지만 실효적인 규제가 도출될지 미지수다. 발의된 법안을 보면 AI 사용과 유통 행위에 대한 처벌에 무게가 실려 있다. 딥페이크에만 집중하고 있기도 하다.

놀랍지는 않다. 세계 각국 정부가 공통적으로 겪고 있는 AI 규제의 딜레마이기 때문이다. AI의 부작용은 표면화하기 전까지 상상하기 어렵다. AI 발전을 선도하며 이미 많은 문제를 겪은 미국조차 강력한 규제를 도입하려고 시도했지만, 결국 개별 AI 기업에 자율 규제를 권고하는 수준에 머무르고 있다.

기술 규제는 본디 후행하지만, AI의 발전 속도는 빨라도 너무 빠르다. 미국 스탠퍼드대 '인간중심AI연구소(HAI)'에 따르면 2012년부터 비약적으로 발전하기 시작한 AI는 2023년 현재 인간의 능력 대부분을 넘어섰다. 2015년부터 이미지 분류 등 단순 작업에서 인간을 앞서더니 2021년에는 자연어 추론 부문에서도 우월해졌다.

날로 고도화하는 AI로 인한 폐해는 막을 수 없으니 받아들이자는 비관론이 아니다. 규제의 한계가 꽤 명확하다면, 그 잘난 AI로 위험을 막자는 제안이다. 대응 역량을 키우자는 것이다.

'AI 백신'은 이미 나오고 있다. 이스라엘의 AI 기업 '클래리티'는 온라인에 게재된 음성, 사진, 영상들이 AI가 생성한 가짜인지 판별하는 서비스를 제공한다. 영국 AI 기업 '다크트레이스'는 AI의 데이터 탈취 등 사이버 공격을 방어하는 AI 보안 시스템을 운영하고 있다. 기업 등의 데이터 환경에서 위협이 식별되면 자동으로 이를 무력화한다.

규제보다 AI 투자에 방점을 찍어야 생존할 수 있다. 한국은 생성형 AI 기술 부문에서 이미 뒤졌다. 세계지식재산권기구(WIPO)에 따르면 지난 10년간 생성형 AI 특허군을 공개한 상위기관 20곳 가운데 국내 기업은 삼성이 유일하다. 2023년 생성 AI 관련 논문이 세계에서 가장 많이 인용된 연구 기관 상위 10위에는 서울대만 포함됐다.

국회에서 표류하던 'AI 기본법' 논의가 재점화한 지금이 기회다. 상임위원회에서 규제론과 투자론이 충돌했고, 양쪽 의견 모두 정부에 전달됐다고 한다. 수정안을 고민하고 있을 정부가 근본적인 방향부터 신중하게 설정하길 기대한다.

[김상준 글로벌경제부 기자]