“전쟁의 방식 바뀌어… AI판 ‘제네바 협약’ 필요”

이스라엘 슈워츠알트슐러 연구원
“AI 위험성 판단때 北리스크 고려를
한글 사용, 학습 데이터 부족할수도”

“한국은 인공지능(AI)의 위험성을 판단할 때 북한의 위협을 받는 지정학적 리스크와 독자적인 ‘한국어’를 사용한다는 점을 고려해야 합니다.”

이스라엘 민주주의연구소(IDI)의 테힐라 슈워츠알트슐러 선임연구원(51·사진)은 22일 동아일보 인터뷰에서 “AI가 세계 각국에 동일한 영향을 미친다는 생각은 잘못됐다”며 “AI 규제에서 각국이 ‘고유한 우선순위’를 정해야 한다”며 이같이 말했다. 그는 ‘AI 서울정상회의’와 연계해 열린 ‘AI 글로벌 포럼’에 참석하기 위해 방한했다.

슈워츠알트슐러 연구원은 “AI 위험성과 관련된 한국의 특수성을 고려할 필요가 있다”고 짚었다. 특히 한국어는 이스라엘 히브리어와 마찬가지로, 영어처럼 세계에서 통용되는 언어가 아니므로 허위정보를 판별할 데이터가 부족할 수밖에 없다는 점을 강조했다. 이 때문에 생성형 AI 제품을 구동하는 거대언어모델(LLM)이 적은 데이터로 학습할 가능성이 높다는 것이다.

슈워츠알트슐러 연구원은 “한국과 이스라엘처럼 고유 언어를 사용하는 나라는 소셜미디어와 LLM이 야기하는 문제에 더 취약하다”며 “유럽연합(EU)이 제시한 AI 규제법은 오히려 우리 같은 국가에 더 해로울 수도 있다”고 강조했다.

그는 AI 기술의 발전에 따라 전쟁을 대하는 인식도 바꿔야 한다고 주장했다. 슈워츠알트슐러 연구원은 “제2차 세계대전에서 공군의 등장은 전장의 경계를 흐려 전쟁의 방식 자체를 바꿔 놓았다”며 “AI와 사이버 전쟁에 관한 ‘제네바 협약’이 필요하다”고 말했다. AI 전쟁에 대한 새로운 국제 규범을 만들고 이와 관련해 국제형사기구도 설립해야 한다는 것이다.

각국 정부를 향해 다음과 같은 조언도 했다. “공정이나 포용, 투명성 같은 ‘공허한’ 개념을 논하기 전에, AI가 통제를 벗어나면 어떤 피해를 입힐지에 대한 구체적인 시나리오를 세워야 합니다. 기업을 규제 대상이 아닌 파트너로 여기고 함께 대책을 마련할 때입니다.”

김윤진 기자 kyj@donga.com