AI, 군사분야 핵심 부상… "윤리적 책임 중요"

REAIM 고위급회의 열려

9일 서울 웨스틴 조선 서울 2층 오키드 홀에서 진행된 '2024 제2차 AI의 책임 있는 군사적 이용에 관한 고위급회의' 행사 브레이크아웃 세션에서 참석자들이 기념 촬영을 하고 있다. 유진아 기자

"앞으로 인공지능(AI)은 군사 분야에서 더더욱 많이 확산될 것이다. AI 기술이 군사작전을 수행하는 우리 군에 적용될 때는 정확한 데이터를 토대로 올바른 지휘 결정을 할 수 있도록 해야 대한민국뿐 아니라 전 세계의 평화를 유지할 수 있다."

9일 서울 중구 웨스틴조선호텔에서 진행된 '2024 제2차 AI의 책임 있는 군사적 이용에 관한 고위급회의' (REAIM 고위급회의) 브레이크아웃 세션에서 정경두 사이버안보연구소 대표는 이같이 말했다.

REAIM은 정부, 기업, 학계, 시민사회 등 다양한 주체가 AI 기반 기술의 책임 있는 군사적 이용 방안을 논의하는 국제 플랫폼이다. 올해 제2차 REAIM 서밋은 외교부와 국방부 공동 주관으로 9~10일 양일간 서울에서 열린다.

이날 브레이크아웃 세션에서는 AI가 군사·사이버 안보에 미치는 영향과 잠재력에 대해 논의했다. 특히 롤플레잉 기법과 뉴게임 이론을 적용한 AI에 대한 기술적 이해를 바탕으로 사이버전에서 AI 어드바이저를 책임감 있고 효율적으로 사용하는 방법에 머리를 맞댔다.

좌장으로는 이원태 아주대학교 연구교수(전 한국인터넷진흥원 원장), 발제는 이상용 서울시 디지털수석, 토론은 알렉상드르 퀴뇽(Alexandre Quignon) 코그나이트 한국지사장, 이진 사이버안보연구소장, 구태언 변호사(디지털플랫폼정부위원회 민간위원) 등이 참여했다.

이원태 아주대 연구교수는 "AI를 군사 전략적 의사결정 수단으로 분류했을 때 기능적, 기술적 위험성이 존재한다"며 "여러 가지 한계점과 부작용에 대한 윤리적, 법적 대응 방안이 필요하다"고 강조했다. 참가자들은 안전한 데이터를 군사 분야에서 AI와 사이버안보의 핵심으로 꼽았다. 이상용 서울시 디지털수석은 "데이터를 어떻게 준비하느냐에 따라 전장에서 의사결정에 쓸 수 있느냐가 판가름 난다"며 "이런 의사결정을 위해서는 안전하고 효과적으로 데이터를 활용해야 하고, 그 데이터를 AI가 인식할 수 있는 포맷으로 빠르게 변환할 수 있어야 한다"고 강조했다.

참가자들은 AI가 군사·사이버 안보 환경에 미치는 영향이 점점 커지고 있다는데 뜻을 모았다. 구태언 변호사는 "AI는 사이버 보안, 특히 군사작전에서 게임 체인저로 부상하고 있다"면서 "AI 시스템은 인간 운영자보다 더 빠르게 사이버 위협을 감시하고 대응하며 군대가 작전을 수행하고 기획하는 방식에 큰 변화를 불러오고 있다"고 설명했다.

군사 작전에서 AI의 윤리적 책임의 중요성에 대한 의견도 제시됐다. 구 변호사는 "AI를 군에서 사용할 때 국제 협력이 너무나 필요하다"며 "AI 기술이란 복잡한 문제를 한 나라가 단독으로 해결할 수 없기 때문에 AI는 전쟁에서 국경을 초월하며 윤리적, 법적, 그리고 안보적 측면에서 글로벌한 접근을 해야 한다"고 말했다. 이어 "AI가 계속 발전함에 따라 기존의 법적 틀이 충분하지 않다는 점이 점점 더 분명해지고 있다"며 "AI를 전쟁에 사용할 때 어느 정도 자율성을 가져갈지, 인간이 어느 정도 개입할지 등에 대한 명확한 정의와 규제가 필요하다"고 덧붙였다.

글·사진=유진아기자 gnyu4@dt.co.kr