[기고] AI가 드러낸 ‘전쟁 윤리’ 딜레마

임명환 심스리얼리티 AI융합원 원장

지구촌에 벌어진 러시아-우크라이나, 미국+이스라엘-이란 전쟁은 첨단 ICT와 AI의 실전 테스트라 불릴 만큼 기술 경연장이 되었다.

우크라이나는 미국 기업 팔란티어의 AI 시스템 ‘고담’(Gotham)을 활용해 방대한 감시, 정찰 데이터 등을 분석하여 러시아군의 위치를 실시간으로 파악했다. 과거 수일이 걸리던 표적의 식별시간을 불과 몇 분으로 단축시킨 것이다. 이스라엘군이 활용한 ‘하브소라’(Habsora) 시스템 역시 AI가 자동으로 타격 목표를 생성하는 단계에 이르렀음을 보여주었다.

이제 첨단 ICT와 AI는 단순한 보조 도구가 아니라, 관측에서 통제, 타격까지 전쟁 전반에 승패를 결정짓는 핵심 전략자산이다.

그러나 불가피한 전쟁이라도 인간 존엄성의 윤리는 반드시 지켜져야 한다. 러시아-우크라이나 전쟁에서 스페이스X의 위성 인터넷 ‘스타링크’는 우크라이나의 생명선이었으나, 동시에 민간 기업의 서비스가 전쟁의 향방을 좌우하는 ‘비즈니스 리스크’를 노출했다. 미국-이란 전쟁에서도 앤스로픽은 자사의 AI 모델 ‘클로드’를 미국 전쟁부가 군사적으로 확대 적용하는데 반발하여 소송을 제기하는 등 ‘현실적 국방’과 ‘윤리적 양심’ 사이에 충돌이 발생했다.

AI가 살상용이 아니더라도 군사적 효율성을 높이는 데 기여한다면, 해당 기업은 과연 전쟁의 책임에서 자유로울 수 있는지, 군인은 물론 과학기술자들이 풀어야 할 숙제이다.

최근 AI 워게임 시뮬레이션 결과는 더욱 충격적이다. AI 모델들은 전쟁의 조기 종결과 승리를 위해 ‘핵무기 사용’이라는 극단적 선택을 주저하지 않는 경향을 보였다. 이는 인간적 직관이나 외교적 고려가 배제된 채 ‘승리’라는 최적화된 목표만을 쫓는 AI의 위험성이 드러난 것이다.

마찬가지로 주식 시장에서 순식간에 주가가 폭락하는 ‘플래시 크래시’(Flash Crash)처럼, AI 간의 상호작용이 통제 불능의 전면전으로 번지는 ‘플래시 워’(Flash War) 가능성도 배제할 수 없다. 가장 큰 문제는 ‘책임의 공백’이다. AI 탑재 자율 드론이 오판하여 민간인을 공격했을 때, 그 책임은 누구에게 있는가? 드론에 탑재된 AI인가, 개발자인가, 아니면 알고리즘을 신뢰한 지휘관인가?

전통적인 생명윤리 규범은 인간의 행위에 관한 사항이기에 의식, 도덕, 양심, 공정, 권리, 책임 등이 공리주의 원칙을 따른다. 그러나 트롤리 딜레마(Trolley dilemma) 사례처럼 생명을 위협받는 상황에서 피해자가 당사자 또는 이해관계자일 경우 개인주의에 영향받는 것이 현실이므로 전쟁에서 AI 생명윤리 준수를 기대하는 것은 모순이 될 수 있다.

따라서 인간 존엄성에 기반한 생명윤리 알고리즘을 의무적으로 탑재시키거나, 최종 의사결정은 기계가 아닌 사람이 통제하여 권한과 책임을 명확히 할 필요가 있다.

인구 절벽으로 인한 병력 감소에 직면한 대한민국에서 첨단 ICT와 AI 국방은 거부할 수 없는 필수 전략자산이다. 우리는 단순히 무기를 생산하는 공급처를 넘어, 유무인 복합전투체계의 선구자로 발돋음해야 한다. 하지만 기술 개발보다 중요한 것은 ‘신뢰할 수 있는 ICT-AI 국방’의 철학을 마련하는 것이다.

천궁-Ⅱ의 성능 입증으로 새롭게 도약하는 K-방산에 한국형 ‘소버린 AI’를 이식해 기술 종속을 막고, 동시에 국제사회에서 AI 윤리규범 제정의 리더십을 발휘해야 한다. 기술적 우위와 윤리적 양심이 결합될 때, 비로소 대한민국의 국방은 진정한 경쟁력을 가질 수 있다고 생각한다.

전쟁 뉴스로 가득찬 미디어를 접하면서 ‘첨단 ICT와 AI를 비윤리적으로 사용해서라도 반드시 승리해야 한다’는 필승을 부각시키는 현실을 씁쓸하게 바라본다. 손자병법에서 ‘백전백승’(百戰百勝)은 독립된 단어가 아닌, 뒤에 ‘비선지선자야’(非善之善者也) 문구가 함께 붙어 있다. 즉 백번 싸워 백번 이기는 것이 선이 아니라, 싸우지 않고 적을 굴복시키는 것이 최고의 선이라는 의미이다.힘의 논리로 승리와 패배를 구분하지 않고, 삶의 지혜로 판단하면 모두가 패자이다. 전쟁은 세상을 파괴하고 인명 피해를 수반하기 때문에 첨단 ICT와 AI는 싸우지 않고도 정치적 목적을 달성하는데 활용되어야 할것이다.