미래 전쟁의 키워드 AI…"핵심은 데이터와 국제규범"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
정경두 사이버안보연구소 대표(전 국방부 장관)는 9일 서울 중구 웨스틴 조선호텔에서 열린 '2024 제2차 AI의 책임있는 군사적 이용에 관한 고위급회의(REAIM)'에서 미래 전쟁의 핵심이 AI라면서도 이를 통해 발생할 수 있는 위험성 또한 충분히 고려해야 한다고 강조했다.
이어 "국제법에서 중요한 비례성 원칙 등에 대한 적용에서도 우려가 나온다"며 "복잡하고 빠르게 변하는 전시 상황에서 AI가 전투원과 민간인을 구분해야 하는데 이 같은 역량을 갖추고 있는지 확실하지 않다. 따라서 AI가 군사적 맥락에서 운용될 수 있도록 국제적 가이드라인이 필요한 상황"이라고 부연했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
데이터 준비에 따라 전장 활용 여부 판가름 가능
"AI의 윤리적·법적 책임 명확히 할 국제 규범 필요"
[이데일리 김가은 기자] “인공지능(AI) 기술은 군사 분야에서 더 많이 확산할 것이다. 다만 사이버 해킹의 위험성이나 잘못된 데이터가 학습되는 등 위협 요소도 고려해야 대한민국 뿐만 아니라 전 세계의 평화를 유지할 수 있다”
이날 열린 REAIM은 정부와 기업, 학계, 시민사회 등이 모여 AI 기술의 군사적 이용 방안을 논의하는 국제 행사다. 이날 열린 브레이크아웃 세션에서는 AI가 군사와 사이버 안보에 미치는 영향과 잠재력을 중심으로 토론을 이어갔다.
좌장을 맡은 이원태 아주대 연구교수(전 한국인터넷진흥원 원장)는 “AI를 군사 전략적 의사결정 수단으로 활용할 때 기능적, 기술적 위험성이 존재한다”며 “여러 한계점과 부작용에 대한 윤리적, 법적 대응 방안이 필요하다”고 강조했다. AI가 제공한 데이터를 기반으로 지휘관들이 판단을 내릴 때 나타날 수 있는 환각(할루시네이션)이나 AI가 자체적으로 판단해 공격과 방어 등을 수행하는 자율무기가 간과할 수 있는 윤리적 위험성 등을 없앨 방안이 필요하다는 의미다.
결국 이를 해결할 핵심 방안은 데이터에 있다는데 의견이 모아졌다. 발제자로 나선 이상용 서울시 디지털수석은 “데이터를 어떻게 준비하느냐에 따라 전장에서 의사결정에 쓸 수 있는지가 판가름 난다”며 “이를 위해 안전하고 효과적으로 데이터를 활용해야 하고, 안전을 보장하는 방향으로 수집된 데이터를 AI가 빠르게 인식할 수 있어야 한다”고 강조했다.
이어 “무인으로 운용되는 드론이나 로봇도 정밀하게 목표를 설정하려면 데이터 정확성이 담보돼야 한다”며 “의사결정과 판단을 위해 어떻게 데이터를 수집하고 분석할 지가 핵심”이라고 덧붙였다.
AI를 전쟁에서 활용할 경우 윤리적·법적 책임을 명확히 할 국제규범이 중요하다는 의견도 나왔다. 구태언 법무법인 린 대표(디지털플랫폼정부위원회 민간위원)는 “AI가 계속 발전함에 따라 기존에 존재하던 법적 틀이 충분하지 않다는 점이 점점 더 명확해지고 있다”며 “인간이 가진 윤리적 판단과 상황에 대한 추론 등을 AI가 갖추고 있는지, AI가 내린 판단에 대한 설명을 듣고 신뢰할 수 있는지가 중요하다”고 설명했다.
이어 “국제법에서 중요한 비례성 원칙 등에 대한 적용에서도 우려가 나온다”며 “복잡하고 빠르게 변하는 전시 상황에서 AI가 전투원과 민간인을 구분해야 하는데 이 같은 역량을 갖추고 있는지 확실하지 않다. 따라서 AI가 군사적 맥락에서 운용될 수 있도록 국제적 가이드라인이 필요한 상황”이라고 부연했다.
이진 사이버안보연구소 소장은 데이터 학습의 효율성을 높여야 한다고 말했다. 이 소장은 “지금의 AI 산업은 정확하게 과거 군비경쟁과 같다. 돈을 들인 만큼 결과가 나오고 있고, 미국을 이길 방도가 없다시피 한 상황”이라며 “파인튜닝과 프로파일링으로 AI를 고도화하는 것은 동일한 데이터를 기반으로 하기 때문에 한계가 생길 가능성이 크다. 결국 방법을 바꿔 똑같은 데이터를 기반으로 전쟁 상황에 대한 롤플레잉을 각각 돌리고 데이터셋을 여러 개 만든다면 더 심도있는 결과가 나올 것이라고 본다”고 말했다.
김가은 (7rsilver@edaily.co.kr)
Copyright © 이데일리. 무단전재 및 재배포 금지.
- 산악회가 두고 간 박스 열어보니 '충격'…구청 "과태료 어렵다"
- "영상 수천개" 성매매 후기왕 '검은부엉이' 잡혔다.. 정체는
- 아들 '여자친구' 회사 금고 턴 아버지..."좋은 소스 있어"
- 230살 천연기념물, 폭우에 뿌리째 절단.. 결국
- "왜 안 움직이지?"…만취 음주운전자, 신림동 도로서 적발
- "네 엄마한테 이런 얘기 들어야 해?" 교실 뒤에 아이 세워둔 교사
- 이봉원 "짬뽕집으로 열심히 벌지만 박미선에 안돼…아내가 생활비 부담"
- 한달 전기료 30만원 넘었다?…'역대급 폭염' 청구서 보니
- "결혼 2주만에 가출한 베트남 아내, 노래방서 붙잡히자 한 말이..."
- 지진희 "1주일 용돈 5만원, 화 낸 후 2만원 올라"