AI 탑재된 무기가 오작동하면 생기는 일

자체 판단으로 적군 공격하는 AI 드론이 실전에 투입까지. 결국 다가와 버린 영화 속 미래

최근 체스 로봇이
체스 경기에서 인간의 손가락을
부러뜨리는 사고가 있었습니다

인간의 돌발 행동을
AI가 미처 학습하지 못해 발생한
우연한 상황

그런데 만약 AI가 무기에 융합돼서
이런 우연한 사고가 발생한다면 어떨까요?

우리가 AI 오작동에 대해
다시 생각해봐야 하는 이유에 대해
스브스뉴스가 알아봤습니다

---

빠르게 창공을 가로질러
목표를 향하는 드론

순식간에 목표를 공격한
드론 조종자는 다름 아닌…
자기 자신?!

이 드론은
튀르키예의 방산 업체에서 개발한
‘자율주행 살상 드론’이다

인간이 조종하지 않아도
적군을 찾아 사살할 수 있는
이 드론이 실전에 사용된 사실이
지난해 UN 전문가 패널 보고서를 통해 공개됐다

보고서에 따르면 이 드론은
리비아 내전에서
리비아 정부군이 운용한 드론으로
도망치는 군인들과 호송대,
후퇴하는 전투기를
공격하기도 했다고 한다

보고서에서는 이 드론이
통제 센터에서 보내는 데이터 없이
스스로 표적을
공격할 수 있다고 분석했는데…

군사용 드론은 각종 현장에서
꾸준히 사용돼 왔지만,
드론이 자체적으로 판단해
인간을 공격한 사실이 확인된 건 처음

전문가들은 AI 무기가
실전에 투입된 상황에 대해
우려를 표했다

예를 들면 AI가
농기구를 들고 있는 농부와
총을 들고있는 적군 병사를
혼동할 수도 있다는 것

1년이 지난 최근까지도
비슷한 우려의 목소리가
계속되고 있는데…

뉴욕대 연구팀이
AI 관련 연구를 발표한
과학자들을 대상으로 조사한 결과
응답자의 36%가
“AI나 머신러닝 시스템에 의한 결정이
이번 세기에 전면적 핵전쟁만큼
심각한 재앙을 일으킬 수 있다”고 답했다

에이.. 그래도 나머지 3분의 2는
그렇게 생각 안 하는 거 아니야?
영화도 아니고 AI가 설마 그럴 리가…

그렇다면 이 영상을 보자
체스 로봇이 기물을 움직일 차례에
아이가 기물을 옮기자
로봇이 아이의 손가락을 잡고 놓지 않는다

주변에 있던 어른 네 명이
로봇을 제어해 가까스로 풀려났지만,
아이는 결국 손가락 골절로 치료받아야 했다

러시아 체스 연맹 부회장은 사고에 대해
“기물을 옮기기 전 충분히 기다려야 하는
안전 수칙을 아이가 어겼다”고 밝히며
“이는 우연히 발생한 일이며
로봇은 절대적으로 안전하다”고 강조했다

“우연히 발생한 일”
우리는 이 부분에 주목할 필요가 있다

더 자세한 내용은 영상으로 확인하세요!
✔ 뉴스에는 위아래가 없다, 스브스뉴스