[LES 2026] 공공 AI가 일으킨 오작동…‘국가기관·공급기업’ 누구 책임일까

Law Expo Seoul 2026-The Legal AX Frontier

한국인공지능법학회 정기 학술대회가 6월 25일 LES 2026 현장에서 열렸다. 백성현 기자

공공 부문에도 AI가 도입되면서 AI를 바탕으로 공무원이 잘못된 행정을 했을 때 법적 책임이 누구에게 있는지 문제가 된다.

박현정(사법연수원 32기) 한양대 로스쿨 교수는 6월 25일 법률신문이 공동 주최한 '2026 대한민국 법률 산업 박람회(LAW EXPO SEOUL 2026·LES 2026)'에서 "공공 AI의 오작동에 국가배상책임 외 특별한 배상책임제도는 필요하지 않다"고 말했다. 이날 한국인공지능법학회는 정기학술대회를 겸해 LES에 참가했다.

2024년 OECD 조사에 따르면 52개 회원국 중 49%가 조세포탈 탐지에 AI를 적용하고 있었다. 미국은 일부 주에서 범죄 예측에 AI를 활용하고 있다. 공무원도 AI가 어떤 알고리즘에 따라 판단을 내놓았는지 알기 어렵고 오류나 편향을 교정하기도 어렵다.

박 교수는 국가배상법상 공무원의 '과실'을 다시 해석해야 한다고 제안했다. "국가배상은 공무원 개인의 잘못을 국가가 대신 물어주는 것이 아니라 국가 스스로 자기책임을 지는 개념으로 봐야 한다"는 것이다. 이렇게 보면 '행정 조직 차원에서 일정한 수준에 못 미쳤는지'가 판단 기준이 된다.

다른 발제자인 이수경 계명대 법대 조교수는 AI를 제조물책임법상 제조물로 보는 방안을 대안으로 제시했다. 이 교수는 "제조물책임법은 대량 생산 시기 만들어진 법이지만 결국 소비자 보호와 안전에 방점을 두는 법으로 4차 산업혁명 시기에도 유효하다"고 말했다.

현행 제조물책임법은 적용 대상을 "제조되거나 가동된 동산"으로 규정하고 있어(제2조) AI는 대상이 될 수 없다. 피해자가 제조물의 결함을 입증해야(제3조) 하는 문제도 있다. 일반 국민이 AI의 내밀한 알고리즘을 파악하기 어렵고 단순히 AI의 성능이 떨어지는 것을 결함이라고 봐야 할지도 논란이 될 수 있다.

이 교수는 2024년 EU에서 만든 '제조물책임지침'을 참고해 국내법 개정을 검토해봐야 한다고 말했다. EU의 지침은 제조물의 대상에 소프트웨어를 포함한다고 명시했다(제4조 제1항). 결함에 대해서도 "개인이 기대할 수 있거나 유럽법·국내법에 규정된 안전수준을 제공하지 못하는 경우" 결함이 있다고 본다(제7조).

박재윤(29기) 한국외대 로스쿨 교수는 "결국 민간과 공공의 책임 배분 문제"라고 말했다. 박 교수는 "기업이 모든 책임을 지면서까지 공공에 AI 소프트웨어를 공급하려 하지는 않을 것이다. 일부 책임을 면해주는 약관이 나타날 것이고 적절한 범위에서 보상을 하는 방안이 있지 않을까 한다"고 말했다.