[매경의 창] 인간 vs 로봇, 법정에 서다

생각·행동하는 AI 개발 땐
로봇도 잘못하면 재판 대상
묵비권·변호권 인정되는 셈
'로봇도 법적 인격체인가?'
인간이 곧 숙고해야 할 문제

22세기 인공지능 로봇은 인간처럼 감정을 느끼고 생각하는 능력을 갖게 됩니다. 어느 날 로봇은 연인과 있던 주인을 살해하고 억울함을 호소하기 위해 법정에 섭니다. 경찰이 로봇을 폐기하려 하자 소송을 제기합니다. 재판 없이 폐기하도록 한 로봇기본법은 위헌이라 주장합니다. 의식 있는 로봇은 헌법상 재판받을 권리가 있다고 호소합니다. 로봇과 경찰을 대변하는 변호사는 사람이지만, 판사는 인공지능입니다. 조광희 변호사가 쓴 '인간의 법정'이라는 SF소설 내용입니다. 뮤지컬로도 만들어졌습니다.

인간을 닮은 안드로이드 로봇이 인간을 살해할 수 있을까? 그런 일이 발생한다면 로봇 개발자, 관리자 외 로봇을 처벌할 수 있을까? 로봇에 재판받을 권리를 부여해야 하는가? 법적 판단을 인공지능 판사에 맡기는 것이 합당한가? 미래 이슈이지만, 인공지능 자율주행차가 알 수 없는 알고리즘으로 사람을 사망케 한다면 머지않아 등장할 일입니다.

'로봇은 사람을 해칠 수 없다.' 아이작 아시모프가 만든 로봇의 3대 법칙 중 제1법칙입니다. 2020년 제정된 우리 '국가 인공지능 윤리기준'도 최상위 목표를 인간을 해롭게 하지 않는 '인간을 위한 인공지능'으로 정했습니다. 정당한 이유 없이 사람을 해치도록 로봇을 설계하고 공격하게 한 사람은 살인죄나 상해죄로 처벌됩니다. 프로그램 오류 때문이라면 만든 사람의 과실치사상죄가 문제 됩니다. 로봇은 인간의 명령을 따르는 도구일 뿐입니다. 자기 행동이 잘못임을 알고도 범법행위를 한 때만 처벌할 수 있습니다. 현행법상 동물이나 기계는 사람을 사망케 해도 처벌 대상이 아닙니다.

생각과 의지를 가진 로봇이 개발될지는 미지수입니다. 수만 개 비행기 부품을 하늘로 던졌는데 저절로 조립돼 비행기가 될 확률이라고 단언한 공학자도 있습니다. 올해 라스베이거스 CES 박람회에 출품돼 인기를 끈 영국의 휴머노이드 로봇도 사람 같은 표정을 짓고 대화하지만 미완성 단계입니다. 놀라운 기술 발전으로 스스로 생각하고 행동하는 강한 인공지능이 개발돼 사람을 공격한다면 로봇을 처벌할지 문제가 됩니다. 재판 대상이 되면, 무죄추정의 원칙, 묵비권, 변호인의 도움을 받을 권리도 인정됩니다. 법으로 보호받는 새로운 인격체로 받아들일지 숙고해야 합니다. 그 결정은 사람이 내리지만, 인공지능은 유리한 결론을 이끌어내기 위해 부단히 인간을 설득할 것입니다.

인공지능 판사를 도입할지도 이슈입니다. 인공지능은 속도 면에서 인간을 압도합니다. 2019년 인공지능 경진대회에서 변호사와 인공지능 혼성팀, 비법조인과 인공지능 혼성팀은 변호사로 구성된 인간팀에 압승합니다. 아직은 과거에 없던 사례에서 해법을 찾는 능력은 인간을 따라잡기 어렵습니다. 인공지능은 기존 데이터로 학습하기 때문입니다. 데이터 학습 과정에서 오류와 편견을 가질 수 있고, 인간이 납득하기 어려운 결정을 할 수도 있습니다. 빠르고 유능한 인공지능이 인간의 판단을 뒷받침할 수는 있지만, 승복해야 하는 최종 판단은 인간의 몫입니다.

소설 '인간의 법정'은 인간 선택의 딜레마도 보여줍니다. 인간은 더 친밀하게 교감하는 로봇을 얻고 싶지만, 그런 로봇은 인간의 명령을 거부하고 인간을 공격할 수 있습니다. 인간의 편리를 위해 로봇에 더 많은 역할과 기능을 부여할 수 있지만, 자의식을 가진 로봇은 인간의 판단보다 자기 의지를 관철하려 할 수 있습니다. 똑똑한 비서도, 무자비한 경쟁자도 될 수 있습니다. 배려심 깊은 반려자가 될 수도, 무서운 독재자 행세를 할 수도 있습니다. 모든 것이 인간에게 달려 있습니다.

[봉욱 전 대검 차장·변호사]