폼난다, 자율주행차..그래도 기본은 안전

운전대도 액셀러레이터도 브레이크도 없다
한숨 자고 일어나면 목적지에 도착

테슬라가 던진 ‘자율주행 미래 사회’를 향한 고민

“오토파일럿·FSD, 주행 보조 장치일 뿐…과장 광고”
미국 캘리포니아주 차량국, 이달 테슬라 고발
10개월 동안 사고 건수 392건 중 69.6% 해당
완전 자율 전 단계 보편 공급, 30년 뒤 가능
위기 상황 AI의 판단 믿을 수 있을까

운전대도 액셀러레이터도 브레이크도 없다. 차에 타고, 목적지를 입력하고 내리는 게 ‘드라이빙’의 전부다. 주행 중에는 잠을 자거나 책을 읽을 수 있다. 자동차 내 디스플레이로 영화를 보거나 게임도 한다. 완전 자율주행 시대의 운전자 모습이다.

완전 자율주행 시대로 가야 한다는 방향성, 가게 될 거라는 믿음에는 전문가들 사이에 이견이 거의 없다. 하지만 시기에 대해선 견해가 엇갈린다. 하늘을 나는 자동차(UAM)가 도심을 주행하는 때에도 완전한 자율주행 시대는 오지 않을 거란 부정적 관측도 있다. 기술적, 사회적, 환경적, 그리고 도덕적이거나 윤리적인 문제들도 첩첩산중이다. 운전은 생명과 직결되는 행위다. 위기의 순간 ‘누구를 살릴 것이냐’는 판단을 인공지능(AI)에게 맡길 것이냐는 질문은 근본적이다.

희망과 회의론의 중심에 모두 테슬라가 있다. 자율주행의 상징, 개척자이자 선두주자인 테슬라를 바라보는 사람들의 시선에 의문이 커졌다. 테슬라는 자율주행의 시대를 열었지만, ‘과연 자율주행은 안전한가’라는 질문도 함께 던졌다.

■ 테슬라 자율주행, 안전성 빨간불

미국 캘리포니아의 윌로 스프링스 트랙. 흰색의 테슬라 모델3가 40㎞ 속도로 110m를 주행한다. 전방에는 어린이 키와 비슷한 노란색 옷을 입은 마네킹이 서 있다. 모델3는 마네킹을 치고, 마네킹이 쓰러진 뒤에야 멈춘다. 분홍색 어린이 마네킹 앞에서도, 검은색 어린이 마네킹 앞에서도 모델3는 멈추지 않고 총 3차례 같은 실수를 반복한다.

컴퓨터 소프트웨어의 안전성 강화를 촉구하는 미국 민간단체인 ‘돈 프로젝트’(The Dawn Project)가 공개한 실험 영상이다. 돈 프로젝트 설립자 댄 오도우드는 공개 영상에서 “매우 불안한 결과”라며 “10만명이 넘는 테슬라 운전자들이 이미 공공 도로에서 테슬라의 FSD(완전자율주행·Full Self Driving) 모드를 사용하고 있어 전국 지역사회의 어린이들이 큰 위험에 처했다”고 말했다.

미국 관계 당국은 이미 테슬라를 예의주시하고 있다. 지난 5일 캘리포니아주 차량국(DMV)은 테슬라를 고발했다. 테슬라의 오토파일럿과 FSD가 주행 보조 장치에 불과한데 자율주행 기능인 것처럼 과장 광고를 했다는 이유다.

미 도로교통안전국(NHTSA)은 2021년 6월부터 자율주행 차량들의 사고 보고를 의무화했다. 2021년 7월부터 2022년 5월15일까지 총 10개월간 집계된 자율주행차 사고 건수는 392건이다. 자율주행 사고로 6명이 사망하고 5명이 중경상을 입었다. 392건의 사고 중 테슬라가 273건이다. 비중 69.6%로 10건 중 7건은 테슬라 차량인 셈이다. 테슬라 사고는 오토파일럿과 FSD 작동 시 발생했다. NHTSA는 올해 2월 테슬라 차량이 자율주행 시 교차로에서 완전히 정지하지 않는다는 이유로 5만3822대를 리콜시켰다.

테슬라의 안전성 문제는 라이다 사용 여부로 연결된다. 라이다는 ‘라이트(Light)’와 ‘레이더(Radar)’의 합성어다. 레이저를 발사해서 빛이 돌아오는 시간, 빛의 강도 등을 계산해 주변에 어떤 물체가 있는지 감지하는 기술이다. 자율주행차의 ‘눈’이다. 자율주행의 핵심 기술로 평가된다. 하지만 테슬라는 라이다를 사용하지 않는다. 값이 비싼 데다, 전기와 메모리를 많이 쓴다는 이유에서다. 테슬라의 최고경영자(CEO) 일론 머스크는 “공짜로 줘도 쓰지 않겠다”고 말한 바 있다. 테슬라는 대신 카메라와 초음파를 활용해 ‘눈’의 기능을 대신한다.

전문가들은 테슬라의 안전성 관련 문제는 카메라를 기반으로 하는 인지 시스템에서 비롯된다고 지적한다. 서승우 서울대 지능형자동차IT연구센터장(교수)은 통화에서 “(테슬라 자율주행 사고는) 카메라 인식기가 오작동했을 가능성이 높다”면서 “카메라는 빛이나 다른 날씨 여건에 영향을 많이 받는다. 왜 (테슬라가) 라이다를 안 쓰는지에 대해선 의구심이 든다”고 말했다. 다만 라이다 역시 완벽하진 않다. 이호근 대구대덕대 자동차학과 교수는 통화에서 “카메라 기반이 저렴하지만 아직 영상 처리 기술 같은 것이 부족하고 데이터들이 많지 않아서 어둡거나 비가 오거나 눈이 오면 위험성이 증가할 수 있다”면서도 “라이다는 고가라는 단점이 있고 하얀 벽면을 하늘로 인식하는 문제가 보고되기도 했다”고 말했다.

■ 자율주행, 우린 어디까지 왔나

미국 자동차공학회(SAE)는 자율주행의 단계를 레벨(Level) 0부터 5까지 총 6단계로 나눈다. 레벨 0은 ‘비자율주행’이다. 레벨 0에서는 인간 운전자가 모든 주도권을 갖는다. 전방 충돌 경고 같은 기능은 포함될 수 있다. 인간의 조작 권한을 침해하지 않는 상황에서 보조받는 수준이다.

레벨 1은 ‘운전자 보조’ 단계다. 시스템은 한 가지 기능만 자율적으로 조작한다. 이미 상용화된 크루즈 컨트롤, 속도 조절, 차선 이탈 방지 등이 여기에 포함된다. 레벨 2는 ‘부분 자율주행’으로 표현된다. 인간 운전자가 여전히 책임을 지지만, 조타(운전대 조정) 및 속도 조절 등 두 가지 동작을 시스템이 동시에 자율적으로 한다. 레벨 3은 ‘조건부 자율주행’이다. 조타 및 속도 조절은 물론이고, 주변 환경을 관찰해 반영한다. 다만 일부 상황에선 인간 운전자의 개입이 필요하다.

레벨 4는 ‘고도 자율주행’ 단계다. 특정한 도로 등 환경 조건에서 인간의 개입이 불필요한 수준이다. 비상상황에서만 인간이 개입해야 하는 수준이다. 레벨 5는 ‘완전 자율주행’으로 모든 도로 및 환경에서 시스템이 자율적으로 주행할 수 있는 단계다. 운전대도 액셀러레이터도 브레이크도 필요 없는 상태다. 흔히 SF 영화를 통해 떠올리는 미래의 자율주행 모습은 레벨 4부터인 셈이다.

완성차 업체들은 이미 레벨 3에 도달했고, 곧 레벨 4 자율주행 양산차도 공개할 수 있다고 밝히고 있다. 테슬라의 FSD는 자율주행 레벨 2.5~3 수준으로 평가된다. 미국의 GM크루즈는 지난 6월 캘리포니아주에서 무인 택시 사업 면허를 취득했다. 구글 웨이모는 2020년부터 애리조나주에서 무인차량을 이용한 배차 서비스를 시작했다. 중국 바이두는 지난해 10월 베이징시에서 유료 무인 택시를 시험했다. 바이두는 2023년에는 레벨 4 자율주행 양산차를 공개하겠다는 계획을 갖고 있다.

자동차 업체들의 포부와는 달리 완전 자율주행 시대는 그렇게 가깝지 않다. 2030년쯤 레벨 4 단계에 도달한다고 하더라도 기술 외적인 문제들이 산적해 있다. 국가별로 인프라가 다르고, 규정이나 법도 다르다. 전 세계 차량은 약 15억대로 추산되는데, 매년 8000만~9000만대 정도가 판매된다. 2027년쯤 완전 자율주행에 가까운 차가 등장하더라도, 전 세계에 공급되는 데에는 대략 20년의 시간이 더 필요하다는 의미다. 이호근 교수는 “자동차 선진국이라고 할 수 있는 한국, 일본, 중국, 미국, 유럽에선 더 빨리 보급될 가능성이 있다”면서 “2050년 정도가 돼야 전 세계적으로 자율주행차가 공급될 걸로 보인다”고 말했다. 자동차 업계 관계자는 “도심형 UAM 등장이 완전한 자율주행 시대보다 빠를 수 있다”고 말했다.

■ AI에게 선택을 맡길 수 있을까

완전 자율주행 시대는 영화 <터미네이터>의 문제 의식을 불러오게 된다. 인공지능 로봇을 개발한 인간이 결국 소외되고 기계에 지배된다는 내용이다. 운전을 인공지능에게 맡긴다는 건, 사고 또는 위기 상황에서의 판단도 인공지능의 몫이 된다는 의미다. 자율주행차 발전에 따라 인공지능의 윤리 문제도 중요한 논쟁거리가 된다.

2015년 프랑스 툴루즈 경제대학교의 장 프랑수아 보네퐁 교수팀은 <자율주행차도 윤리적 실험이 필요하다>는 논문을 발표했다. 여기서 ‘트롤리 딜레마’ 상황이 언급된다. 내가 탄 자율주행차의 브레이크가 고장났고, 앞에는 많은 사람들이 있다. 운전대를 돌리면 나는 죽고, 경로를 변경하지 않으면 여러 사람이 죽는다. 이 질문에 76%의 사람들이 핸들을 꺾도록 프로그래밍해야 한다고 답했다. 그러나 이들 중 절반은 이렇게 프로그래밍된 자율주행차를 타지 않겠다고 했다. 만약 ‘당신의 가족이 함께 타고 있어도 핸들을 꺾어야 하겠느냐’는 질문에는 전혀 다른 답변이 나올 가능성도 높다.

자율주행차로 인한 사고를 누가 책임지느냐도 논란거리다. 한국 국토교통부는 교통연구원, 교통안전공단과 함께 2020년 12월 ‘자율주행자동차 윤리 가이드라인’을 만든 바 있다.

가이드라인을 보면, 자율주행차는 사물이어서 스스로 책임을 질 수 없기 때문에 설계자·제작자·관리자·서비스 제공자와 이용자가 책임의 주체가 된다고 적혀 있다. 책임의 공동 주체로만 적혀 있기 때문에 실제 사고가 일어난 경우 법적 다툼이 벌어질 가능성도 높다. 자율주행 시대로 가는 길에 정리해야 할 관문 중 하나인 셈이다.

박순봉·김상범 기자 gabgu@kyunghyang.com