"당신의 목숨, 로봇과 자율 주행차에 맡기시겠습니까"

[MT리포트] AI(인공지능)의 윤리학①

[편집자주] 영화 '아이언맨'의 자비스처럼 AI(인공지능)가 인간의 머리를 완벽히 대체하는 AGI(일반인공지능)의 시대가 멀지 않았다. 그 전에 이미 운전과 전쟁은 AI의 손에 넘어갈 공산이 크다. 과연 우린 AI에게 목숨을 맡길 준비가 돼 있나. AI에 얽힌 윤리적 문제를 짚고 해법을 찾아보자.

(서울=뉴스1) 박세연 기자 = 5일 서울 서초구 aT센터에서 열린 아마추어 작가들의 만화, 게임 캐릭터 작품 전시회 '코믹월드 서울 172'를 찾은 한 관람객이 아이언맨 코스프레복장의 참가자와 기념사진을 찍고 있다. 2023.3.5/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

#1. 러시아군은 올해 우크라이나 돈바스 지역에 인간의 개입 없이 자율적으로 전투하는 무인전투차량 '마르케르'(Marker)를 투입했다. 러시아 측은 마르케스가 신경망 알고리즘으로 데이터를 처리하는 자율이동 기능과 적 차량의 이미지를 분석하는 AI(인공지능) 시스템을 이용해 적을 감지하고 공격할 수 있다고 주장했다. AI가 스스로 판단해 인간의 목숨을 빼앗는 시대에 우린 살고 있다.

#2. 현대자동차는 올 하반기 출시할 SUV(스포츠유틸리티차) 'EV9', 제네시스 'G90'에 자율주행 3단계 수준의 기술을 탑재할 것으로 알려졌다. 이미 메르세데스 벤츠는 3단계 자율주행 시스템을 독일과 미국에서 승인받았다. 3단계 자율주행은 고속도로 등 특정한 환경에서 AI 시스템이 운전 주체가 되는 '조건부 자율주행'이다. 미국 샌프란시스코에서 등 해외 일부 지역에선 제한된 조건 아래 주행과 관련된 모든 판단을 자동차가 알아서 하는 4단계 자율주행을 시험 중이다. 고속 주행 중 어린이나 노약자가 갑자기 차로에 나타날 경우 핸들을 꺾어 스스로 낭떠러지로 추락할지, 그대로 달릴지 등 인간의 목숨과 관련된 선택을 AI가 한다는 얘기다.

AI가 인류의 삶을 빠르게 잠식하고 있지만, 이로 인해 발생할 윤리적 문제에 대한 사회적 논의는 더디기만 하다. 지난 3월 애플 공동창업자 스티브 워즈니악과 테슬라의 일론 머스크, 석학 유발 하라리 등 저명인사들이 "AI 개발을 잠시라도 중단하자"고 주장한 배경이다.

우리나라에선 '인공지능 윤리원칙' 등을 만들도록 한 법안이 마련됐지만 국회 상임위에서 발목이 잡혀있다.

(툴루즈 AFP=뉴스1) 권진영 기자 = 마이크로소프트(MS) 로고와 챗GPT의 이미지 화면. MS는 챗GPT의 개발사 오픈AI와 파트너십을 맺고 대규모 투자 계획을 발표했다. ⓒ AFP=뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

29일 정치권에 따르면 국회 과학기술정보통신위원회는 지난 2월 법안소위원회에서 윤두현 국민의힘 의원의 '인공지능산업 육성 및 신뢰 확보에 관한 법 제정안'(이하 윤두현안)을 기본 골격으로 기존에 발의된 6개 인공지능 산업 육성 법안(이상민안·양향자안·민형배안·정필모안·이용빈안·윤영찬안)을 통합한 여·야·정부 단일안(이하 단일안)을 만들었다. AI 윤리와 관련해서는 황희 더불어민주당 의원이 발의한 '인공지능책임법 제정안'(이하 황희안)도 논의되고 있다.

단일안은 AI가 국민의 삶과 국가 산업 전체의 경쟁력을 좌우할 것으로 예상되는 상황에서 AI 산업을 전략적으로 육성하기 위한 종합적이고 체계적인 지원체계 마련을 목표로 하고 있다. 동시에 AI의 신뢰성과 윤리를 확보하기 위한 제도적 방안을 마련하는 데에도 중점을 두고 있다.

법안에는 구체적으로 과학기술정보통신부 장관이 3년마다 인공지능 기본계획을 수립하고, 이를 관장하는 컨트롤타워로 국무총리 소속 인공지능위원회를 두는 방안이 담겼다. 또 AI 관련 기술 등을 지원하는 국가인공지능센터를 설치하도록 하고 있다. AI 기술 발전을 위한 대원칙으로 '우선 허용, 사후 규제' 원칙을 명문화하고 자율주행, 교통 등 시민의 안전을 위협할 수 있는 '고위험 활용 영역'을 설정해 신뢰성을 확보하도록 했다. AI 사업자와 이용자가 지켜야 할 사항을 '인공지능 윤리원칙'으로 제정해 공표하는 내용도 담겼다.

황희안은 AI 관련 법적·윤리적·제도적 관점의 사회적 논의를 포괄해 AI 개발과 이용에 관한 기본원칙을 정하고, 국가와 사업자의 책무와 이용자의 권리를 규정하는 것을 골자로 하고 있다. AI 기술이 궁극적으로 인류를 위한 것이어야 한다는 원칙 아래 AI 개발에 대한 윤리 기준을 정하겠다는 것이다. 구체적으로 안전하고 신뢰할 수 있는 AI 기술 개발과 이용에 필요한 사항을 법으로 규정하고, 고위험 AI로부터 이용자를 보호하기 위한 정부의 역할과 사업자의 책무, 이용자의 설명요구권 등을 규정하고 있다. AI 사용으로 분쟁이 발생할 경우 이를 조정할 인공지능조정위원회 설치에 관한 내용도 담고 있다.

윤두현 의원은 "AI가 사회와 산업 전반에서 널리 활용되고 국민의 삶의 질 향상에 도움이 되려면 위험성과 부작용에 대한 우려도 해소해야 한다"고 말했다. 황희 의원은 "최근 유럽에서 표결한 AI 법안에는 인간의 잠재의식에 영향을 미치는 기술이 탑재된 AI 시스템은 시장출시, 서비스제공, 사용 등을 금지하고 있다"며 "우리도 향후에는 AI의 유형을 위험도에 따라 분류해 위험을 관리하고 예방할 필요가 있다"고 밝혔다.

그러나 이 법안들은 국회 과방위의 파행으로 제대로 논의가 이뤄지지 못하고 있다. 방송법 개정안과 최민희 방송통신위원회(방통위) 상임위원 임명 등을 둘러싼 여야 갈등 때문이다. 지난 18일 열릴 예정이었던 과방위 전체회의도 과방위원장인 정청래 더불어민주당 의원을 비롯해 과반 의석을 가진 민주당 주도로 소집됐지만, 국민의힘이 불참 의사를 밝히면서 취소됐다.

올 들어 지난달까지 과방위의 전체회의 개최 건수는 2차례로 전체 17개 상임위 가운데 가장 적다. 과방위 소속 한 의원실 관계자는 "해묵은 갈등요소인 방송법 문제가 불거지니 다른 법안들까지 줄줄이 처리가 막히는 상황"이라고 말했다.

코로나19 확산 영향으로 24일 오후 예정됐던 국회 본회의가 연기된 가운데 서울 여의도 국회 본회의장이 비어 있다. /사진=홍봉진 기자 honggga@

민동훈 기자 mdh5246@mt.co.kr, 안재용 기자 poong@mt.co.kr