"자율주행차, 운전자와 행인 중 누구를 살려야 할까요?"

[MT리포트] AI(인공지능)의 윤리학③ 황희 더불어민주당 의원 인터뷰

[편집자주] 영화 '아이언맨'의 자비스처럼 AI(인공지능)가 인간의 머리를 완벽히 대체하는 AGI(일반인공지능)의 시대가 멀지 않았다. 그 전에 이미 운전과 전쟁은 AI의 손에 넘어갈 공산이 크다. 과연 우린 AI에게 목숨을 맡길 준비가 돼 있나. AI에 얽힌 윤리적 문제를 짚고 해법을 찾아보자.

황희 더불어민주당 의원/사진제공=황희 의원실

"완전한 자율주행(5단계) 시대가 오면 자동차가 스스로 경로를 선택할 겁니다. 만약 인명사고를 피할 수 없는 상황이 생긴다면 자동차는 운전자와 행인, 둘 중 누구를 살려야 할까요?"

지난 2월 '인공지능책임법 제정안(이하 AI 책임법)'을 대표 발의한 황희 더불어민주당 의원은 머니투데이 the300과의 인터뷰에서 이런 질문을 던졌다. 그는 "AI가 내리는 어떤 선택을 최선이라고 할 수 있을까를 고민하게 됐다"고 법안 발의에 나선 이유를 설명했다.

황 의원은 챗GPT 등 AI 기술이 예상보다 빠른 속도로 일상을 파고들고 있다고 진단했다. 그는 "챗GPT는 난이도 높은 학술논문과 에세이, 시, 보고서 등을 단숨에 써내고 소프트웨어 프로그램 코딩까지 수행해내고 있다"며 "AI는 이미 세계인의 일상 깊숙이 침투해 디지털 대전환의 시대를 이끌고 있다"고 했다. 이어 "자연스럽게 AI 윤리와 책임을 고민하게 됐고 선제적으로 제도를 마련해야 한다는 생각에 법안을 발의했다"고 말했다.

최근 국회 내에서도 의정활동에 챗GPT를 활용하는 이들이 적지 않다. 황 의원 역시 챗GPT를 몇 번 사용해봤다고 했다. 다만 아직 챗GPT를 완전히 신뢰하기는 어렵다고 보고 있다. 황 의원은 "챗GPT는 같은 질문을 반복할 때마다 다른 답을 내놨다"며 "이렇게 신뢰할 수 없는 정보를 전달하는 것은 어떤 면에서는 심각한 문제"라며 "그래서 AI 책임법이 필요한 것"이라고 강조했다.

황 의원이 대표 발의한 AI책임법은 AI 개발과 이용에 관한 기본 원칙을 정하는 내용을 담았다. 또한 AI에 대한 국가와 사업자의 책무, 이용자의 권리를 규정하며 고위험 AI로부터 이용자를 보호하기 위한 조정절차 등을 규정했다. 이를 통해 안전하고 신뢰할 수 있는 AI 기술·정책의 제도적 기반을 마련하겠다는 취지다.

이 법안은 '고위험 AI'라는 개념을 처음 규정한 것이 특징이다. 이는 생명, 신체 안전, 기본권의 보호에 중대한 영향을 미치는 AI를 뜻한다. 구체적으로 △생체인식 △교통, 수도 등 주요 사회기반시설 △채용 등 인사평가 업무 △응급서비스, 대출 신용평가 등 필수 공공 민간 서비스 △수사 등 국가기관의 권한 행사 △이민 등 출입국 관리 등에 사용되는 AI다.

황 의원 법안의 또 다른 특징 중 하나는 AI 관련 분쟁조정위원회를 설치하는 것이다. AI가 모든 분야에서 다양한 형태로 되면 분쟁이 어디서 어떤 방식으로 발생할지 예측하기 어렵기 때문이다. AI 분쟁만 다루는 별도 위원회가 필요하다고 보는 이유다. 황 의원은 "AI가 학습하는 과정에서 차별과 혐오를 배워 인권 문제를 야기할 수도 있다. 혹은 AI가 수많은 정보에 접근하면서 개인정보 침해나 보안 문제가 생길 수 있다"며 "이런 분쟁을 별도로, 또 전문적으로 다룰 필요가 있다"고 했다.

산업계 일각에서는 AI가 이제 막 발전 단계인 만큼 과도한 규제가 기술 혁신을 가로막을 수 있다는 우려를 내놓는다. 황 의원 역시 "너무 규제를 강화하는 건 바람직하지 않다고 본다"며 "민간의 자유로운 개발과 산업 진흥을 뒷받침하되 고위험 분야에 대해서만 일부 제한해야 한다"고 했다.

황 의원의 법안은 고위험 AI를 만드는 사업자가 반드시 준수해야 하는 사항도 규정했다. 법안에 따르면 사업자는 국민 생명 등을 위협할 중대한 위험이 있는지 평가해야 하며 고위험 AI 개발 단계 별로 문서를 전자화해야 한다. 또한 이용자에게 서비스 관련 정보를 제공하고 개발 과정에서 사이버 보안을 강화해야 한다는 내용도 포함됐다.

황 의원은 "최근 유럽에서 표결한 AI 법안에는 인간의 잠재의식에 영향을 미치는 기술이 탑재된 AI 시스템은 시장출시, 서비스제공, 사용 등을 금지하고 있다"며 "우리도 향후에는 AI 유형을 위험도에 따라 분류해 위험을 관리하고 예방할 필요가 있다"고 덧붙였다.

차현아 기자 chacha@mt.co.kr