[김병필의 인공지능 개척시대] 세상을 보는 인공지능

컴퓨터가 고성능 '눈' 가진 시대
차별적 법집행·감시사회 우려
'고위험' 분야 활용, 신중해야

김병필 KAIST 기술경영학부 교수

고생물학계에서 ‘캄브리아기 대폭발’이라 불리는 사건이 있다. 화석 기록에 따르면 약 5억4000만 년 전 갑작스럽게 매우 다양한 종(種)이 출현했다고 한다. 그 원인을 두고 의견이 분분한 듯싶다. 한 가지 흥미로운 주장은 그 무렵 ‘눈’이 생겨나서 진화에 핵심적 역할을 했다는 것이다. 이전까지는 세상을 보지 못해 어림짐작으로 먹이를 찾아다니던 포식자들은, 눈이 생겨나자 손쉽게 먹이를 찾을 수 있게 되었다. 피식자들도 더 효과적으로 도망치기 위해 여러 방법을 찾아야 했을 것이다. 마치 어두운 방에서 갑자기 전등 스위치를 켠 것과 마찬가지로 암흑 세상에 살던 생물들에게 빛이 주어지자 종의 다양성이 폭발적으로 증가했다는 설명이다.

인공지능 기술은 컴퓨터에 눈을 달아주고 있다. 최근 인공지능 분야에서 가장 눈부시게 발전한 분야가 바로 ‘인공지능 비전’이다. 예전부터 디지털카메라로 영상을 찍고 컴퓨터로 재생해 왔다. 하지만 이전까지는 컴퓨터가 그 영상에 무엇이 담겨 있는지 알지 못했다. 사진을 보고 어떤 사물인지 인식하는 인공지능이 가능해진 것은 최근 10년 동안의 일이다. 2011년에만 하더라도 사물 인식 인공지능의 오류율은 26%나 되었다. 실생활에 활용하기 어려운 수준이다. 당시만 하더라도 컴퓨터로 사물을 인식하는 일은 불가능한 일처럼 여겨졌다.

사정이 크게 달라졌다. 인공신경망 기술이 비약적으로 발전한 덕분이다. 이제 사진에서 사물을 인식하는 일은 인공지능이 인간보다 더 잘해낸다. 고화질 동영상에서 실시간으로 누가, 어디서, 무엇을, 어떻게 하고 있는지 쉽게 식별할 수 있다. 바야흐로 컴퓨터가 제대로 된 눈을 가진 시대가 도래한 것이다.

인공지능 비전 기술은 다양하게 활용될 수 있다. 자율 주행차나 지능형 로봇이 대표적 예이지만, 이제 첫걸음을 내딛는 것이다. 앞으로 우리가 사용하는 모든 가전제품에 ‘눈’이 달릴 수 있다. 우리가 생활하는 모든 공간에서 ‘눈’이 달린 인공지능이 우리를 볼 수 있다. 아직까지는 상상하기 어려운 창의적인 응용 분야가 생겨날 수도 있다. 눈의 발생 덕분에 생명 다양성이 폭발적으로 증가했던 것과 마찬가지다. 이렇게 보면 우리는 참으로 흥미로운 시대를 살아가는 행운을 누리고 있다.

인공지능 개척시대 2/22

반대로 우려의 목소리도 크다. 2020년 1월 미국 디트로이트에서는 얼굴 인식 기술로 인해 무고한 흑인이 체포되는 일이 발생했다. 상점의 CCTV에 찍은 영상에 얼굴 인식 기술을 적용하였는데 엉뚱한 사람이 인식된 결과였다. 억울하게 체포된 피의자는 30시간 동안 구금되어 있었다. 뒤이어 IBM, 아마존, 마이크로소프트 사는 자사의 얼굴 인식 기술을 경찰에는 제공하지 않겠다고 발표했다. 특히 얼굴 인식 기술이 아직 흑인에 대해 정확도가 높지 못하기 때문이다.

또 다른 문제는 인공지능 비전 기술로 인해 ‘감시사회’가 도래할 위험이 있다는 점이다. 컴퓨터에 달린 눈을 이용하면 누가 어디서 무엇을 하고 있는지 쉽게 감시할 수 있다. 2018년 중국에서는 6만 명이 모인 콘서트장에서 얼굴 인식 기술을 이용하여 수배 중이던 용의자를 찾아내었다. 중국 경찰은 마약 밀매단을 적발하기 위해 카메라가 달린 안경을 활용한다고도 한다. 뿐만 아니라 직장에서 직원을 감시하기 위한 목적으로 이용될 수 있다. 물론 산업재해를 예방하고 안전 수준을 높이기 위해 도입될 수도 있지만, 직원의 근무 태도를 파악하는 데 잘못 사용될 우려도 있다.

이처럼 인공지능 비전 기술은 양날의 검이다. 캄브리아기 대폭발에 비유될 정도로 새로운 활용 분야가 무궁무진하게 생겨날 수도 있다. 하지만 차별적 법 집행을 초래하고 감시 사회를 만드는데 오용될 여지도 크다. 그렇다면 어디서 균형점을 찾아야 할까?

유럽연합이 2020년 3월 발표한 ‘인공지능 발전과 신뢰를 위한 백서’는 인공지능 기술이 “개인의 자유와 권리에 중대한 위험을 초래할 것인지”를 기준으로 판단하자고 한다. 사회가 수용할 수 없을 정도로 높은 위험이 초래된다면 인공지능 기술 활용에 각별한 주의를 기울여야 한다. 사안에 따라서는 인공지능 도입을 미룰 수도 있겠다. 반대로 잠재적 위험은 크지 않지만, 편익이 크기 때문에 인공지능 활용을 적극 장려해야 할 분야도 있을 것이다. 그러니 어떤 활용 분야가 고위험인지 판단하는 작업부터 시작해야 한다. 공동체가 함께 머리를 맞대고 고민할 일이다.

김병필 KAIST 기술경영학부 교수