전문가들은 "인공지능은 인류의 지속적 성장과 행복을 위한 도구"라고 말합니다. 하지만 동시에 AI의 위험성을 경고하기도 하죠. 즉, AI는 매우 위험하지만 가질 수밖에 없는 것입니다. AI로부터 얻게 될 혜택이 위험을 능가하기 때문이죠. AI는 기후 변화 및 산업 전반의 혁신을 위해 거의 모든 분야의 기술적 돌파구가 될 수 있습니다. 하지만 그의 위험성을 일찍이 인지하고 분석하여 지속적으로 그 방향을 제시하고 조정하며, AI를 이롭게 운영할 책임은 온전히 인간에게 있습니다. 그렇다면, 전문가들이 말하는 AI 기술의 잠재적 위험성은 무엇일까요?

프라이버시 침해

AI의 위험성으로 가장 많이 거론되는 이슈 중 하나가 바로 데이터 프라이버시 침해입니다. AI는 데이터 없이 돌아가지 못하며, 많은 양의 데이터를 필요로 합니다. 이 때문에 개인이나 기업이 공개하거나 공유하고 싶지 않은 데이터도 AI가 무차별적으로 정보를 수집할 가능성이 존재합니다. 또 AI가 빅데이터나 알고리즘으로 개인을 식별할 수도 있고, AI 서비스가 해킹될 경우에는 개인정보가 유출하는 문제도 발생할 수 있습니다. 이 같은 문제로 전문가들은 AI의 보안 중심 설계를 강조하고 있습니다.

자율 주행 차량 충돌

AI가 운전하는 자율 주행 자동차에 대한 가장 큰 우려는 바로 충돌 문제입니다. 2020년 6월, 자율 주행 모드로 주행하던 테슬라 자동차가 고속도로에 누워 있던 충돌하는 일이 생기기도 했는데요. 최근엔 길 위의 어린이 모형을 인식하지 못하고 충돌하고 지나간 자율 주행 모드의 테슬라 차량이 유튜브에 등장하기도 했습니다. 이 같은 이유로 아직까지 자율 주행 자동차는 널리 상용되지 못하고 있습니다. 많은 자동차 기업들이 여전히 자율 주행의 충돌 회피 기술을 개발하고 있는데요. 전문가들은 아직 가야 할 길이 멀다고 평합니다.

특정 직무의 소멸

AI 로봇이 산업 현장을 넘어 일상까지 스며드는 가운데, 점차 인간이 행하던 노동을 대체하고 있습니다. 커피를 내리는 로봇, 치킨을 튀기는 로봇 등은 현재 비용이 가격이 높아 대중화되지는 못하지만, 인간의 노동력보다 로봇 가격이 저렴해지는 날 이 인력은 로봇으로 대체될 것입니다. 2020년 마이크로소프트는 뉴스 콘텐츠 편집을 AI로 대체하면서 50명의 기자들을 해고하기도 했는데요. 이에 대해서는 의견이 분분합니다. 인류의 일자리는 계속해서 사라져 왔고, 그만큼 새로운 일자리가 생겨나리라는 것이죠. AI로 인해 오히려 일자리가 늘 것이라는 주장도 있습니다.

차별과 편견 강화

AI는 편견과 불공정한 의사를 결정할 수도 있고, 불평등을 심화할 수도 있습니다. 기존의 데이터로 학습하는 AI 시스템은 지금까지 행해온 관습과 편견을 따를 가능성이 높습니다. 예를 들어 AI 의료 시스템이 통증 치료를 상대적으로 덜 받아 온 저소득층에게 앞으로도 계속 더 낮은 용량의 진통제를 제안하거나, 수익성이 낮다고 간주되는 환자에게 더 적은 자원을 할당할 가능성이 높습니다.

자율 무기

방산업계에도 AI가 도입되고 있는 가운데, 우리나라를 비롯해 미국, 러시아, 중국 등은 대규모 편대로 비행하는 드론을 개발하고 있습니다. AI 기반의 완전 자율 무기가 탄생하고, 그에 대량 살상 무기가 탑재되는 날 이는 인류에게 핵무기만큼 파괴적인 위험이 될 수 있습니다. 국제 규약으로 이를 금지하더라도, 자율적으로 움직이는 AI가 이를 온전히 지키리라는 보장이 없기 때문이죠.

사회적 조종

우리에게 익숙한 SNS는 이미 AI에 기반한 알고리즘으로 돌아가고 있습니다. AI는 예측 분석과 프로그래밍을 통해 사용자들의 정체성, 선호도, 성향을 밝혀내고 '어떤 사용자'에게 '무엇을 보여줄지'를 결정합니다. 사용자들을 붙잡아둘 수 있는 가장 효과적인 내용을 화면에 띄우죠. 이에 따라 AI는 특정 사용자들을 대상으로 이들에게 취약하게 작용하는 루머를 유포하고 프로파간다를 선전하는 데 매우 효과적으로 사용될 수 있습니다.