이상욱 유네스코 세계과학기술윤리위원회 부위원장 “공생 위해 기술적 특징 이해 중요… AI는 사람 아닌 존재 받아들여야” [심층기획-AI 앞에 선 민주주의]

“과도한 기대·환상 갖고 활용 땐 민주주의 근간 흔들 수 있어 유의”

이상욱 유네스코 세계과학기술윤리위원회(COMEST) 부위원장(한양대 철학과·인공지능학과 교수)은 2017년부터 COMEST 위원으로 활동 중이다. COMEST는 급속한 과학기술의 발전이 사회에 미치는 영향에 대한 윤리적이고 문화적 고찰을 촉진하기 위해 1998년 설립된 자문기구다. 이 부위원장을 지난 7일 서울 성동구 한양대 연구실에서 만나 인공지능(AI)에 관한 철학적 고민을 물었다.

이상욱 유네스코 세계과학기술윤리위원회 부위원장이 지난 7일 서울 성동구 한양대 연구실에서 세계일보와 만나 인공지능(AI)의 철학적 논의에 대해 이야기하고 있다. 이재문 기자

―AI의 윤리적 쟁점은 무엇인가.

“민주주의는 사회 구성원들의 성찰적 논의 과정을 통해 사회가 운영되는 방식을 결정하는 것인데 거기에는 AI를 쓰기가 어렵다. 그 결정 과정이 암흑상자에 놓여 있기 때문이다. 논의 과정에서 소수의 의견도 존중받고 공존해야 하는데 이때 사람들은 AI를 사용하고 싶은 유혹에 빠지기 쉽다. 현재 우리 사회는 너무 견해 차이가 크고, 양극화돼 있기 때문이다. 불편·부당함의 신화가 있는 AI를 원하는데 이 지점이 더 위험할 수 있다.”

―민주주의에 위협이 되는 이유는.

“여러 정보가 주어졌을 때 현명한 판단을 할 수 있다는 것이 민주주의의 기본 원칙인데, 이 원칙이 제대로 작동하기 어려운 시대가 되고 있다. 내가 하지 않은 이야기와 말을 통해 내 얼굴을 따라하는 가짜를 감쪽같이 만들고, 그걸 소셜미디어를 활용해 대량 유포할 수 있다. 진짜와 가짜를 판별하기 어렵게 됐다. 결국 민주주의적 논의 과정이 굉장히 파편화되고 양극화되기 쉽다.”

―불평등은 어떻게 해소해야 하나.

“AI 개발 과정에서 기업들이 데이터를 크롤링(수집)해서 사용하면서 개인에게 비용을 제대로 지불하지 않았다. 국제회의를 가보면 저개발국이 이 지점에서 분노가 크다. 약자들은 글로벌 기업에 대항해 싸우기가 어렵다. 개인정보를 기존 자본주의 상품 처리 방식으로 처리해서는 문제가 많다. 해법으로는 공공데이터를 늘리는 것이 있다. 공공데이터를 확보하고, 사람들은 거기에 자기 정보를 기증하고 이익을 얻는 구조를 만드는 게 필요하다.”

―AI와 공생하는 방법은 무엇인가.

“AI의 기술적 특징을 정확히 이해하는 게 필요하다. 코딩을 배우라는 의미가 아니다. AI가 내놓는 결과물은 대단하지만 기술적으로 이걸 이해하고 내놓는 것이 아니다. 이걸 우리가 받아들여야 하는데 쉽지 않다. 미국에서 인사관리에 AI를 도입했을 때 처음에는 반응이 좋았다. 그런데 해고 과정에서 무자비하고 오전과 오후가 다른 모습을 보이면서 사람들이 정신적인 충격을 많이 받았다. 어떤 감정이나 의식적 경험을 하지 않는 것이다. AI는 사람이 아니라는 걸 받아들이는 게 가장 중요하다.“

―AI 활용 시 주의할 점은 무엇인가.

“AI를 민주적 방식으로 활용하면 민주주의를 더 튼튼하게 만들 수 있지만, 과도한 기대나 환상을 가지면 민주주의의 근간을 흔들 수 있다. AI는 민주주의의 새로운 도전이다. 사람들이 결정을 AI에게 대신 맡기고 싶은 유혹에 빠질 수 있다. 지금 정치가 사람들의 신뢰와 지지를 얻지 못하고 있기 때문에 그런 경향은 가속화할 수 있다. 그런데 그것은 인간의 민주주의를 포기하자는 주장과 다름없다. 이 점을 늘 유의해야 한다.”

※본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

조병욱 기자 brightw@segye.com