인종차별, 성차별… '편견 없는 AI'는 인간의 허상이었다 [IBM 예언 8년 후②]

더스쿠프 설특집 
2018년 IBM이 예고한 
5대 혁신 기술 현주소 2편 
5년 안에 해결된다던 AI 편향성
지금까지도 AI 한계점으로 지목
인간이 만든 데이터에 편향 가득
학습방식 근본적으로 바꿔야 해

현대 인공지능은 인간의 데이터를 학습해 성장했다. 인공지능에 편향성이 존재할 수밖에 없는 이유다.[사진 | 게티이미지뱅크]

# 우리는 '8년 전 IBM이 조명했던 5가지 기술의 현주소' 1편에서 2가지(크립토 앵커ㆍAI 로봇 현미경)의 현주소를 짚어봤다. 결과는 초라했다. 예상을 뛰어넘은 효율적인 기술에 밀려 시장의 선택을 받지 못하고 자취를 감췄다.

#그렇다면 남은 3개 기술 중 하나였던 '편향 없는 인공지능(AI)'은 어떨까. 2026년의 AI는 '편견과 편향'이란 한계를 넘어서는 데 성공했을까. 2편에서 답을 찾아보자.

지금으로부터 8년 전인 2018년, 당시 IT 산업을 선도하던 글로벌 기업 IBM은 '5년 안에 미래를 바꿔 놓을 5가지 기술'을 뜻하는 '5 in 5' 보고서를 세상에 공개했다. 해당 기술들이 인류가 직면한 난제를 해결하고, 우리의 삶을 획기적으로 개선할 것이라는 믿음에서였다.

그럼 이 기술들의 현주소는 어떨까. 하드웨어 영역 기술들의 성적표는 기대치를 밑돈다. 소금 알갱이보다 작은 크기와 저렴한 가격을 자랑하던 위변조 방지 기술 '크립토 앵커'는 바코드와 QR코드의 '가성비' 장벽을 넘지 못한 채 시장에서 사장됐다.

바다를 떠다니며 오염을 감시하겠다던 'AI 로봇 현미경' 역시 드론과 인공위성이라는 더 넓은 시야를 가진 경쟁자에게 밀려 상용화에 실패했다. 혁신적인 아이디어였음은 분명했지만, '효율성'이란 시장의 엄격한 기준을 통과하지 못했다.

■ 기술③ 편향 없는 AI=그렇다면 소프트웨어 영역은 어떨까. 2018년 IBM은 '편향 없는(unbiased) AI'도 향후 5년 내 세상을 바꿀 기술로 포함시켰다. 여기서 말하는 편향성이란 AI가 갖는 일종의 선입견이다. AI는 방대한 양의 데이터를 학습하는 과정에서 부적절하거나 왜곡된 정보까지 습득하는데, 이 정보들이 AI의 판단 기준에 영향을 미치면서 편향성이 나타난다.

[자료 | 포춘비즈니스인사이트, 참고 | 2032년은 전망치, 사진 | 뉴시스]

IBM이 굳이 AI의 특징 중 하나인 편향성을 콕 집어 다룬 건, '편향성을 가진 AI'가 산업에 미칠 파급력을 우려했기 때문으로 풀이된다. 일례로, 2018년 아마존(Amazon)의 AI 채용 시스템이 차별적인 채용 결과를 내놓으며 논란에 휩싸인 일이 있었다. 당시 아마존의 AI는 여성 지원자만 골라 점수를 깎는 식으로 여성 채용을 배제한 것으로 알려졌다.

여기엔 아마존이 AI에 학습시킨 과거 10년 치 채용 정보가 영향을 미쳤다. 지난 10년간 대다수의 아마존 임직원이 남성으로 구성돼 있었던 걸 보고 '남성 지원자가 더 우수하다'는 잘못된 결론을 스스로 도출한 거다.

그렇다면 2026년의 AI는 그때보다 더 공정해졌을까. 추론력이나 문제 해결 능력은 비약적으로 발전했지만, 편향성 논란은 여전하다. 글로벌 AI 싱크탱크 '올어바웃AI'는 지난해 10월 발표한 보고서 '충격적인 AI 편향 통계 2026: 대형언어모델(LLM)이 그 어느 때보다 차별적인 이유는 무엇일까요?'에 따르면, 편향 테스트를 진행하는 기업의 77.0%는 '여전히 편향을 발견하고 있다'고 답했다.

대표적인 편향성으론 AI가 특정 단어를 의도적으로 적게 쓰는 현상이 꼽힌다. 보고서는 생성형 AI가 '흑인'과 관련한 단어를 사용하는 비율이 실제 사람보다 45.3% 적었고, 여성을 특정하는 단어는 24.5% 적었다고 밝혔다. AI가 학습 과정에서 인종차별ㆍ성차별을 피하기 위해 해당 집단 자체를 언급하지 않는 이른바 '지우개 편향'을 가동한 거다.

좀처럼 AI의 편향성 문제가 해결되지 않는 원인은 AI가 학습한 데이터에 있을 가능성이 적지 않다. 이 데이터 자체가 어느 한쪽의 입장을 가진 인간이 축적해 온 거대한 '편향의 역사'이기 때문이다. 따라서 학습방식을 근본적으로 뜯어고치지 않는 한, AI의 편향성은 그림자처럼 따라붙을 수밖에 없다는 게 업계의 공통된 견해다.

김대식 카이스트(전기전자공학) 교수가 2022년 8월 tvN 방송 '책 읽어주는 나의 서재'에서 한 말을 들어보자. "인터넷에 올라온 데이터는 확률적으로 선진국이나 부유한 나라의 소비자가 만들었을 가능성이 높기 때문에 이미 편파성이 포함돼 있다. 결국 AI가 가진 세계관은 중립적이거나 객관적인 게 아니라, 인간의 편향된 시각이 그대로 투영된 결과물이다."

[일러스트 | 게티이미지뱅크]

지금까지 살펴본 3가지 기술의 성적표는 냉정히 말해 '낙제점'이다. '초소형 컴퓨터'와 'AI 로봇 현미경'은 경제성이 떨어져 시장의 선택을 받지 못했고, '편향 없는 AI'는 여전히 기술적 한계에 갇혀 있었다.

그렇다면 IBM의 8년 전 예언은 모조리 빗나간 걸까. 그렇진 않다. 우리에겐 확인해야 할 두 가지 기술이 더 남았다. 바로 '꿈의 컴퓨터'라 불리는 양자컴퓨터와 보이지 않는 방패 '격자 암호화'다. 남은 두 기술은 과연 8년의 세월 속에서 어떻게 변했을까. 8년 전 IBM이 조명했던 5가지 기술의 현주소 3편에서 자세히 다뤄보자.

이혁기 더스쿠프 기자
lhk@thescoop.co.kr