[BOOKS] “하나부터 열까지 정치적이다”…AI 편향성에 대한 경고

사진 셔터스톡

AI의 정치학
인공지능은 왜 정치적일 수밖에 없는가
마크 코켈버그│배현석 옮김│생각이음│1만8800원│320쪽│7월 25일 발행

2020년 1월 미국 미시간주 디트로이트에 사는 흑인 로버트 윌리엄스가 경찰에 긴급 체포됐다. 흑인 도둑이 디트로이트 시내의 한 상점에서 물건을 훔쳐 달아났다는 신고를 받고 출동한 경찰은 윌리엄스에게 어떤 이유도 설명하지 않은 채 아내와 딸들이 보는 가운데 그를 끌고 갔다. 윌리엄스는 30시간을 구치소에서 보냈지만, 최종적으로 그는 아무런 죄도 짓지 않은 것으로 드러났다. 윌리엄스가 체포된 건 안면 인식 알고리즘의 오류 때문이었다. 시스템이 보안 영상 속 진짜 범인의 사진을 윌리엄스의 신분증 얼굴과 잘못 일치시킨 것이다.

같은 해 12월, 뉴저지주 패터슨의 슈퍼마켓에서 일하던 흑인 니지어 파크스도 비슷한 일을 겪었다. 그는 한 여관 내 가게에서 사탕을 훔쳤다는 혐의로 경찰에 체포돼 구치소에서 10일간 보냈다. 안면 인식 인공지능(AI)이 범인이 건넨 가짜 운전면허증 속 사진을 파크스로 잘못 인식하며 벌어진 일이다. 그는 과거 마약 판매 혐의로 2회 체포된 전력이 있어 중형을 선고받을 가능성도 있었다. 확실한 알리바이가 있었던 그는 최종 무혐의 처리됐지만, 자신을 수감한 경찰과 시 당국을 허위 체포․시민권 위반 혐의로 고소했다.

이 사건들을 계기로 안면 인식 AI 기술이 인종 차별성을 가진다는 논란이 일었다. 당시 뉴욕타임스(NYT)는 “(2020년 한 해 동안) 안면 인식 AI의 오류로 엉뚱한 사람을 체포한 사례가 최소 세 건이며 공교롭게도 피해자는 모두 흑인”이라며 “2019년 100개 이상의 안면 인식 알고리즘에 대해 전국적인 연구를 시행한 결과, 흑인과 아시아인 얼굴을 제대로 인식하지 못했다”고 전했다.

벨기에 출신 기술 철학자인 저자는 AI와 자유, 인종차별, 노예 상태, 정의, 불평등, 민주주의, 권력, 기후변화, 동물권 등 오늘날 정치적으로 쟁점이 되는 사회문제를 조명했다. 그는 책에서 윌리엄스 사건을 언급하며 머신러닝(기계학습) 방식의 AI가 사용되는 안면 인식 시스템은 결함이 있는 동시에 편향됐을 가능성이 크다고 분석했다. 백인 남성의 얼굴을 더 정확하게 인식하는 알고리즘 편향성이 구조적인 불평등을 악화하고, 부당한 차별을 초래할 수 있다는 것이다.

AI 기술은 이미 도구적 역할을 넘어 인간의 권한을 강화하기도, 약화하기도 한다. AI로 대표되는 첨단 네트워크 기술은 생산과 분배를 보다 효과적이고 효율적으로 만들지만 동시에 불평등을 심화시킨다. 기술 발전 속도의 차이에 따라 어떤 사람은, 또 어떤 국가는 다른 사람보다 그리고 다른 국가보다 기술과 매체로부터 더 많은 혜택을 받게 되기 때문이다. 기술력이 곧 정치적 권력이 되는 셈이다.

저자는 “AI는 하나부터 열까지 정치적”이라며 “단순히 기술이나 지능의 문제가 아니며, 정치와 권력의 측면에서 중립적이지도 않다”고 강조했다. 그러면서 AI 기술의 편리함만 좇다가 오히려 AI에 권력을 뺏기고 종속될 수 있다고 경고한다.

AI의 위험성을 경고하는 건 저자뿐만이 아니다. 생성 AI 챗GPT의 등장으로 빅테크의 기술 경쟁이 격화하는 가운데 AI의 규제 필요성을 주장하는 경고 메시지가 잇따르고 있다.

‘AI 대부’로 불리는 제프리 힌턴 토론토대 교수는 지난 5월 구글에 사표를 내면서 AI의 위험성을 경고했다. 그가 구글과 결별한 이유는 ‘AI가 인류에게 미칠 나쁜 영향을 자유롭게 경고하기 위해서’였다. 힌턴 교수는 AI로 인한 부정확한 오류의 범람, 일자리 위협 등의 위험성을 지적했다. 그러면서 “최선의 희망은 세계 최고의 과학자들이 기술을 제어하는 방법에 대해 협력하는 것”이라며 AI 연구에 대한 규제의 필요성을 역설했다. 챗GPT 개발사인 오픈AI의 미라 무라티 최고기술책임자(CTO)도 지난 2월 언론 인터뷰에서 “챗GPT는 사실을 꾸며내고, 나쁜 의도를 가진 이용자들에게 악용될 수 있다”며 “챗GPT는 사회에 큰 영향을 미칠 것이며 규제 당국이 서둘러 개입해야 한다”고 했다.

저자는 기술이 항상 해결책이라는 믿음에 의문을 제기해야 한다고 말했다. 그리고 AI 기술의 편리에 대해 비판적이고 성찰적 거리를 확보하라고 당부한다.

관심과 칭찬에 집착하는 욕망의 심리학
인정욕구
에노모토 히로아키│김지선 옮김│피카│1만6800원│252쪽│7월 10일 발행

인간은 타인에게 인정받으며 존재 가치를 확인한다. 문제는 인정욕구를 제대로 충족하지 못하는 데서 발생한다. 잘하고자 하는 노력도, 인정받고 싶은 마음도 과하면 독이 된다. 심리학자인 저자는 인정욕구가 과하거나 부족하면 발생하는 문제 행동과 인정욕구 과잉을 조장하는 현대사회의 세태를 살피고, 인정욕구를 건전하게 채울 방법을 제시한다.

당신이 알아야 할 금리의 모든 것
세상 친절한 금리수업
조경엽, 노영우│미래의창│1만8000원│280쪽│7월 10일 발행

오늘날 경제는 금리를 중심으로 돌아간다고 해도 과언이 아니다. 전 세계가 기축통화국인 미국의 금리 인상 여부에 촉각을 곤두세우고 있다. 그렇다면 경제의 중심을 꿰뚫고 있는 금리란 과연 무엇인가. 경제 전문가인 저자들이 익숙하면서도 어려운 ‘금리’에 관한 얘기를 풀어 썼다. 일상에서 접하는 다양하고 흥미로운 사례와 함께 그래프, 표, 이미지 등을 활용해 이해를 돕는다.

1세대 스타 영어 강사 문단열의 전업일기
인생은 투 트랙
문단열│해냄출판사│1만6800원│284쪽│7월 17일 발행

1세대 스타 영어 강사로 이름을 날렸던 문단열 사다리필름 공동 대표가 창업 바닥에서 겪은 생생한 ‘출혈의 기록’을 담았다. 50대에 업을 바꾼 그는 연이은 사업 실패와 암 진단으로 바닥을 쳤지만, 좌절하지 않고 일어섰다. 그 밑바탕에는 ‘투 트랙 정신력’이 있다. 마음이 무너질 만한 상황에도 지금 해야 하는 일을 실행하는 ‘담담한 마음과 냉정한 머리’를 유지하는 것이다.

오피스 빌런은 어떻게 상대하는가
선 넘는 사람들
조상욱│인북│1만9000원│392쪽│7월 16일 발행

‘빌런 총량의 법칙’이라는 말이 있다. 어떤 기업이든 매우 상대하기 힘든 사람들이 있다. 문제 행동을 오랜 기간 상습적으로 반복해 ‘오피스 빌런’이라고 불리는 이들. 법무법인 율촌 소속 변호사인 저자는 기업 노동변호사로서 20년 이상 다양한 기업을 자문하며 알게 된 경험과 현재의 법 지식을 기반으로 오피스 빌런 문제에 대응할 현실 정보와 방안을 알려준다.

기네스북 등재된 세계 최고령 총무과장
오늘도 일이 즐거운 92세 총무과장
다마키 야스코│박재영 옮김│센시오│1만6800원│244쪽│7월 24일 발행

66년째 한 회사에 출근 중인 세계 최고령 총무과장, 야스코 할머니의 유쾌하고 따뜻한 조언을 소개한다. 야스코 할머니는 책을 통해 어린 상사나 후배와 소통하는 법부터 오늘도 즐겁게 일하는 비결, 언제나 호기심을 유지하는 원동력 그리고 일을 한다는 것의 의미를 들려준다. 몸은 지치고 자신감은 떨어져 오늘도 사직서를 고민하는 모든 직장인에게 권하는 책이다.

미국의 에너지 독립을 위한 50년 미션
게임 체인저(Game Changer)
해럴드 햄│포어프론트 북스│20.49달러│352쪽│8월 1일 발행

미 최대 셰일오일 업체 콘티넨털리소스 해럴드 햄 회장이 기존의 통념에 맞서 싸우고, 그 과정에서 미국을 에너지 강국으로 회복시킨 50년 여정을 소개한다. 일찍이 ‘미국의 에너지 독립’을 주장한 햄 회장의 목소리를 통해 왜 에너지 독립이 미국의 장기적 경제와 국가 안보를 보장하기 위한 가장 중요한 정책인지, 미국이 에너지 위기를 자초한 이유와 극복 과정 등을 생생하게 전달한다.