일은 빠른데 사고뭉치 신입사원…“사람처럼 대하지 마세요” [Books]

AI와 효과적으로 일하려면
작업 명령하는 능력이 중요
사람처럼 로봇 대하지 말고
편향된 데이터 분별해가며
결과 믿어도 될지 판단해야

AI에게 업무지시하는 인간. [사진 출처 = 챗GPT 달리]

미국 인디애나주 포터카운티. 감정평가 컴퓨터 시스템에 한 공무원이 접속해 밸퍼레이조시의 주택 가격 데이터 일부를 수정했다. 수정된 데이터는 입력된 부동산 가격에 기반해 평가 가격을 자동으로 변경하는 표준 알고리즘에 반영됐다. 당시 정확히 어떤 경위인지는 밝혀지지 않았지만 기존에 12만달러였던 주택의 평가 가격은 한순간 4억달러로 바뀌었고, 오류를 알아차리기 전까지 시는 이 잘못된 데이터를 기반으로 부동산 세수를 계산했다.

결국 어마어마한 금액의 세금 청구서가 발행됐다. 시민들의 정정 요구로 오류가 밝혀진 뒤에는 이미 18개 과세 지구가 예산을 가져다 쓰기 시작한 뒤였다. 결국 밸퍼레이조시는 도로 재포장, 보도 수리 같은 기반 시설 복구 사업을 전면 취소해가면서 미리 가져다 쓴 300만달러 이상의 예산을 반납해야 했다. 이 같은 데이터를 생성하는 것은 컴퓨터지만 사람들은 작업 과정에서 데이터를 수시로 건드린다. 알고리즘에 오류가 없어도 데이터 수집이나 취급 방식에 오류가 생기면 컴퓨터 모델은 무용지물이 될 수도 있다는 뜻이다.

신간 ‘AI 나를 위해 일하게 하라’는 AI 같은 디지털 동료와 효과적으로 협업할 수 있는 방법을 담은 책이다. 세달 닐리 하버드대 경영대학원 교수와 폴 레오나르디 산타바버라 캘리포니아대 기술경영학과 교수 겸 구글·마이크로소프트(MS) 기술 자문위원이 디지털 전환 시대에 새로운 방식으로 생각하고 행동하는 데 도움이 될 만한 디지털 지식을 자세히 소개한다. AI와 기계학습 알고리즘의 작동 방식부터 데이터 셋을 생성하고 분석하는 방법, AI의 데이터 편향을 피하는 방법, 정보를 보호하는 방법에 이르기까지 실무에 바로 활용할 수 있는 다양한 팁을 한 권에 담았다.

책은 AI와 일할 때는 사람들과 일할 때와는 완전히 다른 사고 방식을 취해야 한다고 강조한다. 이른바 ‘디지털 마인드셋’이다. 예컨대 사람들끼리 일할 때는 직책을 통해 업무 분장을 하고, 상호 간 신뢰를 바탕으로 각자가 자기 역할을 해주길 기대한다. 반면 AI에게는 업무 분장이나 정중함, 신뢰 따위는 중요치 않다. 그보다는 AI에 어떤 작업을 어떻게 맡길지가 더 중요하다. 또 AI가 내놓는 결과를 얼마나 신뢰할 수 있는지가 명확해야 하고, 어떤 데이터 보정 작업이 필요한지도 충분히 알고 있어야 한다.

쉽게 말해 디지털 마인드셋은 컴퓨터한테 수행 작업을 명확하고 구체적으로 지시할 수 있는 능력을 말한다. 저자들은 “점점 인간처럼 행동하는 로봇을 보면서 우리는 로봇을 사람으로 대하려는 성향이 있지만 문제는 바로 거기에서 시작한다”며 “디지털 마인드셋을 키운다는 것은 AI가 사람이 아니라는 사실을 알아야 한다는 뜻이다. 즉, 컴퓨터가 도출한 결과를 언제 신뢰해도 좋고 언제 신뢰하면 안 되는지 등을 배우는 것을 의미한다”고 설명했다.

기술이 발전하면서 AI의 업무 범위도 전문 영역까지 빠르게 확대되고 있지만, 저자들은 AI 만능주의에 빠져서는 안 된다고 경고한다. AI가 내놓는 결과의 정확도는 AI가 수행하는 작업의 종류에 따라 편차가 크다. 또 같은 작업이라 할지라도 데이터의 종류와 양에도 영향을 많이 받는다. 만약 데이터 자체에 편향이 있다면 이를 학습한 AI는 당연히 편향성을 띨 수밖에 없다. 얼굴 인식 AI의 성·인종 편향이 대표적이다. 밝은 피부색의 남성 얼굴을 인식하는 정확도가 100%라고 가정하면, 어두운 피부색의 여성 얼굴을 인식하는 정확도는 65~80% 수준밖에 되지 않는다. 원인은 백인 남성 위주의 학습 데이터였다.

결국 AI 시대 업무 능력 차이는 컴퓨터를 얼마나 잘 이해하고 적절하게 활용하는지에 달려 있다고 해도 과언이 아닐 것이다. “디지털 마인드셋을 가진 사람의 진짜 힘은 디지털 미래에 설 자리가 없을 것이라고 두려워할 필요가 없다는 것이다.”