[사이언스프리즘] 알고리즘을 보는 인간의 시선

오류 가능성 인정하는 겸손
인간·AI 모두에 필수 덕목
불완전한 두 존재 협업 통해
의사결정의 질 더 높여가야

요즘 인공지능, 알고리즘이란 단어를 마치 전가의 보도처럼 활용하는 경향이 눈에 띈다. 수만장의 CT(컴퓨터단층촬영)나 MRI(자기공명영상장치)를 학습하고도 질병 예측에 있어서 100% 정확한 인공지능은 아직 없다. 다만, 맥락에 따라 숙련된 전문의가 판정하는 것보다 더 정확한 경향을 보인다는 점에서 대단하다는 것이다. 그럼에도 불구하고 인공지능이 판정하는 것을 고민 없이 그대로 수용해서 질병이 없는 거로 판정했다가 나중에 틀렸다고 밝혀진다면? 환자는 적당한 치료 시기를 놓치고 심지어 생명을 잃게 될 수도 있다. 있는 질병을 없다고 판정하는 ‘오류음성(False Negative)’의 결과는 사람의 목숨을 좌우할 정도로 치명적일 수 있다. 그래서 인공지능이 도출한 결과를 인간이 재평가하고 오류 가능성을 최소화해야 한다는 주장이 나온다.

이렇게 오류 가능성을 인정하는 겸손이야말로 인간과 기계 모두가 갖춰야 할 덕목이 되었다. ‘안녕, 인간’이라는 헤나 프라이의 책을 보면 연방공무원의 실수 하나로 무려 10여년간 미국에 입국하지 못한 ‘라히나 이브라힘’이라는 건축가의 사례가 나온다. 네 아이의 엄마인 그녀가 자신의 삶의 터전인 미국에 들어가지 못한 오류는 사람이 저지른 오류이기도 하지만, 비슷한 이름을 가진 단체를 혼동해 입국금지 대상으로 판정한 컴퓨터 시스템의 오류까지 겹쳤기에 가능했다. 인간과 컴퓨터가 협업해서 한 사람의 인생에 지대한 타격을 준 것이다.

김장현 성균관대 교수 인간컴퓨터상호작용학

알고리즘에 대한 흔한 오인은 바로 ‘알고리즘은 공정하다’는 것이다. 알고리즘의 설계가 특정한 규칙에 따른 1+1=2처럼 되어 있는 경우는 점점 드물어지고 있다. 요즘 사용되는 기법에서는 ‘레이어’라 불리는 잠재변수들이 많이 사용되고 있어서 인과관계를 명확히 도출하기는 어렵고, 연구자들은 어느 알고리즘이 도출한 답이 얼마나 더 효율적인 해결책을 제공하느냐를 비교평가하는 데 집중하고 있다. 게다가 알고리즘을 훈련시키는 데이터세트가 얼마나 심각하게 편중되어 있고 극단적 샘플들로 구성되어 있느냐를 주시해야 한다.

생각 없이 내뱉는 온라인커뮤니티의 악성 댓글을 주로 학습한 알고리즘은 온갖 증오와 편견을 분류치, 예측치로 제시하게 된다. 물론 악성 댓글을 판별하는 알고리즘이라면 이런 부분이 유용할 수 있다. 따라서 ‘알고리즘은 공정하다’는 말이 의미를 갖는 경우는 그것이 대단히 신중하게 채집된 데이터를 기반으로 학습하고 인과관계를 설명하는 데 필요한 최소한의 항목을 반영한 경우로 제한된다. 이래서 떠오르는 분야가 인간과 인공지능의 협업과 소통을 강조하는 휴먼-AI인터랙션이다. 서로의 약점을 이해하는 인간과 AI가 서로의 문제점을 들여다보고 오류의 가능성을 지적해서 점점 더 의사결정의 질을 높여가는 것이다.

그런데 인간은 알고리즘 자체보다 그것을 감싸고 있는 인터페이스, 그러니까 검색창의 모양과 색깔, 챗봇의 공손함, 웹사이트의 구조, 중요도의 표식 등에 더 영향을 받는 경향이 있다. 알고리즘은 인간사회의 가치관이 반영된 단어의 실질적 차이를 알지 못하므로 단어의 상대적 위치(벡터)를 바탕으로 의미를 추론하는 단계에 머무르고 있다. 완벽하지 않은 두 존재가 서로를 검토하고 검증하고 조언하고 향상시킨다면, 우리는 인간의 존엄성도 배려하고 의사결정의 효율성도 높일 수 있는 최적해에 도달할 수 있을 것이다.

‘알고리즘은 공정하다’는 명제가 참이 되려면 인공지능을 잘 모르는 사람에게도 대체로 어떤 과정을 거쳐 그러한 결과가 도출되었는지 설명할 수 있는, ‘설명가능한 인공지능(Explainable AI)’의 필요성이 제기된다. 그런데 현실적으로는 딥러닝 등 갈수록 복잡해지는 인공지능을 직관적으로 사람에게 이해시키는 일이 알고리즘 자체를 개발하는 것 이상으로 어려워 보인다. 우리는 새로운 알고리즘과 기술을 공부하고, 인공지능은 인간을 더욱 깊숙이 이해해야 할 때가 왔다. 사람이 만든 피조물에 불과한 알고리즘과 협업을 해야 한다는 게 우스꽝스럽게 들릴 수 있지만 우리는 이미 주방에서 칼, 도마, 주전자, 전자레인지, 그리고 오븐과 협업해 왔다는 걸 잊지 말아야 한다.

김장현 성균관대 교수 인간컴퓨터상호작용학