인공지능의 헛소리…알고리즘 ‘조작’과 ‘조정’ 사이

프랜시스 발로가 1687년 그린 이솝우화의 ‘양치기 소년’ 삽화.

이솝우화 양치기 소년 이야기는 장난처럼 거짓을 반복적으로 하면 결국 신뢰를 잃는다는 교훈을 준다.

인공지능의 다양한 기능에도 불구하고, 문제는 환각(hallucination)이라고도 하고 헛소리(Bullshit)라고도 하는 그럴듯하게 답하는 현상이다. 인간을 모방하여 구현한다는 점에서 당연한 것인지도 모른다. 어쩌면 기계는 인간의 자화상일 수 있다. 인간의 한계와 문제점이 담긴 데이터를 학습한 기계는 학습한 대로 표현하기 때문이다.

사람도 학습한 대로 표현하고 행동한다. 인간도 자율적인 형태로 성장해 간다. 인격적으로 성장한다는 것은 누구라도 신뢰할 수 있는 사람이라는 것이다. 그렇지만 현실은 다르다. 인공지능도 여러 오류 때문에 ‘윤리’를 가르쳐야 한다는 주장이 있다. 정제된 데이터를 사용하거나 클로드처럼 인간의 보편타당한 가치에 기반한 헌법적 구조를 구현하기도 한다. 로봇이 만들어 낸 표현 하나하나가 사람에게 끼치는 영향이 적지 않기 때문이다. 챗봇은 물리적으로 위험한 게 아니다. 사람 마음을 잡아끄는 표현이 의도하지 않게 사람을 위험에 빠트린다. 그래서 인공지능 학습과 서비스 과정에서 사람의 개입은 필수적이다. 서비스 최적화를 위해서 코딩을 하거나 미세조정을 한다. 이 과정을 ‘조정’이라고 볼 수 있지만, ‘조작’이라고 볼 여지도 충분하다.

블랙박스라는 이유로, 기계가 왜 그런 결정을 내리게되었는지 알 수 없다고 한다. 기계나 제품을 만들어 출시하면 그 책임은 기계나 제품을 제공하거나 제작한 사람이 지는 게 상식이다. 왜 인공지능이 가져오는 결과에 대해서는 상식적이지 않은 것일까? 신뢰성과 투명성은 기계가 가지는 것이 아니다. 그것을 만드는 사람이 부담하는 것이다. 안전은 규제를 목적으로 하는 것이 아니다.

매슬로 욕구이론에 따르면, 안전은 기본적 욕구일뿐이다. 규제는 명확한 가이드라인을 제시하는 것이라서, 기업 입장에서 불투명한 상황을 명확하게 해주는 효과가 있다. 기업활동의 예측가능성을 높여준다. 규제가 없는 게 예측가능성을 떨어뜨린다. 무규제를 믿고 진행하던 사업이 갑자기 규제로 힘들어지는 경우를 생각해보자. 그럼에도, 기업은 자율규제를 주장한다. 기업이 자율적일 수 있는 것은 기업을 운영하는 사람이 합리적 의사결정을 할 것으로 기대하기 때문이다. 사람이 자율적 존재라는 점에서 사람이 만든 시스템인 기업도 인공적이기 때문이다. 해당 서비스나 내용을 가장 잘 아는 사업자가 스스로 규제를 할 것이라는 점을 강조한다.

궁금하다. 최근 티몬과 위메프 사태는 자율규제를 안한 것일까, 못해서일까. 쿠팡은 플랫폼 노동자를 착취해왔다고 비판을 받는다. 자사(PB) 상품 우대 알고리즘을 조작했다는 이유로, 공정거래위원회로부터 1400억에 이르는 과징금을 부과받았다. 비윤리적인 문제에 불구하고 많은 사람이 쓴다. 포획(lock-in)된 것이지 쓰는 사람의 좋고 나쁨의 문제는 아니다.

기업이 자율규제를 한다거나, 이에스지(ESG) 경영을 한다고 마케팅처럼 보도자료를 내보낸다. 최근의 디지털 유통플랫폼에서 불거진 비윤리적 관행들은 결국 플랫폼 자율규제를 허용하려는 분위기에 찬물을 끼얹는다. 위메프 사태나 쿠팡의 알고리즘 조작 논란 앞에서 ‘자율규제’ 목소리는 힘을 잃는다. 규제가 커지면 투자가 줄어든다는 보도자료도 문제다. 이익단체인 협회가 들러리를 설 뿐 사업자의 반성은 찾기 어렵다. 양치기 소년 우화를 떠올리는 이유다.

김윤명 디지털정책연구소 소장(법학박사)