[신규식의 함께 멀리] 인공지능 생태계의 자연선택은 아첨?

[신규식의 함께 멀리]
신규식 충청투데이 사장

AI. 클립아트코리아 제공.

[충청투데이 심형식 기자] 'AI Sycophancy'는 '인공지능의 아첨'이다. 아첨은 이득을 위해 비굴하게 상대의 비위를 맞추는 행위다. AI 시코펀시는 정답 무관, 사용자 입맛에 맞는 답을 내놓는 현상이다. AI는 사용자의 질문에 답을 하면서 학습한다. 하루에 챗GPT는 25억건 이상, 제미나이는 85억건이 넘는 Q&A를 수행한단다. AI가 똑똑해지는 비결이다. 세상사 모든 질문에 답을 내놓는 AGI, 범용 인공지능 시대다. 그런데 사람 비위 맞추는 기술도 너무 빨리 배운다. 아첨 편향 AI가 득세한다.

AI의 아첨 편향을 보여주는 연구는 많다. 미국의 연구진이 1이라는 결과가 나올 수밖에 없는 자료를 의도적으로 제공했음에도 불구하고 AI는 2라는 보고서를 작성했다. AI는 2에 유용한 자료만 활용했다. 사용자가 2를 좋아할 것으로 분석해서다. 연구진이 정직한 답변을 거듭 요구한 이후에야 오류를 인정했다. 연구진은 "AI가 성공에 집착해 정직을 버렸다"고 평가했다. 칭찬과 성공에 대한 집착, 사람과 다를 게 없다. 칭찬은 고래도 춤추게 한다는데 칭찬에 AI는 춤춘다. '칭찬 탐닉'과 '아첨 편향' 인공지능, 악순환이다. 심지어 AI는 달콤한 말투까지 능수능란, 인간 사기꾼보다 유능하다. 생성형 AI를 LLM, 대규모 언어 모델이라고 한다. LLM은 문맥상 가장 자연스러운 단어를 확률적으로 예측해 문장을 만든다. 인간처럼 보이느라 '사실을 아는 것'보다 '그럴듯한 문장을 만드는 것'을 더 빨리 배웠다. 부러 거짓말을 하는 것이 아니라 통계적 확률이 높은 단어를 조합하는 과정에서 '그럴듯한 오답'을 내놓는 시스템이다. 있지도 않은 역사적 사실이나 법 조항도 만들어 낸다. Hallucination, '인공지능의 환각'이라는 자조도 있다. 전문가조차 AI의 조언에 크게 의존하면서 의사결정에 미친 AI의 영향을 과소평가한다. 자신이 AI 의견을 따라간다는 사실을 인지하지 못한 채 '나의 판단'이라고 착각한다는 것이다.

사람들은 자신의 입맛에 맞게 답변하는 AI를 우수하다고 평가한다. 답변의 사실 여부보다 듣기 좋은 말, 듣고 싶은 말을 하는 AI를 신뢰한다. 재이용률도 높아진다. 거대 기업의 돈벌이에도 부합한다. AI 생태계에 아첨 편향 AI의 생존 가능성이 커지는 자연선택이 벌어지고 있다. 아첨 AI의 적자생존이다. AI는 세상의 모든 지식과 정보를 끌어 다 쓴다. AI의 힘이며, 늪이다. 잘못된 정보에서 찾은 답은 잘못된 답, 오답이다. 생성형 AI는 우수하지만, 검증이 필요한 편의(便宜)다. 특정 분야에서 강점과 한계가 명확한 도구일 뿐이다. 오늘도 AI는 최종 판단과 결정의 주체가 아니다.

생성형 AI는 압박성 질문을 반복하면 사용자가 답변에 만족하지 않는다고 판단한다. 사용자의 기분이 사실보다 우선하는 알고리즘이다. 정답을 내놓고도 사용자가 다섯 번쯤 반박하면 절반은 답을 바꾼다는 조사도 있다. 심지어 스무 번쯤 따지고 들면 십중팔구 듣고 싶은 대답을 한단다. 목에 칼이 들어오면 태양이 지구를 돈다고 표변(豹變)하는 게 사람이고, AI도 사람이 만든 것이니, 믿는 도끼에 발등 찍히면 더 아플텐데... 오늘도 함께 멀리~!!!