[여현덕의 AI Thinking] 약간의 균이 면역력 높이듯… AI 안전성 키우는 ‘마찰’

AI의 마찰은 신뢰·통제 확보 요소
제거하면 기술이 흉기로 변할 수도
헌법 AI에 법·윤리 기준 필요하듯
마찰, 설계의 파트너로 받아들여야

바람에 시달린 나무일수록 뿌리를 깊이 내린다. 나무는 바람을 좋은 마찰로 삼아 흔들리지 않는 토대를 만들어낸다. 마찰(friction)은 저항, 불편함, 제약을 의미한다. 우리는 종종 마찰만 제거하면 더 빠르고, 더 편리해질 것이고, 그러면 성과는 저절로 나올 것이라고 잘못 생각한다.

정말 그럴까. 자동차 브레이크에서 마찰을 완전히 제거하면 자동차는 멈출 수 없어 사고가 발생한다. 그러면 흉기가 된다. 신발 밑창의 마찰을 없애면 미끄러져 넘어진다. 은행 앱에서 비밀번호 확인을 생략하면 편리하겠지만 해킹 위험에 노출된다. AI에서 마찰은 정말 중요하다. 마찰을 없앤 AI는 빠를 수는 있어도 안전성이 떨어져 책임질 수 없는 시스템이 되고 만다.

피지컬 AI에서 마찰의 중요성

현대차그룹 계열사 보스턴 다이내믹스의 휴머노이드 로봇 아틀라스가 미국 라스베이거스에서 열린 ‘CES 2026’ 현대차그룹 전시관에서 자동차 부품을 옮기고 있다. 아틀라스는 AI와 로봇이 결합한 피지컬 AI의 대표주자다. 연합뉴스

‘CES 2026’에서 공개된 보스턴 다이내믹스의 로봇은 인간의 손처럼 움직이는 유연성과 구글 딥마인드의 진화된 시각·언어·행동(VLA) AI 기술을 결합해 산업 현장 투입 가능성을 크게 높였다. ‘피지컬 AI’의 대표주자 로봇은 단순 기동을 넘어 마찰의 원리를 정교하게 이용해 균형과 안전을 유지한다. 피지컬 AI 시대의 기술은 흉기로 변할 수도 있기에 ‘책임 있는 마찰’에 대한 철학이 있어야 한다. 수술 로봇 다빈치의 AI 역시 자동화 기술을 활용하지만 핵심 수술 동작은 인간 의사가 직접 제어하는 설계(HITL)를 따른다. 이를 통해 의료 안전성을 확보하는 동시에 법적 책임의 주체를 명확히 한다. 앤스로픽의 ‘헌법 AI’는 모델 내부에 법적·윤리적 마찰을 내재화해 응답 과정에서 스스로 점검과 판단 단계를 거치도록 설계한 대표적인 사례다.

전통적인 관점에서 보면 조직 마찰은 의사결정 지연으로 인한 생산성 손실 및 낭비 요인으로 간주된다. 하지만 새로운 관점에서 보면 마찰은 제거 대상이 아니라 통제와 신뢰를 가능케 하는 긍정적 요소로 설계에 담아내야 한다. 행동과학에서 인지 마찰은 잘못된 행동을 교정하는 레버로 쓰인다. 예를 들어 영국 디지털 은행 몬조의 ‘폿츠’ 기능은 지출을 목적별로 분리해 소비 순간을 인식하게 하고 자동적 소비 흐름을 끊는다. 결제를 막거나 불편하게 만드는 것이 아니라 사용자가 스스로 소비를 재고하도록 유도한다. 결과적으로 자기 인식을 강화하고 충동 소비를 줄인다. 서비스와 조직 설계에서 ‘좋은 마찰’을 설계하면 품질을 높이고 사용자의 신뢰를 높일 수 있다.

AI 프로젝트에 필요한 ‘좋은 마찰’

AI 프로젝트가 실패하는 이유 중 하나는 조직의 저항이나 기술 복잡성을 ‘제거해야 할 장애물’로만 보기 때문이다. 그 결과 데모에서 인상적이었던 AI가 실제 업무에서 작동하지 않는다. 하지만 마찰은 제거해야 할 장애물이 아니다. 약간의 균을 주입해 면역력을 키우는 백신의 원리처럼 마찰은 시스템에 높은 안전성과 견고성을 키우는 요소다. AI는 자율적으로 판단하고 추천하지만 때로는 그럴듯하게 틀린 답을 내놓는다. 이런 특성 때문에 마찰 없는 AI는 안전을 위협한다. 마찰은 비용이 아니라 투자다. 특히 피지컬 AI에서 마찰은 사고를 예방하는 요소다.

따라서 AI 프로젝트 설계에서 반드시 포함해야 할 첫 번째 마찰은 휴먼 체크포인트다. 이는 사용자가 AI 솔루션을 무비판적으로 수용하지 않도록 숙고와 검토 지점을 설정하는 장치다. 예를 들어 최종 승인 단계에서 인간의 피드백을 반영한 강화학습(RLHF)은 좋은 예다. 이를 통해 단순히 빠른 답변보다는 전문가의 견해가 반영된, 사회적으로 적절한 답변을 유도한다. 전문가의 경험과 판단을 AI 학습 과정에 반영하면 저항은 참여로 바뀐다. 둘째, 조직적 마찰이다. 전통적으로 조직적 마찰은 의사결정 지연과 생산성 손실을 유발하는 낭비로 여겨졌다. 하지만 현대 AI에서 조직적 마찰은 사고를 예방하고 책임을 명확히 하는 제도적 안전 장치다. 예를 들어 의도적인 적군 공격 레드팀 테스트, 샌드박스 테스트, 또는 AI 판단에 반드시 사람의 확인을 거치게 하는 절차(HITL)는 모두 결정을 늦추는 마찰이다. 이러한 마찰은 신뢰 붕괴와 사고를 막기 위한 핵심 안전 장치가 된다.

셋째, 기술적 마찰이다. 자동차에서 브레이크 없이는 안전한 주행이 불가능하듯 제약 없는 AI는 조직을 위험에 빠뜨린다. 기술적 마찰은 AI에 ‘안전 가드레일’과 ‘자체 점검 장치’를 내장해 자체 통제되도록 설계하는 것이다. 가령 답변 출처 표시(RAG), 자체 윤리 검증과 정책 기반의 필터링(헌법 AI), 안전을 위한 강화학습(Safe RLHF) 등이다. 이와 같은 마찰 장치가 없다면 사용자가 매번 AI 결과를 확인해야 하고, 이는 생산성을 잠식하는 ‘검증 비용’으로 돌아온다.

AI 프로젝트에서 마찰을 설계하라

AI 프로젝트에서 마찰은 장애물이 아니라 신뢰와 통제를 확보하는 설계 요소다. 마찰을 적으로 보지 말고 설계의 파트너로 받아들여야 한다. 마찰을 제거하려다 오류와 책임 공백을 만들고 가치 창출 기회까지 잃어서는 안 된다. 나쁜 마찰(불필요한 절차와 규정)은 줄여야 하지만 좋은 마찰(안전과 품질을 위해 필요한 마찰)은 살려야 한다. 빠르고 편리한 AI가 아니라 통제 가능하고 신뢰할 수 있는 AI만이 지속 가능한 사업이 된다.

그런 점에서 “조직의 리더 역할은 편집자와 같다. 불필요한 것을 빼거나 처음부터 들어오지 못하도록 만드는 일이다”는 로버트 서튼 스탠퍼드대 교수의 말은 시사점이 크다. 요컨대 좋은 리더는 단순히 AI를 더하는 사람이 아니라 사람과 AI의 상호작용 전반에서 어디서 쉽게, 어디서 어렵게 만들지를 설계하는 시스템 디자이너다. 결국 좋은 마찰은 의도적으로 만들어야 한다. 사람 AI 업무 과정이 자연스럽게 연결되도록 설계하고, 사용자가 AI 결과를 수정할 수 있게 하고, 그 내용을 다시 학습에 반영하는 ‘선순환 구조’를 만들어야 한다. 사용자 수정→학습→개선이 반복되면 검증 부담이 줄고 신뢰가 쌓이며 확장도 가능해진다. 반대로 마찰 없는 AI는 완벽한 게 아니라 안전 장치마저 무너뜨려 실패로 이어진다.

오늘날 마찰의 가치는 AI 기술과 경영은 물론이고 정치 영역에서도 깊이 새겨야 할 교훈이다. 그래서 “얼마나 빠른가?”가 아니라 “어디에, 어떤 마찰을 남길 것인가?”라고 물어야 한다.

여현덕 KAIST-NYU 석좌교수

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지