AI에게 ‘생각’은 맡길 수 있어도 높은 ‘안목’은 인간의 몫

[WEEKLY BIZ] Biz&Tech

일러스트=김의균

올 초 글로벌 AI 시장을 강타한 ‘클로드 쇼크’ 이후, 경쟁의 초점은 ‘시킨 대로 동작하는 AI’에서 ‘일하는 환경을 구축하면 자율적으로 일하는 AI’로 넘어가고 있다. AI에게 일하는 환경을 만들어 주는 일을 ‘하네스(Harness) 엔지니어링’이라 한다. AI가 일할 수 있는 환경을 설계하고 사람의 의도를 전달하며 결과에 대한 평가를 하는 것이 중요해진 것이다.

이 과정에서 인간에게 필요한 것은 ‘높은 안목’이다. 안목이란 자신이 하는 일의 본질에 대한 깊은 이해, 전달하려는 메시지가 화자와 청자 사이에서 어떤 맥락으로 흐르는지에 대한 통찰, 한정된 시간과 자원 속에서 최적의 해답을 찾아내는 감각, 그리고 결과물의 품질과 효율 사이에서 정교한 균형을 맞추는 판단력이 복합적으로 어우러진 결정체다.

개인의 안목은 기업 차원에서 더욱 큰 함의를 갖는다. 전 테슬라 AI 책임자 안드레 카파치는 최근 세쿼이아와의 인터뷰에서 “생각(Thinking)은 외주를 맡길 수 있어도, 이해(Understanding)는 맡길 수 없다”고 했다. 기업 입장에서 ‘생각’은 데이터 기반의 연산과 논리적 추론 프로세스다. 이는 이제 AI에게 충분히 맡길 수 있는 영역이 됐다. 그러나 기업이 지향하는 궁극적인 목표, 우리가 속한 시장에 대한 본질적 해석 등은 결코 외부나 기계에 맡길 수 없는 영역이다.

업에 대한 깊은 이해를 AI에게 제대로 전달하는 조직만이 AI를 ‘목적지 있는 자율주행차’로 만들 수 있다. 이를 위해서는 세 가지 핵심적인 거버넌스 체계가 필요하다. 첫째는 ‘데이터의 통제’다. AI가 추론의 근거로 삼는 데이터에 기업 특유의 지식과 논리 체계를 심는 과정이다. 데이터 간의 관계를 정의하고 비즈니스 로직을 명확히 할 때, AI는 비로소 기업의 맥락 안에서 사고한다.

두 번째는 ‘도구의 통제’다. 자율형 AI는 스스로 도구를 선택한다. AI가 어떤 소프트웨어와 도구를 사용할지 어느 정도의 권한을 가질지를 설계하는 것은 기업 보안과 직결된다. 적절한 도구의 배치는 AI의 작업 효율을 극대화하는 하네스의 핵심이다. 세 번째는 ‘노하우의 통제’다. AI가 수행하는 작업의 품질 표준과 작업 노하우를 정의하는 것이다. AI가 일하는 방식이 기업의 기준에 부합하는지 실시간으로 모니터링하고 조정하는 기술적 체계가 뒷받침돼야 한다.

하네스 엔지니어링의 마지막 퍼즐은 ‘평가’다. AI에 일을 맡기는 환경을 구축했다면, 결과물이 기업의 전략적 방향성에 부합하는지를 검증할 수 있는 시스템을 갖춰야 한다.

AI를 빠르게 수용하는 기업과 그렇지 못한 기업 사이의 생산성 격차는 이제 돌이킬 수 없을 만큼 극명히 갈릴 것이다. 그 과정에서 핵심이 되는 능력은 AI가 ‘잘 일할 수 있는 환경’을 설계하는 능력이다. 기업의 존재 이유와 시장에 대한 이해를 하네스 엔지니어링이라는 그릇에 담아내는 조직만이 거대한 AI 패러다임 전환기에서 진정한 승자로 남을 것이다.