[젊은 과학포럼] 무자비한 효율성

이기호 ETRI 온디바이스AI모델연구실 연구원

인공지능(AI)은 이제 단순한 자동화 도구를 넘어, 인간의 말투와 사고방식을 흉내 낼 수 있는 수준에 도달했다. 소셜미디어와 인터넷에서 수집한 방대한 데이터를 바탕으로, AI는 개인의 관심사, 생활 습관, 언어 스타일까지 학습하며 정교한 메시지를 생성할 수 있다.

과거에는 특정인을 겨냥한 메시지를 만드는 데 시간이 걸렸지만, 이제 AI는 수십만 명의 특성을 반영한 메시지를 몇 분 만에 만들어 전송할 수 있다. 그 메시지는 마치 사람 손에서 빚어진 듯 자연스럽고, 때론 인간보다 더 '사람 같은' 어조를 지닌다. 이렇게 윤리적 판단 없이 목표 달성에 집중하는 AI의 작동 방식을 '무자비한 효율성(ruthless efficiency)'이라 한다.

무자비한 효율성은 겉보기에는 뛰어난 생산성과 효율성을 의미하는 것처럼 보인다. 그러나 그 이면에는 인간과는 전혀 다른 방식으로 작동하는 AI의 한계가 존재한다. AI는 사람이 중간에 멈춰 되짚는 과정 없이, 학습된 내용을 그대로 반복 실행한다. 문제는 이러한 작동 방식이 산업 현장에서 빠르게 현실로 자리 잡고 있다는 점이다.

특히 소프트웨어 개발 분야에서는 이러한 특성이 더욱 두드러진다. 최근 많은 기업이 코드 작성을 위해 AI 도구를 적극적으로 도입하고 있으며, 일부 조직에서는 전체 코드의 절반 이상이 AI에 의해 자동 생성되고 있는 것으로 보고되고 있다. 문제는 이렇게 생성된 코드가 충분한 검토 없이 곧바로 제품에 적용되는 경우가 적지 않다는 점이다. 필자가 접한 현장에서는 "일단 AI가 코드를 짜고, 문제가 생기면 그때 고친다"는 식의 접근이 실제로 늘고 있었다.

AI가 생성한 코드 중 약 40%에서 보안 취약점이 발견된 사례가 있다. 특히 일부 스타트업은 회사 전체 서비스의 대부분을 AI 생성 코드에 의존하고 있다. 이런 상황에서는 단 하나의 작은 취약점도 빠르게 퍼져나가, 사회 전체의 시스템 안정성을 위협할 가능성이 충분하다.

이러한 문제를 해결하기 위해, 필자는 ETRI 신진연구사업을 통해 AI가 잘못된 코드를 만들어내기 전에 이를 실시간으로 감지하고 차단하는 기술을 연구하고 있다. 이 기술은 AI 모델 자체를 바꾸거나 재학습시키지 않고, 코드가 생성되는 찰나의 순간에만 짧게 개입해 위험한 코드를 감지하고 억제하는 방식이다. 마치 자동차가 차선을 이탈하면 자동으로 방향을 조정하는 '차선 이탈 방지 시스템'과 유사한 원리다.

필자의 연구는 단순한 보안 결함 수정에 그치지 않는다. 무자비한 효율성이 소프트웨어를 넘어 사회 전반에 미칠 수 있는 영향을 고려한다. 지금은 코드 수준의 문제로 보일 수 있지만, 기술이 더 깊이 확산되면 일자리 감소나 정보 격차 같은 구조적인 문제로 이어질 가능성도 있다.

기술 발전은 피할 수 없지만, 그것이 사회에 미치는 영향은 우리가 어떻게 설계하고 어떻게 책임질 것인가는 우리의 선택에 달려 있다. 효율성 자체보다 중요한 것은 그것을 누구를 위해, 어떻게 통제하느냐는 점이다.

아직 해답은 명확하지 않지만, 지금 우리가 어떤 태도로 기술을 받아들이고 어떤 책임을 지는지에 따라 결과는 달라질 수 있다. AI의 무자비한 효율성을 긍정적인 방향으로 이끌기 위해 필자는 앞으로도 무자비한 효율성을 긍정적으로 활용하면서, 그 부작용을 줄일 수 있는 현실적인 방안을 계속 고민해 나가고자 한다.