[특파원 리포트] ‘인류 위한 AI’ 사명 버린 기업들

지난달 미 캘리포니아주 샌프란시스코 오픈AI 본사 내부에 오픈AI의 사명과 관련한 포스터가 붙어있다./강다은 특파원

지난달 방문한 미 샌프란시스코 오픈AI 본사에서 가장 인상 깊었던 것은 벽마다 붙어 있는 오픈AI의 사명과 관련한 포스터였다. 오픈AI는 2015년 “인류 전체에 이익이 되는 AGI(범용 인공 지능)를 개발하고 보급하겠다”는 목표로 설립됐다. 직원들은 일을 하면서, 밥을 먹으면서, 출퇴근을 하면서 ‘인류에 이익이 되는 AI’라는 문구가 담긴 전시물·포스터를 마주하게 된다. 이는 선한 인공지능(AI)을 만들겠다는 다짐이자 새로운 기술인 AI를 개발하는 기업으로서 안고 가야 할 무거운 책임감을 보여준다.

그런데 오픈AI가 ‘변심’했다며 비판받고 있다. 미국·이스라엘과 이란 전쟁에 AI 기술이 대거 쓰인 가운데 오픈AI가 미 국방부와 ‘군사 작전 AI 활용 계약’을 체결했기 때문이다. 앤스로픽이 미 국방부와 갈등을 겪으며 정부에서 퇴출된 지 몇 시간 만에 오픈AI는 이 자리를 꿰찼다. 숙고한 결정도 아니었던 셈이다. 이용자들은 챗GPT의 구독을 취소하고, 앱스토어에서 ‘별점 테러’를 했고, 시위대가 오픈AI 사무실을 찾아 “전쟁용 AI 즉각 중단”을 외치기도 했다.

샘 올트먼 CEO는 “레드라인(한계선)을 지켰다”는 해명을 내놨다. 오픈AI의 사명과 어긋나는 일이 아니었다는 뜻이다. 그러나 AI가 군사 작전에서 구체적으로 어떤 업무를 수행하는지는 제대로 설명하지 못했다. 비판이 계속되자, 이번엔 아예 책임을 회피했다. 그는 “군대가 기술을 어떻게 사용할지는 기업이 아니라 공직자와 정부가 결정한다”며 “회사가 통제하지 않는다”고 했다. 인류를 위한 AI 개발은커녕, 무엇이 인류를 위한 AI인지에 대한 질문 자체를 외면한 모습이다.

다른 주요 기업들도 별반 다르지 않다. 구글은 무기 기술에 AI를 개발하지 않는다는 내용이 담긴 ‘AI 원칙’을 천명했었다. 그러나 국방부와 AI 제품 활용 계약을 맺었고, 최근 전쟁에서 이스라엘군을 지원했다는 의혹도 받고 있다. 안전한 AI 개발을 목표로 자율 살상 무기 등에 AI 활용을 반대하는 앤스로픽은 어떨까. 국방부에 반기를 들면서도 다른 한편으론 계속 군사 드론 군집 비행 기술 등 군사 AI를 개발하고 있다. 이 기술 역시 궁극적으로 대규모 살상에 활용될 수 있다. 앤스로픽도 ‘최소한의 선’만을 지킨 셈이다.

미국·이스라엘과 이란 전쟁에는 AI가 정보 수집부터 전략 수립, 정보·심리전까지 광범위하게 투입됐다. 빠르게 성장한 AI 기술은 마침내 사람들의 생사를 좌우하는 데도 결정적 역할을 하게 됐다. 그 어느 때보다 엄격한 레드라인이 필요한 때지만 기업들은 무책임하다. 심지어 자신들의 사명까지 외면하면서 말이다. 그러는 사이 미 정부는 ‘국가 안보’를 명분으로 기업들의 책임 방기를 더 부추기고 있다. 각 회사의 사명이 담긴 포스터를 올려다보길 바란다. 전쟁을 보고 있자니, 인류를 위하기보단 위협하는 AI가 더 많아진 것 같아 두렵다.