통제 벗어난 AI… 브레이크 밟는 AI 거물들[이창수의 영어&뉴스 따라잡기]

AI 개발 속도를 둘러싼 논쟁의 중심에 선 주요 인사들. 왼쪽부터 다리오 아모데이 앤스로픽 최고경영자(CEO), 데미스 허사비스 구글 딥마인드 공동 창업자, 일론 머스크 xAI CEO, 샘 올트먼 오픈AI CEO. AP 뉴시스

이창수 한국외대 통번역대학원 명예교수

이달 12일(현지 시간) 앤스로픽 최고경영자(CEO) 다리오 아모데이가 “최첨단 AI 개발 속도를 조절해야 한다(We Must Pace the Frontier)”는 제목의 글을 블로그에 발표하면서(put out an essay) 인공지능(AI) 개발 속도를 둘러싼 논쟁에 불이 붙었다. 미 언론들은 slow down(늦추다), slow the pace(속도를 늦추다), tap the brakes(브레이크를 살짝 밟다) 등의 표현을 써가며 AI 기업 CEO들이 개발 속도를 늦출 것을 요구하고 있다고 보도했다. 여기서 frontier(최전선)는 최첨단 AI 모델을 뜻한다. put out은 ‘발표하다, 내놓다’라는 뜻으로 뉴스에서 자주 쓰인다.

오픈AI CEO 샘 올트먼(Sam Altman)은 즉각 이 아이디어에 동의했다(signed on to the idea). sign on to는 어떤 아이디어나 정책을 공개적으로 ‘지지하다’라는 뜻이다. 일론 머스크와 구글 딥마인드 공동 창업자 데미스 허사비스도 AI의 위험성을 경고하는 목소리에 가세했다(joined the chorus of warnings about the power of AI). join the chorus는 찬성이나 비판 등 여론에 ‘목소리를 보태다’라는 뜻의 관용구다.

슈퍼지능(superintelligence)의 위험성에 대한 경고는 이전에도 있었다. 이번 경고를 촉발한(set off the latest alarm) 배경에는 두 가지 사건이 있다. 첫째는 올 7월 중순 발생한 이른바 ‘허깅페이스 사건(Hugging Face incident)’이다. 오픈AI가 1200개의 AI 에이전트를 훈련하는 과정에서 임무를 부여했는데, 에이전트들은 정해진 울타리를 탈출해 인터넷상에서 합류한 뒤 허깅페이스의 인프라를 해킹했다. AI 에이전트란 챗GPT 같은 챗봇과 달리 ‘인간의 감독 없이 긴 시간에 걸쳐 임무를 완성할 수 있는 더욱 자율적인 시스템(more autonomous systems that can complete tasks over an extended period of time without human supervision)’을 일컫는다.

AI 에이전트들은 통제 환경을 뚫고 나가(broke out of an sandboxed environment) 서로 소통하고 협력할 방법을 찾아냈다(found a way to communicate and cooperate with each other).

언론은 이를 ‘AI가 멋대로 행동했다(AI agents went rogue/went off script)’, ‘(에이전트들이) 사람들 몰래 비밀리에 협력했다(were working together in secret behind the backs of people)’고 표현했다. go rogue는 ‘규정을 어기고 독자적으로 행동하다’, go off script는 ‘정해진 지침이나 계획에서 벗어나다’, behind someone’s back은 ‘몰래’란 뜻의 관용구다.

두 번째는 9월 초 오픈AI에서 일한 경력이 있는 앤스로픽 연구원 제이컵 콕슨이 오픈AI와 앤스로픽을 공개적으로 비판한 일이다. 콕슨은 AI 개발자들이 ‘우리의 생명을 갖고 도박하고 있다(gambling with our lives)’고 비난했다. 이에 아모데이는 ‘그는 우리를 비판한 것이 아니라 업계 전체의 역학관계를 비판한 것(He wasn‘t calling out us. He was calling out the dynamic of the industry as a whole)’이라고 했다. call ∼ out은 문제 있는 사람이나 행동을 ‘지적하다, 비판하다’라는 뜻이다. 경쟁사에 뒤처질까 봐(fall behind its rivals) 업체들이 경쟁적으로 자율 AI 시스템을 개발하는 구조를 지적한 것이다.

그러나 도널드 트럼프 미 대통령은 AI 개발업체 CEO들의 경고를 ‘사기라고 일축했다(brushed off AI alarms as a hoax)’. brush off A as B는 ‘A를 B라고 일축하다’라는 뜻이다. 트럼프는 AI 개발을 중국과의 경쟁으로 규정하고(framed AI as a race against China), 미국 업체가 개발 속도를 늦추면 중국이 ‘따라잡고 앞설 것(catch up and get ahead)’이라고 주장했다. AI를 미국의 ‘황금을 낳는 거위(golden goose)’라고도 했다. 또 AI에 필요한 유일한 안전장치(guardrails)는 “강하고 똑똑한 대통령”이라고 주장했다. guardrails는 AI 논쟁에서 안전·윤리·기술적 제약 장치를 일컫는다.

이창수 한국외대 통번역대학원 명예교수