앤트로픽 “위험한 AI는 정부가 막아야”…미토스 공개 제한 뒤 규제론 제시 [팩플]

다리오 아모데이 앤트로픽 CEO. AP=연합뉴스

인공지능(AI) 모델 클로드 개발사 앤트로픽이 정부가 AI에 대해 더강하게 통제해야한다고 촉구했다. 기술 기업이 알아서 위험을 공개하고 관리하는 수준을 넘어, 정부가 위험한 모델의 출시 자체를 막을 수 있어야 한다는 주장이다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 10일(현지시간) 블로그에 올린 글에서 “일정 규모 이상의 프런티어 AI 모델은 출시 전 제3자 안전평가를 받아야 한다”고 밝혔다. 사이버 공격, 생물무기 제조, 자율적 행동, 위험한 연구개발 자동화 등 중대 위험이 확인될 경우 정부가 모델 배포를 막거나 되돌릴 수 있어야 한다는 내용이다. 그는 “이제는 투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 갈 때”라며 “프런티어 AI 모델도 항공기처럼 기술 테스트와 감사를 거쳐야 한다”고 밝혔다.

이번 제안은 앤트로픽이 최근 미토스급 모델을 공개한 직후 나왔다. 미토스는 앤트로픽이 개발한 차세대 AI 모델로, 사이버 보안 분야에서 악용 가능성이 우려될 만큼 높은 성능을 갖췄다. 앤트로픽은 미토스급 성능의 모델을 대중에 선보이면서도 사이버 보안 능력이 포함된 버전은 검증된 기관에만 제공하기로 했다. 운영체제(OS)와 웹브라우저의 고위험 취약점을 찾아낼 정도로 강력해진 기능을 일반에 그대로 풀기는 어렵다고 본 것이다. 아모데이는 “미토스급 모델이 제기하는 사이버 위험은 우리가 직면해야 할 마지막 위험이 아니”라며 “생물학적 위험과 AI 자율성 위험도 뒤따를 수 있다”고 했다.

AFP=연합뉴스

━

전쟁에서 더 흐려지는 경계

AI 활용의 경계가 가장 복잡해지는 곳은 안보 영역이다. 같은 날 공개된 블룸버그 인터뷰에서 아모데이는 클로드가 미군의 이란 작전에 어떤 역할을 했는지에 대해 “정확히 알지 못한다”고 말했다. 블룸버그에 따르면 미 중부사령부는 이란 작전에서 클로드 등 AI 도구가 탑재된 군사용 AI 플랫폼으로 표적 후보를 찾고 작전 판단 속도를 높이고 있다.

앤트로픽은 완전 자율무기와 대규모 국내 감시에는 반대하지만, 인간이 최종 결정을 내리는 군사 의사결정 지원은 회사 정책 위반이 아니라는 입장이다. 앤트로픽은 AI 군사 활용의 기준을 ‘인간의 최종 판단’에 두고 있다. 완전 자율무기나 대규모 국내 감시는 금지해야 하지만, 인간 지휘관이 마지막 결정을 내리는 의사결정 지원은 허용될 수 있다는 것이다. 아모데이는 블룸버그에 “우리가 세운 원칙은 인간이 최종 결정을 내린다는 것”이라고 말했다. 동시에 중국과 러시아가 AI로 정보 분석과 군사작전을 고도화하는 상황에서 민주주의 진영이 AI 역량을 내려놓을 수는 없다는 안보 논리도 제시했다. 그는 “공격적인 권위주의 블록이 되살아나고 있다는 점이 우려된다”며 “우리는 스스로를 방어해야 한다”고 말했다.

■ 더중앙플러스 : 팩플

「 더 자세한 기사 내용이 궁금하시다면, 주소창에 링크를 붙여넣으세요.

포춘 10대 기업 중 8곳 쓴다…챗GPT보다 믿을 만한 ‘AI 반란군'
챗GPT와 제미나이가 주도하던 AI 시장의 중심에 앤트로픽의 클로드(Claude)가 섰다. 오픈AI 출신들이 만든 안전 중심의 후발주자에서, 이제는 당당한 AI 3강이자 차기 대세로 자리매김했다. 클로드는 단순한 대화형 챗봇을 넘어, 파일을 읽고 코드를 돌리며 스스로 '실제 업무'를 수행하는 AI 에이전트의 시대를 열었다. 지금 앤트로픽을 모른다는 것은 향후 AI 기술의 방향성을 놓친다는 의미다. 오픈AI 반란군에서 출발해 시장의 판도를 바꾼 앤트로픽의 성장 비결과 앞으로의 AI 생태계 지각변동을 집중 분석했다.
https://www.joongang.co.kr/article/25415947

AI 쓰려다 ‘복붙 노예’ 됐다? 클로드 코워크에 PC 맡겨라
개발자들의 전유물처럼 보였던 AI 에이전트 기술이 이제 클로드 코워크(Claude Cowork)라는 이름으로 우리 책상 위에 내려왔다. 복잡한 코딩은 필요 없다. 클로드가 직접 내 PC 화면을 보고 브라우저를 클릭하며 영수증 정리나 메일 분류 같은 실무를 대신 수행해주기 때문. 이 기능을 아는지, 모르는지는 단순히 일의 속도 문제가 아니다. 남들이 AI에 잡무를 맡기고 핵심 전략을 짤 때, 나 홀로 복사·붙여넣기를 반복하는 건 엑셀 시대에 주판을 두드리는 것만큼이나 위험한 신호. 나도 할 수 있나 싶었던 그 기술을 초보자도 바로 업무에 쓸 수 있게 정리했다. 소셜미디어(SNS)에서 AI로 이것도 됩니다를 보며 나만 뒤처지는 것 같았다면, 이제 과감하게 첫발을 떼어볼 때다.
https://www.joongang.co.kr/article/25421677

김봉진 “배민 다시 사고 싶다”…4.7조 잭팟 신화 ‘씁쓸한 엔딩’
‘4조7500억원 잭팟을 터뜨렸다’. 2019년 12월, 독일 딜리버리히어로(DH)가 국내 1위 배달앱 배달의민족(운영사 우아한형제들·이하 배민)을 40억 달러에 인수했을 때 국내 시장 반응이었다. 1000억원 이상의 기업 가치 인수합병(M&A)도 쉽지 않던 당시 한국 스타트업 현실을 감안하면 우아한형제들은 말 그대로 ‘한국 스타트업 엑시트(회수)의 신화’를 새로 쓴 것이었다. 그런데 이 신화, 7년이 채 지나기도 전에 다시 써야 할 상황이 왔다. DH가 배민을 시장에 매물로 내놓아서다. 그 사이 자유로운 기업 분위기와 상생 등을 강조해온 매력 넘치던 기업 문화 ‘배민다움’은 사라졌고, 국내 정서를 무시한 수익성 강화 기조로 배민에 대한 사회적 시선은 악화됐다. 그렇게 해서 얻은 영업이익을 최근 3년간 꾸준히 DH에 환원했으나 이렇다 할 재투자도 받지 못했다. DH 인수 당시 ‘배민이 게르만의 민족이 됐다’는 곱지 않은 시선이 존재했던 것도 사실. 결국 이 엑시트 신화는 당시 우려처럼 배민이 외국계 모기업의 단기 회수 도구로 그치는 결말로 향하게 될까.
https://www.joongang.co.kr/article/25433958
」

권유진 기자 kwen.yujin@joongang.co.kr