AI 수장들 “개발 늦춰야”…‘인류멸망 경고’에 ‘속도조절론’으로 급선회

인공지능(AI)의 급속한 발전이 인류의 통제를 벗어나 치명적인 위협이 될 수 있다는 내부 경고와 실제 악용 사례가 잇따라 드러나면서, 글로벌 빅테크 기업 수장들이 일제히 ‘개발 속도 조절’을 촉구하고 나섰습니다.

앤트로픽의 다리오 아모데이 최고경영자(CEO)는 자신의 블로그를 통해 AI 모델의 역량 강화 속도를 늦추고, 안전 평가 시스템이 기술적 진보를 따라잡을 수 있도록 시간을 확보해야 한다고 주장했습니다.

그는 인간 개입 없이 AI가 진화하는 통제 불능의 위험이 커지고 있다면서 지난 7월 오픈AI의 미공개 모델이 일부 플랫폼을 무단 해킹한 사건을 대표적 사례로 지목했습니다.

이러한 위기감의 기저에는 앤트로픽과 오픈AI에서 사전 학습 연구를 담당했던 제이콥 콕슨의 전격적인 퇴사와 내부 폭로가 자리 잡고 있습니다.

콕슨은 퇴사 직후 “AI 개발자들 스스로가 이 기술이 10년 안에 인류를 파멸시킬 수 있다고 진심으로 믿고 있다”며, “주요 빅테크 기업들이 안전 대책도 없이 초지능을 향해 무모한 도박을 벌이게 되면서, 내년 말이면 상황이 완전히 통제 불능에 빠질 수 있다”고 강력히 경고한 바 있습니다.

여기에 더해 앤트로픽이 발표한 보고서에서는 나쁜 목적으로 AI를 훔쳐 쓴 심각한 사례들이 실제로 밝혀져 충격을 주고 있습니다.

이 보고서에는 러시아 해커들이 앤트로픽의 AI를 이용해 침투 대상 측의 눈을 속이는 컴퓨터 바이러스를 만들었는데, 백신 프로그램이 작동하면 AI가 스스로 모습을 바꿔 감시망을 빠져나가도록 만든 사례도 적시됐습니다.

또 다른 나라에서는 군인들이 미사일과 로켓이 더 정확하게 날아가도록 계산할 때 AI를 몰래 썼고, 사람에게 치명적인 위험한 바이러스를 퍼뜨리는 생화학 무기를 만드는 데 AI를 쓰려다 적발된 사례가 담기기도 했습니다.

사태의 심각성이 드러나자 샘 올트먼 오픈AI CEO와 테슬라와 뉴럴링크 등을 이끌고 있는 일론 머스크 CEO도 “아모데이의 지적이 맞다”며 외부의 독립적인 안전 평가자 상시 배치 등 아모데이가 제시한 안전장치 마련에 전격 동의했습니다.

올트먼 CEO는 특히 안전성 확보 과제를 최우선으로 해결하기 위해 올해로 예정됐던 오픈AI의 기업공개(IPO)를 2026년 이후로 연기하겠다고 밝혔습니다.

불과 열흘 전 주요 20개국(G20) 회의에서 규제 도입에 난색을 보이던 업계 리더들의 태도가 크게 바뀐 가운데, 미 의회도 테드 크루즈 상원 상무위원장을 중심으로 파국적 위험을 방지하기 위한 초당적 규제 법안 발의를 서두르고 있는 것으로 알려졌습니다.

[사진 출처 : 로이터=연합뉴스]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

금철영 기자 (cykum@kbs.co.kr)