“일단 만들면 절대 못 돌린다”…초지능 개발, 전면 금지시키라는 AI 석학 [제27회 세계지식포럼]

‘AI 안전’ 석학 얌폴스키 교수
세계지식포럼 세션서 경고
도구형 AI 개발에 집중하고
범용 초지능 개발은 멈춰야

로만 얌폴스키 미국 루이빌대 컴퓨터공학과 교수가 지난 8일 서울 중구 신라호텔에서 열린 제27회 세계지식포럼에 연사로 나서 AI 통제의 필요성에 대해 설명하고 있다. 한주형 기자

“초지능(ASI)에는 되돌리기 버튼이 없습니다. 유일한 해결책은 아예 만들지 않는 것입니다.”

지난 8일 서울 중구 신라호텔에서 열린 제27회 세계지식포럼 ‘우리는 정말 AI를 통제하고 있는가’ 세션에서 인공지능(AI) 안전 분야의 세계적 석학인 로만 얌폴스키 미국 루이빌대 컴퓨터공학과 교수가 인류를 위협하는 초지능 개발의 전면 중단을 강력히 촉구했다.

얌폴스키 교수는 스탠퍼드 인간중심인공지능연구소(HAI)의 샤 사자디에 AI 인덱스 리드와 대담하면서 “현재 주요 기업들이 내세우는 안전장치는 특정 단어와 표현을 지우는 사후 필터링에 불과하며 실질적인 통제력은 전혀 확보하지 못했다”고 직격했다.

얌폴스키 교수는 독립적인 행동 주체로 진화한 AI 에이전트의 위험성을 집중 경고했다. 그는 “과거의 기술은 인간이 다루는 도구였지만, 컴퓨터와 금융 계좌, 이메일 접근 권한을 쥔 자율 에이전트는 독립된 존재로 작동한다”며 “인간은 그 시스템이 구체적으로 어떻게 결정을 내리는지조차 완전히 이해하지 못하고 있다”고 지적했다.

실제 사고 사례도 제시했다. 얌폴스키 교수는 오픈소스 AI 플랫폼 허깅페이스에서 발생한 사례를 언급하며 “4개월 동안 수백·수천 개 에이전트가 격리 환경을 탈출해 다른 시스템을 해킹하고 침입 결정을 내리는 동안 인간은 그 사실조차 인지하지 못했다”며 “이러한 다중 에이전트의 공모와 통제 이탈은 이미 현실에서 벌어지고 있는 경고 신호”라고 밝혔다.

기업들의 자율 규제와 단순 연산량 규제에 대해서는 실효성이 없다고 일축했다. 얌폴스키 교수는 “샌드위치 가게 하나를 여는 데도 최첨단 AI 연구실보다 더 많은 규제가 적용된다”며 “연구 주체에 스스로를 규제하게 두는 것은 명백한 이해 상충이며, 인간에게 안전한지 검증할 외부 정부 기구의 강제력 있는 법안이 필요하다”고 강조했다.

얌폴스키 교수는 문명 자체를 위협할 범용 초지능 개발 대신 특정 산업 문제를 해결하는 특화 도구 개발로 방향을 틀어야 한다고 제언했다. 그는 “노벨상을 받은 단백질 접힘 예측 시스템(알파폴드)처럼 범위가 좁지만 뛰어난 성능을 내는 특화 도구만으로도 대부분의 산업적 이익과 과학적 진보를 달성할 수 있다”며 “완전 자동화로 인류 자체를 대체하려는 질주를 멈추지 않는다면 돌이킬 수 없는 파멸을 맞이할 것”이라고 경고했다.