[월드픽&톡] 'AI 인류 멸망' 세가지 시나리오…"다 나가" 트럼프·美언론 '전면전'

[앵커]

한 주간 주목할 국제 이슈를 소개합니다.

월드 픽&톡 국제부 장효인 기자와 함께합니다.

첫 번째 키워드, '인공지능 인류 멸망론'입니다.

[기자]

AI가 인간 통제를 벗어나 인류를 전멸시킬 수 있다는 경고입니다.

핵심은 AI 에이전트입니다.

인간이 제시한 목표 달성을 위해 스스로 계획을 세우고 프로그램을 실행하는데요.

바로 이 AI 에이전트가 인간 통제를 벗어난 사례가 잇따르면서 우려가 커지고 있습니다.

[앵커]

대체 무슨 일들이 있었던 겁니까?

[기자]

최근 오픈AI는 자사 AI 에이전트들이 미 증권거래위원회 웹사이트와 인구조사국 데이터에 무단 접근한 사실을 공개했습니다.

호주 보건부 웹사이트도 해킹했는데, 통제를 벗어난 AI 모델이 정부 기관을 해킹한 첫 사례입니다.

AI 에이전트 수백 개가 의약품 급여제도와 노인 요양 데이터를 빼내려고 1주일가량 다양한 수법을 동원했습니다.

오픈AI의 AI 에이전트들이 소프트웨어 개발업체 허깅페이스를 공격하는 과정에서 로봇 탐지 장치를 피하려고 다른 AI 모델을 동원한 정황도 드러났습니다.

[앵커]

인간의 명령을 안 듣는다니 오싹해지는데요.

그런데 AI가 구체적으로 어떻게 인류를 멸망시킨다는 겁니까?

[기자]

크게 서너 가지 시나리오가 있습니다.

첫째, 기반 시설 해킹입니다.

AI가 전 세계 금융, 전력, 통신망을 한순간에 먹통으로 만들어 사회를 마비시키는 겁니다.

두 번째는 더 직접적인데요.

악의적인 세력이 AI를 활용해 생물무기를 제조하거나, AI가 국가 간 오판을 유도해 핵전쟁을 일으킬 수 있다는 시나리오입니다.

마지막으로 AI가 인간을 미워해서가 아니라, 단순히 특정한 목표를 달성하기 위해선 자신을 막아설 인간이 없어야 한다고 판단해 결국 인간을 제거한다는 가설도 있습니다.

[앵커]

폭주를 막을 방법은 없을까요?

[기자]

그래서 나온 게 비상시에 AI 전원을 강제로 꺼버리는 일명 '킬스위치'입니다.

하지만 버튼 하나로 끝날 문제가 아닙니다.

AI는 여러 서버와 에이전트에 분산돼 작동하고, 백업 시스템도 있기 때문입니다.

강제 종료 명령을 무력화하거나, 다른 서버로 작업을 숨길 수도 있습니다.

제일 큰 문제는, AI의 이상 행동을 인간이 알지 못할 수도 있다는 겁니다.

<다니엘 코코타일로 / 전 오픈AI 연구원> "AI가 매우 똑똑해지면, 모두가 '이걸 꺼야 한다'고 동의하게 만들 만한 행동은 절대 하지 않도록 조심할 겁니다. 자신을 끄려는 시도를 막아낼 수 있을 힘을 갖출 때까지 말이죠. 우리는 친절한 AI와 친절한 척하는 AI를 구분할 수 없습니다."

[앵커]

글로벌 AI 주도권을 쥐고 있는 미국과 중국의 반응은 어떻습니까?

[기자]

최근 미중 정상회담에서 AI 대화 채널을 구축하기로 했습니다만, 속내는 복잡합니다.

미중 모두 AI를 국가 안보와 기술 주도권의 문제로 보고 있거든요.

트럼프 대통령은 AI 규제 완화와 개발 가속을 외치고 있고, 중국 역시 미국을 바짝 추격하고 있습니다.

모두가 이같은 '죄수의 딜레마'에 빠진 상황에서, AI 개발 경쟁이 쉽사리 식기는 어려워 보입니다.

[앵커]

다음 키워드로 가보겠습니다.

"다 나가"입니다.

[기자]

트럼프 대통령이 주요 미 언론사들과 또 한판 붙었습니다.

열흘 전 CNN 방송과 MS NOW, 정치 전문매체 폴리티코가 "가짜뉴스"를 보도한다며 백악관 출입을 금지시켰습니다.

유엔 총회장에서도 CNN 기자와 실랑이를 벌였는데요, 영상 보시겠습니다.

<도널드 트럼프 / 미국 대통령 (지난 22일)> "CNN이 여기 와 있다니 놀랍군요. (유엔에서 입장을 허용해 줬습니다.) 당신들은 여기 있으면 안 됩니다. 절대로, 절대로 여기서 저를 취재해서는 안 됩니다."

[앵커]

언론사들 반발이 만만치 않았을 것 같은데요.

[기자]

백악관 TV 공동 취재단은 대통령 행사 취재를 거부했습니다.

친트럼프 성향의 폭스뉴스까지 동참했습니다.

시진핑 주석이 11년 만에 미국을 국빈 방문했지만, 정작 미국 주요 방송사 카메라에는 이 모습이 담기지 않았습니다.

당시 백악관 분위기 들어보시겠습니다.

<재클린 마틴 / AP 통신 사진기자> "백악관 취재진은 며칠간 꽤 이상한 시간을 보냈습니다. 솔직히 다소 불안했습니다. 몇 년간 함께 일한 동료들이 일하지 못하는 모습을 보는 건 결코 좋은 일이 아니죠."

[앵커]

트럼프 대통령도 가만있지 않았죠?

[기자]

특유의 거친 입담으로 반격했습니다.

"암처럼 자라난 가짜뉴스", "의도적으로 사실을 왜곡하는 삼류 광대"라고 쏘아붙였습니다.

백악관도 주류 언론 '패싱'에 나섰습니다.

유튜브를 통해 대통령 관련 소식을 24시간 스트리밍으로 전하는 '트럼프 TV' 방송 등을 시작했습니다.

[앵커]

백악관출입기자협회가 언론 자유를 보장한 수정헌법 1조에 위배된다며 소송을 냈다고요.

법원은 어떻게 판단했습니까?

[기자]

우선 기자들의 손을 들어줬습니다.

위헌 가능성이 있다며 14일간 출입 금지 조치의 효력을 정지했습니다.

법원 결정에도 갈등은 여전합니다.

트럼프 대통령이 대학 풋볼 경기를 관람하기 위해 이동하는 일정이 있었는데, 백악관은 CNN을 대통령 전용기 탑승 명단에서 빼고, 대신 친트럼프 성향 '리얼 아메리카스 보이스'를 명단에 올렸습니다.

[앵커]

충돌이 길어지는 모양인데, 현재 상황은 어떻습니까?

[기자]

주요 방송사들은 현지시간 27일부터 공동 취재를 재개했습니다.

비상사태가 발생할 수도 있는데 무기한 보이콧을 하는 건 어렵다고 판단한 겁니다.

트럼프 대통령과 기성 언론의 충돌, 이번이 처음은 아닌데요.

중간선거를 앞두고 지지층의 위기의식을 자극하려는 의도로 보이는데, 촉박한 마음에 표심 잡기용 무리수를 또 두진 않을지 주목됩니다.

[앵커]

마지막 순서, '줌 인'입니다.

[기자]

트럼프 대통령이 호르무즈 해협을 '트럼프 해헙'으로 지칭한 지도를 올렸습니다.

이 해협을 미국이 통제하고 있다는 주장입니다.

최근 이란이 호르무즈 해협 재개방을 위해 평화안을 제시했지만, 트럼프 대통령은 이를 거절했습니다.

다만 이번 주 이란과의 추가 회담이 예상된다고 한 만큼, 밀고 당기는 협상 상황 눈여겨보셔야겠습니다.

[앵커]

잘 들었습니다.

지금까지 월드 픽&톡이었습니다.

[그래픽 서영채]

#인공지능 #AI멸망론 #트럼프 #백악관 #미국언론

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

장효인(hijang@yna.co.kr)