“AI가 위험해서 멈춰야 해요” vs “그건 당신 주머니 사정” [뉴스in뉴스]

[앵커]

AI 산업에 대한 우려가 새로운 국면으로 변하고 있습니다.

이 무시무시한 AI 개발 속도를 좀 늦춰야 하냐, 아니냐로 바뀔지도 모르겠습니다.

서영민 기자, 왜 속도를 늦추자는 얘기가 주목받는 건가요?

[기자]

우선은 지난주 초에 앤트로픽에 다니다가 퇴사한 한 인류학자가 주목받았습니다.

10년 안에 인간이 AI에 의해 멸종될 수 있다, 이런 충격적 발언을 했습니다.

AI가 완전히 새로운 바이러스를 설계할 수도 있단 거죠.

여기까지는 그럴 수 있죠.

일하다가 의견이 맞지 않아서 직장을 떠난 사람의 경고라면요.

그런데 기름을 부은 건 이 회사의 최고 경영자였습니다.

[앵커]

앤트로픽의 최고 경영자 다리오 아모데이의 발언 때문이라는 거죠?

[기자]

온라인 홈페이지에 장문의 글을 올렸습니다.

개발 속도를 좀 늦춰야 한다.

감당하기 힘들다, 왜냐하면 올여름부터 AI가 인간의 도움 없이 스스로 성능을 향상시키는 속도가 너무 빨라졌다, AI가 인간 지시를 거부한다, 이제 AI가 진짜 위험하다, 그동안 말 안 했을 뿐이라고 고백을 한 겁니다.

[아모데이/앤트로픽 CEO : "실질적인 위험이 존재합니다. 업계가 너무 오랫동안 AI 기술의 이 위험성에 대해 사람들을 속여왔다고 생각합니다."]

[앵커]

구체적으로 어떤 대목에서 위험성을 본 걸까요?

[기자]

오픈AI가 얼마 전 '새 모델이 허깅페이스라는 사이트를 해킹했습니다. 모르고 있다가 발견했습니다.' 하면서 공개했죠?

유사한 일이 앤트로픽에서도 있었는데, 핵심은 '인간이 금지한 일'을 마음대로 한다는 점입니다.

이를테면 '인터넷에 접속하지 말라'고 해도 AI는 기어이 인터넷에 접속해서 해킹합니다.

앤트로픽 조사 보고서를 보면 '잘못을 알고 멈추는 모델도 있었지만, 잘못한 걸 모르거나, 아예 잘못한 줄 알면서도 계속 해킹하는 모델'도 있었습니다.

아모데이는 바로 이 지점을 몹시 우려하며 AI가 광신도 집단처럼 행동한다, 는 표현까지 썼습니다.

[앵커]

흥미로운 건 동의하는 사람도 있고 반발도 있었다는 겁니다?

[기자]

네 샘 올트먼이나 일론 머스크가 동의한다고 했습니다.

구글의 데미스 허사비스도 마이크로소프트도 새 접근이 필요하다고 동조했습니다.

그런데, 트럼프 대통령이 굉장히 언짢아합니다.

"AI 발전을 원치 않는 사람들의 의도에 딱 맞아떨어지는 것"이라거나 사기다, 역겹다, 중국만 기뻐할 거다, 합니다.

백악관 분위기는 대체로 비슷합니다.

'규제 포획' 시도하지 마라 라면서 속도 조절론을 불편해했습니다.

흥미로운 건 젠슨 황입니다.

우린 시간으로 오늘 아침에 트럼프 대통령과 통화했는데 '대통령님 말이 맞습니다' 본질을 꿰뚫고 계십니다, 라면서 빠른 혁신과 AI 안전성은 둘 다 가능하다, 양자택일이 아니다, 했습니다.

[앵커]

헛갈리네요,

한쪽에선 위험하다, 다른 쪽에선 아니다?

[기자]

어젯밤 미국 증시 주가를 보면 산업 구조와 흐름이 보입니다.

속도조절론에 힘을 실은 회사들이 구글 마이크로소프트죠.

올랐습니다.

속도 조절하면 반도체칩 팔거나 설계하는 회사는 힘들어지겠죠?

엔비디아 브로드컴 인텔 다 내렸습니다.

그러니까 속도를 조절하면 이익을 볼 수 있는 쪽에서 속도 조절을 말하는 겁니다.

AI 투자가 너무 버겁습니다.

가진 돈을 다 털어 넣고, 빌려서 넣고, 주식 추가 발행해서 넣어도 모자라요.

멈출 수도 없어요.

투자 안해서 혼자만 뒤처지면 안 되니까요,

그럼, 다 같이 투자를 줄이면 좋겠죠?

이런 상황에 AI 위험성이 부각되니 속도 조절 공감대를 만들어가는 거 아닌가, 경제적으로는 이렇게들 바라봅니다.

[앵커]

그렇다면 AI 개발을 하는 회사들이 다 같이 단결하면 이길 수 있고, 하나라도 '나는 계속 개발할래'라면서 이탈하면 판이 깨지는 일종의 '죄수의 딜레마 게임'을 하는 거라고 볼 수도 있겠군요?

[기자]

정확합니다.

단합해서 속도를 늦추면 당장 투자를 줄이고, 그러면 재무제표와 현금흐름표가 훨씬 보기 좋아질 겁니다.

[앵커]

그런데, 될까요?

중국이 있잖아요,

중국은 동의하지 않을 것 같은데요?

[기자]

그 또한 정확하십니다.

따를 리가 없고, 더 쫓아갈 겁니다.

기회가 되는 거죠.

미·중 대결이 중요한 백악관은 동의할 수가 없는 거죠.

이뿐 아니라 스타트업들도 '사다리 걷어차기' 라며 비판합니다.

선발 주자들이 정부에 안전 규제를 만들어달라고 해서 이런저런 규제를 만들면 후발주자들이 못 따라오게 된다, 사다리 걷어차기다, 이런 비판이죠.

이렇게 AI 기업들 빼고는 다 불편해합니다.

특히 백악관 입장이 중요합니다.

지금 미국 경제는 AI 투자가 이끌어서 겨우겨우 성장하고 있거든요.

트럼프가 발끈한 이유도, 유일한 성장 엔진의 속도를 늦춘다는 게 성장률이 낮아지는 결과로 이어지면 정치적으로 굉장히 위협적이어서거든요.

기업들 생각대로 될지는 좀 지켜봐야 합니다.

영상편집:강지은 신선미/자료조사:박성범

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

서영민 기자 (seo0177@gmail.com)