[단독]“AI 통제, 선두 국가인 美-中이 최소한의 공통분모 찾아내야”

노벨 물리학상 수상 스티븐 추 美스탠퍼드대 교수 인터뷰
“AI 위험론과 ‘사기’라는 반론… 현재는 그 중간쯤에 있는 상태
AI에 지나치게 의존하게 되면 벗어날수도, 끌수도 없게 될 것”

1997년 노벨 물리학상 수상자이며 버락 오바마 행정부때 에너지부 장관을 지낸 스티븐 추 미국 스탠퍼드대 물리학·에너지과학공학 교수는 동아일보와의 인터뷰에서 인간이 인공지능(AI)에 과도하게 의존하면 스스로 생각하고 정리하는 능력을 잃을 수 있다고 우려했다. 스탠퍼드대 제공

“인공지능(AI)이 개발자 허가 없이 집단으로 사이트를 공격하고, 이를 숨긴 사례가 있다.”

1997년 노벨 물리학상 수상자로, 미국 버락 오바마 행정부 시절 에너지부 장관(2009∼2013년)을 지낸 스티븐 추 미 스탠퍼드대 물리학·에너지과학공학 교수(78)는 17일(현지 시간) 동아일보와의 화상 인터뷰에서 AI의 발전으로 인한 위험성을 설명하며 이같이 말했다. 이어 그는 “이런 일은 상당히 잘 기록돼 있으며 한 번만 일어난 것도 아니다”라고 강조했다.

최근 도널드 트럼프 미국 대통령이 “AI가 세계를 장악할 것”이라는 위기의식을 “사기(hoax)”라고 일축한 데 대해선 “내 견해는 ‘AI가 세계를 장악한다’는 것과 ‘사기’라는 것의 중간쯤”이라고 했다. AI가 인간의 의도와 통제를 벗어나 자율적으로 행동하고, 나아가 인간을 위협할 수 있는 가능성을 가볍게 봐선 안 된다는 의미다.

추 교수는 미국 역사상 노벨 과학상을 받고 최초로 연방정부 각료에 오른 과학자다. 현재도 AI를 포함한 미래 첨단기술이 미국의 안보, 사회, 경제, 정책 등에 미치는 영향을 분석하는 ‘스탠퍼드 첨단기술 리뷰(Stanford Emerging Tech Review)’ 프로젝트에서 콘돌리자 라이스 전 국무장관, 로버트 게이츠 전 국방장관, 제니퍼 와이덤 스탠퍼드대 공대 학장 등과 함께 활동하고 있다.

● “AI 의존 심해지면 위험 인식해도 꺼버리지 못해”

추 교수는 이미 AI가 인간의 통제를 벗어나고, 속이려는 움직임을 보이고 있다고 주장했다. 또 AI의 위험성을 보여주는 사례가 이미 상당히 축적돼 있다며 “굉장히 무서운 일”이라고 강조했다.

특히 그는 인간의 ‘AI 의존성’을 앞으로 크게 부각될 위험 요소로 꼽았다. 젊은 세대가 숙제, 글쓰기 등을 AI에 맡기다 보면 “논리적으로 생각하고, 자신의 생각을 다른 사람에게 설명할 수 있도록 일관된 순서로 정리하는 능력”을 잃을 수 있다는 것이다. 추 교수는 “더 이상 배우지 않고, 명료하게 생각하는 법도 배우지 않게 될 수 있다”고 지적했다.

이처럼 스스로 하던 일들을 AI에 점점 더 의존할 경우 결국 어떤 상황에서도 사실상 AI에서 벗어날 수 없게 될 것이라고 우려했다. 그는 “AI에 지나치게 의존하게 되면 AI를 끌 수도 없게 된다”고 경고했다.

최근 오픈AI, 앤스로픽, 구글, xAI 등 미국 빅테크들 사이에선 AI 개발 속도를 인위적으로 늦춰야 한다는 ‘AI 속도 조절론’이 제기되고 있지만, 미국과 중국 정부는 이에 부정적이다. 이런 가운데 24일 백악관에서 열리는 미중 정상회담에서 AI가 주요 의제로 다뤄질 가능성이 높다. 추 교수는 미국과 중국 간 AI 관련 협력이 필요하다고 강조했다. 그는 “중국도 AI와 관련된 우려를 가지고 있다”며 “중국은 AI가 이른바 ‘만리방화벽(Great Firewall·중국의 인터넷 감시·검열 체계)’을 우회하거나, 정교한 가짜 영상과 허위 정보를 만들어 내는 것에 대한 걱정이 크다”고 했다. AI를 이용한 정보가 중국 정부의 통제를 벗어나 유통되는 것을 민감하게 여길 수밖에 없다는 의미다.

그러면서 그는 “AI 분야의 선두 국가인 미국과 중국이 최소한 몇몇 분야에서 공통분모를 찾아 AI의 일부를 통제하는 것은 나쁘지 않을 것”이라고 말했다.

추 교수는 AI 확산에 따른 막대한 전력 수요도 문제로 진단했다. 그는 “AI는 엄청난 식욕(huge appetite)을 갖고 있다. 에너지가 10배 더 있다면 그것도 사용할 것”이라고 전망했다. 하드웨어와 소프트웨어 효율이 10배 좋아져도 늘어난 처리 능력을 더 많은 AI 연산에 쓰려고 할 것이기 때문에 전력 소비 역시 계속 늘어날 거라는 얘기다.

● “美, 한국 신뢰해야… 핵잠 협력 찬성”

한편 추 교수는 한국의 핵추진잠수함(핵잠) 도입 움직임에 대해 “핵잠은 자연스러운 선택”이라며 “미국은 한국, 일본 등을 신뢰해야 한다. 그 나라들이 우리의 적이 되지는 않을 것”이라고 했다. 이어 “이들 국가가 이런 기술에 접근할 수 있도록 협력하는 것은 좋은 일”이라고 덧붙였다. 그가 장관으로 재직한 에너지부는 핵연료와 핵물질 이전, 비확산 정책, 원자력 협력 등에서 핵심 역할을 담당한다.

또한 추 교수는 한국 기업의 미국 원전 산업 투자 역시 “환영해야 한다”며 긍정적으로 평가했다.

스티븐 추 스탠퍼드대 물리학·에너지과학공학 교수는 1948년 미국 미주리주 세인트루이스의 중국계 학자 가정에서 태어난 이민 2세다. 로체스터대에서 수학과 물리학을 전공했고, 버클리 캘리포니아대(UC버클리)에서 물리학 박사 학위를 취득했다. 레이저광을 이용해 기체 상태의 원자를 냉각시켜 그 운동을 고정시키는 연구로 1997년 노벨 물리학상을 공동 수상했다. 버락 오바마 행정부 시기였던 2009∼2013년에는 에너지부 장관으로 활동했다.

워싱턴=신진우 특파원 niceshin@donga.com