“AI 스스로가 인류 통제 벗어나는 것은 SF소설” [서울미래컨퍼런스 2023]

제임스 랜데이 美스탠퍼드대 교수

사용자 따라 가짜뉴스 등 부작용
인공지능 개발 미중 양강 구도로

“빅테크 기업인 구글, IBM은 물론 대형은행 웰스파고와 세계 최대 명품 기업 루이비통모에헤네시(LVMH) 등 세계적 기업 10여곳이 ‘인간 중심적 인공지능(AI)’ 개발에 참여 중이다. 미국의 고유한 문화적 가치에 첨단 AI 기술을 접목한 제품과 서비스를 내놓기 위해서다.”

25일 서울 중구 웨스틴조선호텔에서 열린 ‘2023 서울미래컨퍼런스’ 기조강연자로 나선 제임스 랜데이(인간 중심 AI연구소 부소장) 미국 스탠퍼드대 컴퓨터공학과 교수는 ‘착한 인공지능의 한계: 인간 중심 인공지능을 향하여’라는 주제로 기조발표를 마친 뒤 서울신문과의 인터뷰에서 ‘인간 중심적 AI’ 개발에 대한 산업계의 관심이 높다고 밝혔다. 랜데이 교수가 부소장으로 있는 인간 중심 AI연구소는 인간 중심적 가치를 내장한 AI 기술을 확산시킨다는 목표를 갖고 있다. 이미 AI를 활용한 제품과 서비스가 시판되고 있으나 사회적 부작용도 만만찮을 것으로 예상되는 만큼 이를 사전에 대비해 개발 단계부터 착한 AI를 기획한다는 것이다.

랜데이 교수는 “AI가 스스로 인류의 통제를 벗어나 전 세계를 장악한다는 소설 같은 이야기는 전혀 현실적이지 않다”고 선을 그으면서도 대중에 무료 공개된 AI 기술을 나쁜 의도를 가진 이용자들이 악용해 사회에 해를 끼칠 수 있다고 우려했다. AI를 활용해 소셜미디어(SNS)로 허위 정보를 대량 배포하거나 성적 수치심을 일으키는 사진을 만들어 협박하는 범죄는 이미 현실로 다가왔다. 랜데이 교수는 “인간을 표적으로 삼아 자동으로 폭발물을 터뜨리는 방식으로 AI가 전쟁에서 대량 살상 무기로 활용될 수도 있다”면서 “AI는 전 세계 국가의 안보와 국방에 큰 영향력을 미치는 단계로 접어들고 있다”고 진단했다.

전 세계 AI 개발이 미중 양강 구도로 확고하게 수렴하고 있다는 진단도 내놨다. 미국이 선두를 이끄는 상황에서 중국이 국가적 차원의 투자로 AI 산업을 육성한 결과 유리한 위치를 차지하고 있다는 설명이다. 그는 “한국 역시 AI 시스템에 자국의 문화와 가치를 내재하는 기술 개발에 관심을 기울여야 할 것”이라고 말했다.

김성은 기자