구글 몸담았던 AI전문가 “감시 데이터가 낳은 AI, 세계를 실험 대상 삼았다”

“생성형 인공지능(AI)은 전 세계인의 검색 결과가 녹아든 ‘감시’데이터를 학습했고, 규제가 없는 틈을 타 세계의 이용자들을 실험대상으로 삼았다.”

AI의 사회적 의미를 연구하는 미 뉴욕대 ‘AI나우 인스티튜트’ 공동 창립자 메러디스 휘태커(사진)는 6일 아사히신문과의 인터뷰에서 생성형 AI가 기업의 이익창출을 위한 것일 뿐, 사회적으로 무책임하다고 지적했다. 구글, 메타, 마이크로소프트(MS) 등 빅테크 기업들이 이용자들의 데이터를 수집해 초거대 AI를 탄생시켰고, ‘무료’서비스 간판을 내걸었지만 사실은 이용자들을 대상으로 실험을 하며 기술을 발전시키고 있다는 것이다.

챗GPT와 같은 생성형 AI를 둘러싸고 전문가들의 우려는 이어지고 있다. 미국 비영리기관 ‘라이프 오브 퓨처 인스티튜드’도 지난달 29일(현지시간) “모든 AI 연구소가 챗GPT보다 더 강력한 AI 시스템의 훈련을 최소 6개월 동안 중단할 것을 촉구한다”는 내용의 성명서를 발표했다. 이 성명서에 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 딥러닝 창시자로 불리는 요슈아 벤지오 캐나다 몬트리올대 교수 등 5000여명이 서명했다.

이들은 AI 개발을 전면 중단하자는 게 아니며, AI 연구가 안전하고 신뢰할 수 있는 방향으로 가는 데 초점을 맞춰야 한다고 지적했다. AI가 불러올 사회적 파장을 제어할 수 있는 규제가 전무한 상황에서 AI가 인간의 통제를 벗어날 위험성을 지적한 것이다.

컴퓨터 심리학자인 마이클 코신스키 스탠포드대 교수는 최근 챗GPT에 자신의 컴퓨터를 제어할 코드를 만들라고 제안하자 순식간에 코드를 만들어 컴퓨터를 먹통 직전까지 만들었다는 사연을 트위터에 공개하기도 했다. 그는 “컴퓨터 시스템을 장악할 수 있는 코드를 몇 초 만에 만들 수 있는 AI가 사람들의 컴퓨터를 장악하면, 어떻게 억제할 수 있는가”라고 우려했다.

교육계에서는 AI가 학생들의 학습 능력을 저해할 것이라 우려하고 있고, 노동현장에서는 화이트칼라(사무직)도 AI에 일자리를 빼앗길 것이라는 염려가 퍼지고 있다. 온라인 피싱·사기 기술의 고도화도 생성형 AI의 폐해로 꼽힌다.

아사히와의 인터뷰에서 휘태커는 생성형 AI가 인류를 위한 기술이 아니라, 결국 빅테크만 배불릴 수단이 될 수 있다고 우려했다. 그는 생성형 AI가 기술의 혁신으로 칭송받고 있지만 사실은 혁신의 성과가 아니라고 지적했다. 21세기 들어 미 정보기술(IT) 기업들은 사실상 독과점 형태로 시장을 장악했고 이를 바탕으로 이용자들의 방대한 데이터를 수집하는, 이른바 ‘감시 데이터’로 돈벌이를 했다. 이 데이터를 활용해 광고 수익을 창출하고, AI를 학습시켜 생성형 AI를 내놓았다는 것이다.

휘태커는 “빅테크들은 관련 규제가 없는 틈을 타 전 세계인들을 대상으로 AI실험을 진행하고 있다”며 “단지 영리 목적을 위해 움직이는 빅테크들의 AI는 중립적이지도 않다”고 지적했다. 현재 IT기업들은 정보보호를 핑계 삼아 리소스 공개, 외부 감시 등 사회적 안전장치를 거부하고 있다고 덧붙였다.

2006년부터 13년간 구글에서 일하며 ‘오픈리서치’를 만들기도 한 휘태커는 구글이 윤리적·도덕적 책임은 안중에 없고 오로지 ‘이윤’에 관심이 있다고 지적했다. 그는 “2017년 말에 구글이 미군과 비밀 AI프로젝트를 진행하고 있다는 사실을 알게돼 공개적으로 비판한 적도 있다”며 “AI기술이 감시를 넘어 표적을 유도하고 사람을 해치는데 사용될 수 있다”고 우려했다. 전쟁이나 테러에 관련 기술이 사용될 가능성도 배제할 수 없다는 것이다.

결국 관련 규제를 시급히 마련해야 하지만 이또한 쉽지 않을 것이라고 휘태커는 내다봤다. 그는 “이미 거대 IT기업들은 큰 힘을 가지고 있고, 정부 기관과 사회 인프라의 대부분이 이들 기업에 의존하고 있다”며 “이들 기업이 수억 달러를 들고 정부에 로비를 펼쳐왔고, 지난 20년 간 IT 관련 규제는 거의 작동하지 않았다”고 지적했다.

이윤정 기자 yyj@kyunghyang.com