“규제 없는 AI, 감독없는 무법지대 연상”… 美 의회도 딜레마

[미국 AI 열풍 현장을 가다]
과학·의료 개선 등 장점 인정하지만
편견·신체적 위해 등 해악도 지적
파멸 확률 ‘P(Doom)’ 용어까지 등장

바오바오 창(오른쪽 두 번째) 시러큐스대 교수를 비롯한 ‘고위험 인공지능(AI)에 관한 공공의회’ 프로젝트 관계자들이 지난달 13일(현지시간) 워싱턴DC의 브루킹스연구소에서 프로젝트 결과에 대해 설명하고 있다.

“서부개척시대의 무법지대(wild, wild west) 같다. 감독자가 없다는 것에 너무 놀랐다. 특히 건강기록 데이터는 정말 큰 문제다. 모든 유형의 개인정보를 다룬다는 게 충격적이다.”

지난달 13일(현지시간) 미국 워싱턴DC의 브루킹스연구소 회의실에서 앨라배마주의 창고 노동자 더글러스 트로터(44)는 자신이 배운 인공지능(AI) 시대의 모습을 이렇게 묘사했다.

트로터는 바오바오 창 시러큐스대 교수가 신민주과정연구소(CNDP)와 공동진행한 ‘고위험 AI에 관한 공공의회’ 프로젝트 참여자다. 창 교수는 미국 전역에서 인구 표본을 대표하는 시민 40명을 모아 대중 관점에서 규제 논의를 시작하려고 이번 연구를 진행했다.

참여자들은 2주간 AI 전문가들로부터 인터넷 검색기록, 안면인식 등 생체정보, 의료기록, 행정기록 등 4가지 분야 데이터의 활용과 그에 따른 혜택 및 폐해에 대해 교육을 받았다. 이후 참여자들끼리 의견을 나누며 규제 방향을 도출하는 방식으로 프로젝트가 진행됐다.

창 교수는 “AI는 과학적 발견의 진전, 의료 진단 개선 등 여러 분야에서 도움을 줄 수 있지만 편견·차별·가짜정보 등을 확산시킬 수 있고 신체적 부상이나 사망에까지 이르는 해악도 초래할 수 있다”고 말했다. 그러면서 “AI 개발·배포는 공공가치에 우선순위를 둬야 하지만 불행히도 지금은 AI 미래에 대한 주요 결정이 AI 거물들에 의해 독점적으로 이뤄지고 있다”고 지적했다.

참여자들도 AI의 장점을 인정하면서도 부정확한 시스템의 제한 없는 배포, 편향된 데이터를 기반으로 한 저품질 추천 문제를 우려했다. 그로 인한 시민권이나 민주적 절차의 훼손 문제도 지적했다. 비윤리적인 데이터를 수집했어도 책임 소재가 불분명한 것 역시 문제점으로 지목했다.

시민들의 인식은 ‘더 빠르고 강력한’ AI 개발에 사활을 건 업계와 간극이 커 보였다. 프로젝트 참여자들은 개발자와 기업의 책임이 크다고 입을 모았다. AI 시스템 배포 전 테스트는 물론 배포 이후 기능이 의도대로 작동하는지 확인할 의무를 개발자 등에 부여하고, 오작동에 대한 법적 책임도 지도록 해야 한다고 제안했다. 은퇴한 변호사 토비 로스차일드는 “나는 AI에 익숙하지만 그게 어떻게 작동됐는지는 몰랐다”며 “이제는 우리가 갖게 된 우려를 정책결정자에게 어떻게 전달해야 할지 고민하게 됐다”고 말했다.

미 의회도 규제 없는 AI의 위험성에 공감하고 있다. 지난달 6일 미 상원 회의실에선 ‘파멸 확률(the probability of doom)’을 뜻하는 ‘P(Doom)’라는 용어까지 등장했다. 인간 두뇌를 능가하는 범용인공지능(AGI)의 등장과 그로 인해 인류 파멸 시나리오가 펼쳐질 수 있는지를 수치로 표현하는 단어다.

척 슈머 민주당 상원 원내대표는 AI 입법을 위해 지난해 9월부터 9차례 전문가 포럼을 개최했는데, ‘최후의 날 시나리오’를 주제로 한 8차 회의에서 17명의 패널에게 AGI로 인한 파멸 확률을 30초 이내로 말하라고 요구했다.

P(Doom)는 AGI 전문가 엘리저 유드코프스키가 10여년 전 블로그에서 처음 사용한 이후 온라인 게시판에서 AI 괴짜들의 농담 수준으로 퍼졌다. 그러다 챗GPT가 촉발한 AI 붐이 실질적인 두려움을 불러일으키며 주류 논의에까지 등장한 것이다.

포럼에 참석한 말로 브르곤 머신인텔리전스연구소(MIRI) 최고경영자(CEO)는 “상원 포럼에서 파멸 확률이 언급된 것은 정말 초현실적이고 정신이 번쩍 들게 하는 일”이라고 말했다.

그러나 패널로 참석한 AI 업계 인사 대부분은 파멸 확률을 제로(0)에 가깝게 제시했다. 이를 두고 AI 석학 스튜어트 러셀 UC버클리대 교수는 “그들은 모두 AI 회사에서 일하거나 투자하는 등 금전적 이해관계가 있는 사람들”이라며 “‘극단적 위험은 존재하지 않는다’고 말하는 기득권층과 규제 토론을 한다는 사실에 실망했다”고 토로했다.

국가안보를 주제로 열린 9차 포럼에서도 규제와 개발 사이에서 딜레마에 빠진 미 의회의 모습이 그대로 드러났다. 인권단체 미국시민자유연맹(ACLU) 패트릭 투미 부국장은 “국방부 등 연방기관이 광범위하게 AI를 도입하고 있는데 정부는 이들 기관에 AI 규제와 관련한 전면적인 예외나 면제를 허용하고 있다”고 비판했다.

반면 업계 대표들은 중국 등 경쟁국을 언급하며 AI 기술 개발을 가속화하기 위해 더 많은 정부 지원이 필요하다고 주장했다. 슈머 원내대표도 모두발언에서 중국을 8차례나 언급하며 “국가안보 목적의 AI 논의에서 대중국 경쟁의 중요성을 무시할 수 없다”고 강조했다.

현재 미국에선 조 바이든 대통령의 AI 행정명령 외에 명확한 AI 규제법은 마련돼 있지 않다. 유럽연합(EU)이 최근 세계 최초로 포괄적인 AI 규제법에 합의했지만 적용까지는 1~2년이 더 걸리고 실제 효과를 낼지도 의문이다.

뉴욕타임스는 “AI 시스템은 예측할 수 없을 정도로 빠르게 발전하고 있으나 의회와 규제 당국은 그 속도를 따라잡지 못하고 있다”며 “정부의 AI 지식 부족과 미로 같은 관료주의, 강력한 규제가 기술의 혜택을 제한할 수 있다는 우려로 격차는 더욱 심화되고 있다”고 지적했다.

워싱턴=글·사진 전웅빈 특파원 imung@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지