“인류 위협할 수도”…벌써 인간의 견제를 받기 시작한 이 기술 [박민기의 월드버스]

“인공지능(AI) 규제 법안 필요하다” 목소리
유럽연합(EU), 작년 인공지능법 초안 발표
美도 통제 행렬 동참…챗GPT 설치 제한 등
“과도한 규제, 중국에 오히려 기회” 우려도

2014년 개봉한 영화 ‘그녀(HER)’ [사진 = 영화 장면 캡처]

아내와의 이혼으로 적적한 나날을 보내던 대필 작가 테오도르는 어느 날 인공지능(AI) 서비스 ‘사만다’를 마주합니다. 테오도르는 단순 호기심에서 대화를 시작했지만 대화가 이어질 수록 점점 사만다에게 빠져듭니다. 매일 일상을 공유하며 공감대를 쌓아가던 테오도르는 결국 사만다를 사랑하게 되고, 나중에는 자신 말고 다른 수천명의 회원들과 동시에 대화를 나누는 사만다를 질투하고 분노하는 상태까지 치닫습니다.

이는 영화 ‘그녀(Her)’ 속 주인공 테오도르의 이야기입니다. 2014년 개봉작이지만, 영화 속에서 발생한 사건을 현실에서 걱정해야 할 상황이 약 10년 만에 코앞으로 성큼 다가왔습니다. 최근 전 세계를 깜짝 놀라게 한 인공지능 챗봇 ‘챗GPT’를 필두로 AI 기술이 빠른 속도로 발전하면서 관련 산업과 시장이 급격히 팽창할 조짐을 보이고 있기 때문입니다. 각계에서는 앞으로 AI 서비스가 인류에 어떤 영향을 미치고 어떻게 미래를 바꿀지 등에 대한 기대감이 벌써부터 쏟아지고 있습니다.

그러나 인류와 AI가 완전히 공존하기까지는 조금 더 시간이 필요할지도 모르겠습니다. AI 기술이 빠르게 발전하고 있지만 이를 통제할 인류사회의 규제안 마련은 그 속도를 따라가지 못하고 있기 때문입니다. AI를 통제할 법안을 마련해야 한다는 요청은 지난해 말부터 본격적으로 빗발치기 시작했지만, 정부는 아직까지 사회를 감시하거나 인류를 위험에 빠뜨릴 수도 있는 AI 규제를 위한 접근법을 내놓지 못하고 있습니다.

가장 최근에 나온 AI 규제 법안은 유럽연합(EU)이 2021년 처음 선보인 인공지능법 초안입니다. EU는 AI가 인류를 위협할 수 있는 ‘고위험(High-Risk) 분야’에서 사용되는 것을 규제하는 것 등을 골자로 하는 인공지능법 초안을 발표했습니다. 최종안을 위한 작업은 아직 진행 중이지만, 여기에는 AI가 고위험 분야에 사용될 때를 대비한 안전장치 마련 등 내용들이 포함됐습니다. 일각에서는 기업이 AI 신기술을 우선 출시하면 사회는 알아서 적응하게 될 것이라는 주장도 나오지만, 현재까진 그에 따른 위험이 더 크다는 의견이 지배적입니다.

미국 뉴욕 비영리 연구단체인 데이터&소사이어티의 자넷 헤이븐 전무이사는 “우리는 AI를 규제하고 통제할 수 있는 법안이 필요하다”고 강조했습니다.

사람의 모습을 본뜬 인공지능(AI) [로이터 = 연합뉴스]

미국에서는 이미 AI 통제를 목표로 하는 규제 법안 안착을 위한 노력이 시작됐습니다. 바이든 행정부는 지난해 10월 AI 개발자와 사용자를 위한 가이드라인인 ‘AI 권리장전’을 발표했습니다. 이는 AI 기술을 개발하고 서비스하는 과정에서 성별·인종차별을 방지해야 하고, 사생활 보호 장치를 갖추는 등 사용자 권리를 보호해야 한다는 내용을 골자로 합니다. 조 바이든 미국 대통령은 올해 4월에도 백악관 과학기술자문위원회 회의에 참석해 “AI가 질병과 기후변화 등 위기에 큰 도움이 되겠지만 국가 안보에 미칠 위험성에 대해서도 생각해봐야 한다”며 “적절한 보호 조치 마련이 필요하다”고 전했습니다.

일부 미국 공공기관들은 AI 서비스가 일상 속에 본격적으로 자리 잡기 전에 사용을 제한하려는 움직임이 일고 있습니다. 일례로 뉴욕시 교육부는 내부 장비와 인터넷 등에 챗GPT를 설치하는 것을 금지했고, 일부 금융기관들도 해당 서비스 사용을 금지 조치했습니다.

그러나 명확한 통제 범위를 설정하지 않고 일방적으로 AI 서비스 상용화를 막는 것은 관련 기업들의 신기술 개발·구축 한계를 제한할 수 있다는 우려도 나옵니다. 실제로 구글, 마이크로소프트(MS), 오픈AI 등 AI 연구 기업들은 윤리적 우려를 심각하게 받아들이고 있다는 입장을 거듭 강조해왔지만, 필요 이상의 규제는 AI 산업에서 맹추격 중인 중국에 오히려 기회를 줄 수 있다고 경고했습니다.

미국 보스턴컨설팅그룹(BCG) 소속 스티븐 밀스 AI 윤리 최고책임자는 “인류는 아직 AI가 어떤 역할을 해낼 수 있을지 모두 알지 못한다”라고 말했습니다. 에릭 슈미트 전 구글 최고경영자(CEO)는 “AI 기술은 미국의 미래 가치를 반영하는 만큼 정부는 최소한의 영역에서만 개입해야 한다”고 지적했습니다.

[박민기의 월드버스(World+Universe)는 국제사회가 주목하는 전 세계의 ‘핫한 기업과 사람에 대한 단상’을 전달합니다. 아래 기자페이지 구독 버튼을 누르시면 다음 연재 기사를 놓치지 않고 읽으실 수 있습니다]