“인류에 심대한 위협” vs “규제 시기상조”…AI 어이할꼬
최근 전 세계를 떠들썩하게 만든 사진 한 장이 있다. 미국 국방부 청사 ‘펜타곤’ 옆으로 검은 연기 기둥이 치솟고 있는 사진이다. 해당 사진은 트위터를 통해 일파만파 퍼져 나갔다. 팔로워가 300만명이 넘는 러시아 매체 트위터 계정에서 “펜타곤 근처에서 폭발이 있었다”는 소식을 올리며 상황은 더 악화됐다.
‘펜타곤 폭발’은 생성형 인공지능(AI)이 만든 ‘가짜 사진’이라는 것이 밝혀지면서 사태는 일단락됐다. 해프닝으로만 치부하기에는 사안이 무겁다. 폭발 소식이 퍼진 직후 다우존스30산업평균지수가 4분 동안 80포인트 가까이 급락하고 금·국채 가격이 출렁이는 등 자본 시장에까지 영향을 끼쳤기 때문이다.
심각성을 인지한 각국 정부는 ‘AI 규제법’ 마련에 속도를 내고 있다. 미국과 유럽연합(EU), 중국을 비롯해 국내에서도 정치권을 중심으로 관련법에 대한 논의가 활발히 진행 중이다. 하지만 규제에 반발하는 움직임도 있다. ‘부작용은 인정하지만 규제는 시기상조’라는 입장이다. AI 산업이 아직 태동하는 단계인 만큼 규제보다는 진흥과 육성에 보다 초점을 맞춰야 한다는 의견이다.
딥러닝 개념 창시자 “일생을 후회한다”
챗GPT 아버지도, 머스크도 “AI 위험하다” 동참
AI 개발에 참여했던 기업인과 연구진이 최근에는 생성형 AI 비판에 앞장서고 있다는 점이 이채롭다.
딥러닝 개념을 처음으로 고안했고 챗GPT 개발 토대를 닦은 것으로 평가받는 세계적인 AI 석학 제프리 힌튼 토론토대 교수가 대표적이다. 그는 올해 5월 자신이 만든 AI 기술 위험성을 경고하며 구글에 사표를 냈다고 밝혔다. ‘뉴욕타임스’와 인터뷰에서 그는 가짜 뉴스, 일자리 대체, 킬러 로봇 등에 대한 문제를 지적하며 “나의 일생을 후회한다. 구글, 마이크로소프트 등 빅테크 AI 개발 경쟁을 멈추게 할 규제가 필요하다”고 말했다.
일론 머스크 테슬라 CEO도 AI 경고 릴레이에 동참했다. 그는 “AI가 인류를 위협할 군사적 용도로 활용될 가능성이 충분하다”며 정부가 나서서 통제해야 한다는 입장을 밝혔다.
심지어 ‘챗GPT 아버지’라고 불리는 샘 올트먼 오픈AI CEO조차 규제 논의를 찬성하고 나섰다. 그는 “설득과 조작에 능한 AI가 1 대 1 대화형 허위 정보를 제공하는 것이 가장 우려된다”며 민주주의 선거 제도에 심대한 위협이 될 수 있다고 말했다.
생성형 AI 사용을 자체 금지하는 기업도 늘어나고 있다. 삼성전자가 대표적이다. 삼성전자는 기술 유출 위험이 있다며 사내 PC에서 챗GPT 사용을 금지했다. 지난 3월 내부 직원이 보안코드를 챗GPT에 실수로 입력해 정보가 유출된 사건에 따른 조치다. 지침 위반 시 최대 해고를 포함한 징계를 받을 수 있다고 경고한 것으로 알려졌다. 이 밖에도 뱅크오브아메리카, 골드만삭스 등 글로벌 금융사는 일찍이 챗GPT 사용을 전면 금지한 바 있다.
AI 규제 속도 내는 각국 정부
美 ‘AI 청문회’, EU는 규제법 초안 상임위 통과
미국은 올해 초부터 AI 규제법 마련에 나서고 있다. AI가 잘못된 결정으로 피해를 입히는 경우 그 책임 소재를 묻는 ‘알고리즘 책임법’, AI가 개인 데이터를 수집·사용하는 것을 규제하는 ‘데이터 개인정보보호법’ 논의가 대표적이다. 미국 일리노이주는 기업이 영상 면접에 AI 기술을 이용할 때 면접 참가자 동의를 받도록 하는 ‘AI 영상면접법’을 통과시켰고, 워싱턴주는 AI가 공공기관에 영향을 미칠 가능성이 있는 경우 해당 기업 최고정보책임자(CIO)가 규제 체계를 마련하게끔 했다. 올해 5월 미국 의회에서는 ‘AI 청문회’가 열리기도 했다. AI 위험성을 지적하고 적절한 규제가 필요하다는 데 의견을 모았다. 중국 등 경쟁국이 AI를 악용할 경우 발생할 해악을 우려하며 별도 규제 기구를 설립하자는 얘기도 나왔다.
유럽연합은 2년 전부터 논의돼온 ‘인공지능법’ 초안이 최근 유럽의회 상임위원회를 통과하며 규제 급물살을 탔다. AI 응용 프로그램을 위험도에 따라 4개 등급으로 평가·분류하고 가장 위험한 ‘용납 불가’ 등급은 배포·사용을 금지하는 내용을 담았다. 인간이 인식하지 못하는 기술로 어린이·장애인 등 취약층 행동을 조종·왜곡하거나 다른 사람을 해칠 가능성이 있는 경우 등이 ‘용납 불가’ 등급에 해당한다.
AI 선진국으로 평가받는 중국도 규제에 속도를 내는 모습이다. 중국 국가인터넷정보판공실(CAC)은 최근 AI 기업이 따라야 할 규정과 이를 어길 시 처벌 규정을 담은 가이드라인 초안을 발표했다. 모든 기업은 AI 관련 서비스를 내놓기 전 당국 보안 평가를 받아야 하며, 서비스 이용자에게도 실명 제출을 요구해야 한다는 내용이 담겼다.
“핵무기 소수 국가 집중, AI에도 재현될 것”
‘AI 규제’ 논의는 국내로 확산됐다. 현재 국회에는 AI 관련 법안이 10건 넘게 발의된 상태인데 대부분 규제 방안이다. 정부도 규제 필요성에 동의하는 모습이다. 이종호 과학기술정보통신부 장관은 지난 5월 진행된 취임 1주년 기자간담회에서 “미국 AI 청문회에서 AI 부작용으로 민주주의나 보편적 가치가 위협받을 수 있다는 문제 제기가 나왔다. 국내도 체계적으로 검토해 반영하겠다”고 말했다.
다만 AI업계와 학계는 ‘급할 필요 없다’는 입장이다. AI 후발 주자인 한국에서 선제적으로 법제화에 나설 경우 향후 기술 경쟁력을 완전히 잃게 될 가능성이 크다고 우려한다. 신진우 카이스트 AI대학원 석좌교수는 “AI 후발 주자인 한국 입장에서 각국의 AI 규제 움직임은 기회다. 굳이 한국이 앞장서서 규제 방안을 만드는 것은 현실적으로 실효성도 없고, 성장하는 산업을 막아서는 꼴”이라고 지적했다.
AI 사업을 진행 중인 기업도 신 교수와 비슷한 의견이다. AI 산업은 진흥·육성할 단계지 벌써부터 규제를 논의하는 것은 시기상조라는 주장이다. 이진형 KT AI사업본부 라지 AI TF 담당은 “글로벌 빅테크가 막대한 투자와 연구개발을 통해 이미 시장을 장악해나가고 있다. 이런 상황에서 법안이 생기면 국내 기업 성장이 가로막힐 수 있다”고 밝혔다.
익명을 요구한 AI 스타트업 대표는 “선진국 규제를 무작정 따라 했다가는 AI 기술을 일부 국가만 보유하게 될 가능성이 있다”며 “마치 현재 미국, 중국 등 일부 국가만 핵무기를 보유한 것과 마찬가지 상황이 벌어질 수 있다”고 덧붙였다.
첨예한 갈등이 이어지자 새로운 대안도 제시되고 있다. 규제 필요성에는 공감하지만, AI 경쟁력 강화를 위해 규제를 최소화하자는 것이다. 대표적인 방안이 ‘표시 방식’이다. ‘AI가 만들어낸 콘텐츠’라는 것을 의무적으로 공개하면 가짜 뉴스와 저작권 침해 부작용을 최소화할 수 있다는 의견이다. 이경전 경희대 빅데이터응용학과 교수는 “세계 각국이 공통된 아이콘을 만들어 ‘이것은 사람이 아니다’라는 점을 표시하도록 해야 한다. AI 챗봇 서비스에도 대화 중간 중간에 ‘나는 사람이 아닌, 인공지능’이라는 점을 주기적으로 표시해야 한다”고 제안했다.
[본 기사는 매경이코노미 제2211호 (2023.05.31~2023.06.06일자) 기사입니다]
Copyright © 매경이코노미. 무단전재 및 재배포 금지.