“딥페이크 활개, 일자리도 빼앗고”...‘터미네이터 세상’ 막으려면

최근 딥페이크와 일자리 축소 등의 부작용으로 논란이 확산하고 있는 생성형 인공지능(AI).

기술의 발전을 막을 수 없는 상황에서 어떻게 하면 생성형 AI 기술을 잘 활용하고 부작용은 최소화할 수 있을지 전문가들이 머리를 맞댔다.

28일 국민생활과학자문단이 주최로 열린 국민생활과학기술포럼에서 권태경 연세대 정보대학원 교수는 최신 AI 기술 동향을 살폈다.

권 교수는 “가장 최근 나온 대규모 월드모델(LWM) 의 경우 1시간이 넘는 길이의 동영상을 입력하더라도 이를 다 파악해 사용자 질문에 정확히 답변을 한다”며 “기존 생성형 AI와 달리 더욱 막대한 양의 데이터와 복잡한 모델을 통해 고도의 지능과 창의력을 발휘할 수준까지 발전하는 모습이다”고 말했다.

그러면서 생성형 AI를 활용해 교육과 연구, 법률 및 의료 업무에서의 생산성 향상이 빠르게 이뤄지고 있다고 진단했다.

다만 규제 범위를 넘어 계속 이뤄지는 기술 발전에 따라 AI가 대체할 일자리 문제 등에 관해 우려했다.

권 교수는 “AI 활용으로 직무적인 변화 뿐 아니라 직군 마저도 큰 기로에 설 것”이라며 “이같은 일자리 변화를 준비할 때 개개인의 준비도 중요하지만 정부 등 집단 차원의 준비도 필요하다”고 지적했다.

이날 발제자로 나선 김남철 과학기술정보통신부 정보통신정책실 정보통신정책총괄과장도 “생성형 AI 발전으로 가장 우려되는 부분이 일자리”라며 “앞으로 3년내 우니라나 전체 일자리의 50%가 AI 영향을 받을 것으로 분석된다”고 말했다.

그러나 김 과장은 기본적으로 생성형 AI가 기존 사람의 일자리를 뺏는다기보다는 직무 변화를 가져온다고 분석했다.

그는 “생성형 AI가 우리 사회에 최대한 적용됐을 때 2026년 310조원의 경제적 효과를 창출할 것이란 분석 결과가 있다”며 “그러므로 어떻게 하면 AI를 잘 활용해 우리 산업 발전에 기여할 수 있을지 고민해야한다”고 주장했다.

최근 논란이 되고 있는 딥페이크 성착취물과 관련해서 김 과장은 “딥페이크 탐지 및 차단 기술을 지난 2022년부터 과기부에서는 활용해오고 있다”고 했다.

그러면서 그는 “사실 딥페이크 용어 자체는 가치 중립적”이라며 “따라서 기술의 부작용을 최소화해 AI 산업을 안정적으로 발전하기 위해 AI기본법 제정을 준비 중에 있다”고 말했다.

이와 관련 김 과장은 대통령을 위원장으로 하고 민간 위원들과 함께 AI산업 발전을 위해 머리를 맞댈 ‘국가인공지능위원회’ 설립해 오는 9월 중 출범예정이라고도 밝혔다.

윤혜선 한양대학교 법학전문대학원 교수는 생성형 AI와 같은 새로운 기술과 위험요소에 대한 제도적 대응이 시급하다고 주장했다.

윤 교수는 “특히 생성형 AI는 우리가 생각지도 못한 속도로 빠르게 발전하고 있다”며 “기존 기술과 달리 법적인 대응 체계가 그만큼 빠르게 대응하기 어렵고, 그래서 법체계가 도전받고 있다”고 진단했다.

이같은 현실은 우리나라 뿐 만이 아니라 미국과 유럽 등 다른 나라에서도 마찬가지라고 윤 교수는 덧붙였다.

그는 “8월 1일자로 유럽연합(EU)에서도 AI 법이 발효돼 시행 중”이라며 “이같은 법에는 공통적으로 어떻게 하면 유용한 생성형 AI를 안전하게 활용할 수 있을지 고민이 담겨 있다”고 말했다.

우리나라에서도 AI기술 발전에 따른 규제를 논할 때 크게 4가지 관점에서 살펴볼 필요가 있다는 게 윤 교수의 설명이다.

윤 교수는 “우선 생성형 AI가 어떻게 어디에서 활용될지 모르므로 관련 우려를 불식시키기 위해선 리스크를 기반으로 규제를 강하게 해 접근해야 한다는 의견이 있다”며 “이는 인간의 생명과 직결되는 의료기기나 자율주행과 같은 분야에 해당된다”고 설명했다.

‘적응형 거버넌스를 구축하자’도 의견도 나온다.

윤 교수에 따르면 이 방식은 법률 체계에서는 AI 관련 큰 원칙만 정해놓고 빠른 기술 변화에 따른 규제는 정부가 또는 민간과 협업해 정하는 것을 골자로 한다.

또한 규제샌드박스를 확대 운영하는 방법이 있다. 법 자체는 경직돼 있고 입법 절차에서 속도를 내기 어려운 게 사실이다. 따라서 실시간 규제샌드박스 등을 도입해 빠르게 진화하고 있는 AI기술 변화에 속도를 맞추자는 얘기다.

이밖에 다양한 국제규범과 조화롭게 국내 법 체계를 정비할 필요성이 크다는 주장이 나온다.

윤 교수는 “AI와 관련된 다양한 이해관계자들이 참여해 거버넌스를 구축할 필요가 있다”며 “특히 국제적인 규범을 만들 때 우리나라 문화와 상황 등이 적극 반영될 수 있도록 노력하는 것이 필요하다”고 말했다.