막 내린 AI 정상회의…글로벌 전문가들이 우려한 'AI 부작용'은(종합)

거버넌스AI 정책센터 총괄 "할머니 목소리 흉내 금전 요구"…정부 역할론 강조
"여성 AI 불균형 문제, 논의되지 않아…젠더에 기반한 편향성 철폐해야"

[아이뉴스24 안세준 기자] 글로벌 인공지능(AI) 분야 전문가들이 AI 시대 도래에 따른 부작용에 대해 청소년 무분별 노출, 온라인 장치 접근성 저하에 따른 여성의 AI 불균형 혜택, 중소기업들의 AI 도입 소외 등을 거론했다. 사람의 목소리를 흉내 내고 금전적인 대가를 요구하는 딥페이크 범죄에 대한 대비도 갖춰야 한다는 주장도 나왔다.

22일 오후 한국과학기술연구원(KIST) 대회의실에서 전문가 세션 1(디지털 공동번영 사회를 위한 디지털 권리 보장)이 진행되고 있다. [사진=안세준 기자]

22일 오후 한국과학기술연구원(KIST) 대회의실에서 열린 전문가 세션 1에서 파멜라크리립코우스카 폴란드 디지털부문 총괄은 "폴란드의 경우 청소년들이 휴대폰을 하루 6시간 이상 사용하고 있다"며 "이들을 위한 안전한 환경을 보장해야 한다"고 주장했다. AI를 통해 다양한 콘텐츠가 생성되고 있는 만큼 이를 식별하는 워터마킹이 필요하다는 게 그의 주장이다.

이성웅 아마존웹서비스코리아 AI&ML 정책책임자는 "다양한 방식을 통해 AI의 부정적인 사용을 막고 아이들이 온라인 착취 대상이 되지 않도록 노력하고 있다"고 말했다. AI 활용으로 특정인에 대한 권리가 침해받아선 안된다는 것이다.

소비자 뿐만 아니라 기업도 해당한다. 그는 "상대적으로 규모가 작은 기업들은 AI 도입에 있어 소외될 수도 있다"며 "AWS는 AI에 대한 접근성, 대중화가 중요하다고 생각하고 있다"고 말했다.

사람의 목소리를 흉내 내는 범죄에 대한 대비책을 강구해야 한다는 주장도 제기됐다. 마커스 앤더리룽 거버넌스AI 정책센터 총괄은 "(AI 시대 도래에 따라) 사이버 공격의 경우 지금보다 훨씬 더 저렴하게 범죄를 저지를 수 있게 됐다. 예를 들어 할머니의 목소리를 흉내 내어 돈을 보내달라는 딥페이크 사기가 있다"며 규제 마련에 따른 정부의 역할론을 당부했다.

딥페이크 신종 범죄에 대한 대응 필요성은 이미 국내에서도 제기된 바 있다. 앞서 이종호 과학기술정보통신부 장관은 국회 과학기술정보방송통신위원회(과방위)에 계류 중인 AI 기본법의 빠른 통과를 요청하면서 "“AI 기본법이 통과돼야 사람의 목소리를 정교하게 흉내 낸 딥보이스 범죄도 막을 수 있다. 이 같은 신종 범죄를 처벌할 수 있는 규정을 시행령에 담아야 다가올 위험을 해소할 수 있다"고 했다.

아만다 매냠 오드리 디지털법&권리 고문은 이 자리에서 "전문가들이 AI에 있어 소외된 계층을 언급한 점은 흥미롭다"면서도 "여성들이 얼마나 불균형적으로 AI 혜택을 받지 못하고 있는지에 대해서는 논의는 없었다"고 토로했다. 여성이 직면하고 있는 오프라인상에서의 피해들이 온라인으로 악화되고 있다는 게 그의 시각이다.

아만다 매냠 오드리 디지털법&권리 고문이 여성의 AI 혜택 불균형에 대해 발언하고 있다. [사진=안세준 기자]

그는 "(여성의 입장에서) AI는 더 많은, 어려운 문제들을 만들어 냈다. 여러 피해와 차별, 여성이 직면하고 있는 오프라인상의 여러 문제가 온라인에서 더 악화되고 있다"며 "다양성을 가진 모든 계층을 보호하기 위해서는 기술을 통한, 젠더에 기반한 편향성을 철폐해야만 한다. 여성 등 젠더 보호장치 역할을 하는 전세계 표준을 시민사회, 정부 등이 함께 협력해서 만들어야 할 것"이라고 언급했다.

하정우 네이버클라우드 AI이노베이션센터장은 개인 프라이버시 문제 등을 해결하는 데 집중하고 있다고 했다. 그는 "네이버는 프라이버시 문제에 대응하기 위한 전담팀도 꾸려져 있고, 저희 연구팀에서도 통합적인 프라이버시 연구를 진행 중"이라며 "다양한 데이터를 활용하면 사용자를 위한 모델을 향상시킬 수 있지만, 사용자들이 이를 좋아하지 않을 수도 있다. 그렇기 때문에 반드시 사용자 동의·승인을 받아야만 한다"고 했다.

강도현 과학기술정보통신부 제2차관이 기조연설하고 있다. [사진=안세준 기자]

한편 지난 21일부터 22일까지 양일간 서울에서 개최된 'AI 서울 정상회의'와 'AI 글로벌 포럼'은 이날 전문가 세션을 끝으로 막을 내렸다. 지난해 영국에 이어 한국에서 열린 두 번째 AI 정상회의다. 이종호 과기정통부 장관은 "이번 AI 서울 정상회의와 AI 글로벌 포럼 개최를 바탕으로 확보한 리더십을 바탕으로 앞으로도 글로벌 AI 거버넌스와 규범 정립을 위해 국제사회와 긴밀하게 연대해 나가겠다"고 했다.

/안세준 기자(nocount-jun@inews24.com)