"딥페이크, 민주주의까지 위협… 부작용 막을 가드레일 필요" [AI월드 2024]

인간과 AI의 공존 파올로 베난티·정재승 특별대담
물리적 제한 없는 디지털기술
결국은 사용하는 인간의 문제
새로운 글로벌 거버넌스 위해
이해관계자 논의의 장 만들어야

국내외 AI 전문가 한자리.파이낸셜뉴스와 과학기술정보통신부 공동주최로 5일 서울 송파구 롯데시네마에서 열린 'AI월드 2024'에 참석한 VIP들이 기념촬영하고 있다. 앞줄 왼쪽부터 시계반대방향으로 제이슨 자오 스토리 공동대표, 봉욱 김앤장 변호사, 전선익 파이낸셜뉴스 부회장, 손경식 한국경영자총협회 회장, 최태원 대한상공회의소 회장, 전재호 파이낸셜뉴스 회장, 유상임 과학기술정보통신부 장관, 김창경 디지털플랫폼정부위원회 위원장, 김창범 한국경제인협회 상근부회장, 김득중 정보통신산업진흥원(NIPA) 부원장, 유영준 뤼튼테크놀로지스 공동창업자, 이승윤 스토리 공동대표, 류근찬 HD현대 전무, 핸리 해거드 정책 및 전략 고문, 김용선 한국지식재산보호원 원장, 김홍재 파이낸셜뉴스 편집국장, 변동식 파이낸셜뉴스 사장, 홍진배 정보통신기획평가원장, 파올로 베난티 프란치스코 교황 AI윤리부문 고문, 이충용 대한전자공학회 회장, 노동일 파이낸셜뉴스 주필 사진=박범준 기자

파이낸셜뉴스와 과학기술정보통신부 공동주최로 5일 서울 송파구 롯데시네마에서 열린 'AI월드 2024'에서 파올로 베난티 프란치스코 교황 AI윤리부문 고문(왼쪽)과 정재승 KAIST 뇌인지과학과 교수(융합인재학부 학부장)가 특별대담을 하고 있다. 사진=서동일 기자

"디지털 기술은 물리적 제한이 없다는 점에서 매우 강력하다. 딥페이크(이미지 합성기술)는 간접 성범죄뿐만 아니라 여론을 조작해 국가의 민주적 기능을 손상시킬 수도 있다. 이는 기존의 규제를 무시하기 때문에 '글로벌 거버넌스'가 필요하다."

파올로 베난티 프란치스코 교황 AI윤리부문 고문은 5일 서울 송파구 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동개최한 'AI월드 2024'에서 이같이 강조했다. 베난티 고문은 이날 정재승 KAIST 뇌인지과학과 교수와 '인간과 AI의 공존'이라는 주제로 가진 특별대담에서 AI 윤리에 대한 중요성을 되짚었다.

그는 "AI 윤리는 사용하느냐 마느냐가 아니라 이 기술을 우리 사회구조와 어떻게 조화시킬 것인가의 문제"라며 "(딥페이크와 같은) 다른 기술들과 관련된 경험을 돌아보고 이를 통해 도움이 될 만한 요소를 찾아야 한다"고 설명했다.

대한민국은 최근 AI를 활용한 '딥페이크'가 심각한 사회적 문제로 대두하고 있다. 학교에선 10대들이 딥페이크에 무차별하게 노출되며 피해자가 속출하고 있고, 연예인들도 딥페이크 영상의 표적이 되며 고통을 호소하고 있다.

베난티 교수는 "우리는 인간보다 빠른 자동차를 개발하면서 사고를 막기 위해 운전면허를 만들었고, 속도규제 카메라 등을 개발했다"며 "딥페이크 기술은 자동차처럼 면허취득을 위한 교육과정이 없는 만큼 부작용을 방지하기 위한 사회적 보호장치를 마련해야 한다"고 지적했다.

최근에는 AI를 이용한 SNS의 힘으로 다른 나라의 민주적 기능을 손상시킬 수 있다는 목소리도 커지고 있다.

베난티 고문은 "이를 해결하기 위해 글로벌 거버넌스 차원에서 가드레일을 마련하고 교육적 노력을 해야 한다"며 "AI 문제는 기계 자체가 아니라 인간, 즉 기계를 다루는 인간의 문제이기 때문"이라고 설명했다.

정 교수는 생성형AI를 교육 현장에 전면 반영할 것인지, 이를 배제하고 창의적이고 논리적인 사고를 키워줘야 하는지에 대한 고민을 털어놨다. 그는 "대학생들이 교수가 내는 과제를 AI를 사용해 해결하는 게 현실"이라며 "저도 중간고사를 집에서 해오라고 하는데, 이제는 그렇게 못할 것 같다"며 씁쓸해했다.

이에 대해 베난티 고문은 "인간은 새로운 기술이 등장할 때마다 두려워했다"며 "우리는 지금 '차세대 기술'의 시작점에 있는 만큼, 새로운 형태의 비판적 사고를 교육해야 할 필요가 있다"고 제언했다.

AI의 '프라이버시 침해' 문제에 대해서는 '비용의 문제'라고 답했다. 베난티 고문은 "솔직히 말해서 공짜는 없다. 식사를 할 때 나오는 무료 반찬과 소금도 이미 밥값에 가격이 포함된 것"이라며 "AI 프라이버시 보호에도 비용이 발생한다는 것을 인식해야 한다"고 말했다.

'AI 시대의 새로운 윤리를 확립하는 방안'을 묻는 정 교수의 질문에는 "중요한 것은 다양한 이해관계자들이 함께 모여 AI 윤리에 대해 논의하는 장을 만드는 것"이라며 "윤리적 논의 없이 AI 기술이 발전한다면 이는 민주주의를 위협할 수 있다"고 강조했다.

특별취재팀 조윤주 팀장 김만기 김동호 조은효 박소연 구자윤 장민권 최종근 김준혁 권준호 노유정 임수빈 김예지 기자 김현지 서지윤 송지원 신지민 이동혁 이해람 최가영 최은솔 수습기자