[K-VIBE] 임기범의 인공지능 혁신 스토리...AI 규제는 필수?

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천5백만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 이에 연합뉴스 K컬처 팀은 독자 제위께 새로운 시선의 한국 문화와 K컬처를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재하며 K컬처 팀 영문 한류 뉴스 사이트 K 바이브에서도 영문으로 보실 수 있습니다.]

｜임기범 인공지능 전문가. 현 인공지능경영학회 이사. 신한 DS 디지털 전략연구소장 역임.

임기범 인공지능 경영학회 이사 본인 제공

지난 8월, 한국 사회는 충격적인 디지털 성범죄 사건으로 뒤흔들렸다. 텔레그램을 통해 전국 100여 개의 교육기관과 군부대를 대상으로 딥페이크 음란물이 무차별적으로 유포됐다.

이 사건의 피해자 중 한 명인 인하대 졸업생 유 모 씨는 자기 얼굴이 합성된 음란물과 함께 개인정보가 유출됐음을 알았다. 더욱 충격적인 것은 가해자가 피해자를 조롱하고 협박하는 등 2차 가해까지 자행했다.

특히 우려스러운 것은 이러한 범죄가 성인뿐만 아니라 중고등학생들까지 대상으로 삼고 있기 때문이다. 실제로 최근 3년간 경찰에 신고된 딥페이크 성범죄 피해자의 59.8%가 10대 청소년이었으며, 2년 만에 3.4 배나 증가한 수치다.

이 사건은 AI 기술, 특히 딥페이크 기술의 오남용이 얼마나 심각한 사회적 문제를 야기할 수 있는지를 여실히 보여줬다. 개인의 프라이버시와 존엄성을 심각하게 침해할 뿐만 아니라 취약계층인 청소년들에게 더 큰 위협이다.

이러한 상황에서 AI 기술의 발전과 그에 따른 혜택을 인정하고 동시에 어떻게 규제하고 관리해야 할지에 대한 진지한 논의가 필요하다.

AI의 사용규제는 단순히 기술 제한이 아닌 사회의 안전과 윤리를 지키기 위한 필수적인 과제다. 필자는 이러한 규제가 어디까지 적정한지에 대한 다양한 의견을 들어봤다.

'교육당국은 딥페이크 성범죄에 강력 대처하라' (서울=연합뉴스) 진연수 기자 = 정의당 딥페이크 성범죄 대응본부 및 교육시민단체 회원들이 12일 오후 서울시교육청 앞에서 '딥페이크 성범죄, 교육 당국 강력 대처 촉구 기자회견'을 하고 있다. 2024.9.12 jin90@yna.co.kr

AI 활용에 대한 정부 규제의 범위

정부가 일반 사용자들을 대상으로 AI 서비스에 대한 규제를 시행할 때 먼저 고려해야 할 것은 규제의 범위와 그 효과다.

규제를 통해 범죄를 예방하고 사회적 안전을 확보할 수 있다는 점은 분명 긍정적이다. 하지만 지나친 규제는 사용자의 권리와 창의적 활용을 제한할 위험이 있다.

예를 들어 딥페이크 기술을 악용하는 것을 막기 위해 이 기술의 사용 자체를 엄격하게 규제할 경우 합법적이고 창의적인 사용까지 위축시킬 수 있다. 특히 소규모 창작자나 일반 사용자들이 AI 도구를 활용해 콘텐츠를 제작하거나 일상에서 유용하게 사용하는 데 제약이 생길 수 있다.

여기서 중요한 것은 악의적인 AI 기술 사용에 대해 보다 엄격한 처벌을 도입하는 것이다. AI 기술을 악용한 범죄에 대해 단순히 규제하는 것에 그치지 말고 명확한 처벌 수위를 높이는 방향으로 나아갈 필요가 있다.

예를 들어 딥페이크를 이용한 성범죄나 사기 행위에 대해 현행법보다 더 강력한 처벌을 도입함으로써 잠재적인 범죄자들에게 강력한 경고 메시지를 전달해야 한다.

특히 촉법소년에 대한 문제는 더욱 심각하다. 몇 년 전부터 논의되고 있는 촉법소년 기준 연령 하향 정도로 접근해서는 안 된다.

이들의 나이가 어리기 때문에 '책임능력'이 없다고 판단된다면, 면죄부를 줄 것이 아니라 이들의 보호자인 부모를 처벌해야 하지 않을까?

딥페이크 연합뉴스 그래픽

책임능력이 없는 아이들에 대한 교육과 관리의 '책임'은 부모에게 있는 게 당연한 일이다. 피해자는 있는데 가해자가 없는 세상은 안 된다,

피해자에게는 평생 씻을 수 없는 상처가 남았는데 가해자는 아무렇지도 않게 일상생활을 이어가는 건 너무 불합리하다.

범죄에 대한 처벌을 강화함으로써 범죄 발생 자체를 억제하는 효과를 기대하는 것은 너무도 당연한 일일 것이다. AI 기술의 악용을 방지하기 위해 더 이상 단순히 규제하는 것만으로는 부족하다.

특히 AI 기술의 특성상 그 피해는 개인을 넘어 사회 전반에 걸쳐 큰 파장을 미칠 수 있으므로 강력한 법정 제재가 꼭 필요하다.

규제의 실효성과 공정성

규제가 아주 엄격하거나 복잡하면 사용자는 이를 피하려고 노력할 것이고, 결국 법의 빈틈을 만들어낼 수 있다. 또한 규제가 실제로 효과를 발휘하기 위해서는 기술적 이해와 법적 기준의 균형이 필요하다. 사용자가 AI를 어떻게 활용하는지를 이해하고, 그에 맞는 합리적인 규제 방안을 마련해야 한다.

규제의 공정성도 중요한 문제다. 규제가 특정 집단이나 개인에게 과도하게 불리하게 작용해서는 안 된다. 예를 들어 소규모 창작자들이 AI 도구를 활용해 콘텐츠를 제작하는 경우, 이들의 활동이 과도한 규제에 의해 위축되지 않도록 보호할 필요가 있다.

대규모 기업이나 기술을 가진 자만이 AI 기술을 자유롭게 활용할 수 있는 상황을 방지하려면 규제는 형평성을 기반으로 설계돼야 한다.

마지막으로 규제는 AI 기술의 발전 속도와 함께 유연하게 변화할 수 있어야 한다. AI 기술은 하루가 다르게 발전하고 있고, 그에 따라 새로운 문제가 지속해 발생할 가능성이 크다.

따라서 규제 또한 고정된 형태로 존재해서는 안 되며 기술의 발전과 함께 끊임없이 재검토되고 조정될 필요가 있다.

딥페이크 사태에도…피해자지원센터 예산·인력 부족 연합뉴스TV 제공

결론적으로 AI 서비스에 대한 규제는 필요하지만, 그 범위와 방법에 있어 신중한 접근이 필요한 상황이다. 규제는 사회적 안전을 확보하면서도 사용자의 권리와 창의성을 억제하지 않는 방향으로 설정해야 한다.

동시에 AI 기술을 악의적으로 사용하는 행위에 대해서는 강력한 처벌을 도입해 범죄를 예방하고, 사회적 혼란을 최소화하는 것이 중요하다.

AI 기술은 분명히 사회를 더 나은 방향으로 변화시킬 수 있는 잠재력을 가지고 있지만, 그 기술이 제대로 관리되지 않는다면 오히려 사회적 혼란을 야기할 것이 뻔하다.

따라서 규제와 처벌은 사용자의 입장에서 합리적이고 공정하게 설계하고, 변화하는 기술 환경에 따라 유연하게 조정해야 할 것이다.

최근 미국 일간지 월스트리트저널(WSJ)은 "한국이 딥페이크 음란물에 가장 취약한 국가"라고 지적했다.

더 이상의 국제적 망신은 피해야 하지 않겠는가?

정치적 싸움에 시간을 낭비하지 말고, 국민에게 필요한 법을 제때 마련하기를 기대해 본다. 골든 타임은 의료계에서만 사용하는 단어가 아님을 깨닫길 바란다.

<정리 : 이세영·성도현 기자>

raphael@yna.co.kr

▶제보는 카톡 okjebo