[청계광장]딥페이크 시대의 인공지능 규제

최경진 가천대 법대 교수

딥페이크(deepfake)의 시대가 다가왔다. 딥페이크란 인공지능 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어로 옥스퍼드 영어사전에 따르면 '일반적으로 악의적이거나 허위정보를 퍼뜨리는 데 사용되는, 다른 사람처럼 보이도록 얼굴이나 신체를 디지털 방식으로 변조한 인물의 영상'이다. 핵심은 인공지능을 포함한 디지털기술을 활용한다는 점과 누군가 사람의 얼굴이나 신체를 변조한 이미지나 동영상이라는 점이다. 딥페이크는 특수효과가 필요한 영화나 방송산업처럼 특히 영상을 기반으로 하는 산업에서의 활용이 증가하고 있다. 예를 들면 더 이상 실존하지 않는 과거 인물을 딥페이크를 이용해 영화 속에 실존인물처럼 구현하거나 출연배우의 과거 모습을 구현하는 데 유용하게 활용된다. 이러한 긍정적 활용과는 반대로 사람의 영상을 변조할 수 있다는 특성 때문에 누군가에 대한 가짜뉴스를 제작하거나 범죄에 오남용되기도 한다. 유명인의 신체를 무단 도용해서 만든 딥페이크 포르노나 SNS에 올려진 자녀의 사진이나 동영상에 딥페이크 기술을 접목해 부모에게 전화를 걸어 협박하며 금전을 요구하는 딥페이크 전화사기도 범죄가 딥페이크 기술을 통해 진화한 예다. 과거에는 정교한 수준의 딥페이크를 구현하기 위해 상당한 시간과 노력이 요구된 반면 최근에는 인공지능 기술의 발전으로 매우 쉽고 간단하게 실제와 구분이 어려울 정도의 딥페이크를 구현할 수 있게 되면서 딥페이크가 빠르게 증가하고 있다.

딥페이크는 진짜처럼 느껴지는 '가짜'이기 때문에 가짜뉴스를 만드는 데 매우 효과적이다. 실제로 트럼프가 체포되거나 펜타곤이 공격받고 있다고 믿게 만든 딥페이크 이미지는 전 세계를 혼란에 빠뜨렸다. 이러다 보니 딥페이크로 만든 가짜뉴스는 선거국면에서는 더 큰 혼란을 야기해 유권자를 의도하지 않은 선택으로 유도할 수 있어서 자유민주주의의 근간을 흔들 수 있는 나쁜 기술로 인식될 수도 있다. 새롭게 등장한 기술이 범죄에 활용되거나 우리에 대한 심각한 위협으로 평가받게 되면 결국 규제로 이어질 수밖에 없다. 최근 개정돼 2024년 1월29일부터 시행예정인 공직선거법은 누구든지 선거일 90일 전부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 하지 못하도록 금지하고 있다. 총선을 불과 몇 개월 앞두고 최근 급속하게 발전하고 있는 인공지능의 위험성에 대한 평가나 대응을 충분히 고려하지 못한 상태에서 딥페이크가 자유민주적 기본질서를 훼손하는 데 오남용되지 못하도록 누구에게나 공평하게 일반적으로 금지하고 있는 것은 불가피한 선택으로 보인다. 그런데 딥페이크 기술 자체는 규범 중립적이기 때문에 그러한 기술에 대한 법적 규제는 규제 목적에 적합한 정도로 필요 최소한에 머물러야 한다. 개정 공직선거법은 '인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등'을 딥페이크 규제대상으로 설정했는데 이는 사전적 의미보다도 훨씬 넓게 정의된 것이어서 선거운동 과정에서 활용되는 다양한 영상툴에 적용된 생성형 인공지능의 활용이 일반적으로 금지되는 것으로 해석될 여지가 있어서 과도한 규제로 이어지지 않을까 우려된다. 딥페이크의 긍정적 활용 가능성이 저해되지 않도록 기존에 중앙선거관리위원회가 발표한 '딥페이크 영상 관련 법규운용기준'의 합리적 취지를 유지하면서도 개정법 취지를 반영하는 방향으로의 합리적 조정이 필요한 이유다.

최근 인공지능의 규제와 관련한 입법적 논의가 진행되고 있다. 인공지능의 유용성과 함께 그 활용 여하에 따른 폐해나 위험성도 간과할 수 없기 때문에 그에 비례해 적정한 규제는 필수불가결하다. 다만, 빈대 잡는다고 초가삼간을 태우는 우를 범해서는 안 된다. 인공지능의 일상화는 촉진하면서도 그 폐해만을 콕 집어서 해결할 수 있는 맞춤형 법규제를 위한 지능적인 논의가 필요한 때다

최경진 가천대 법대 교수(한국인공지능법학회장)