하루가 다르게 발전하는 AI 기술, 이제 안전장치 고민할 때

‘딥페이크’ ‘가짜뉴스’ 악용한 각종 범죄 피해 현실화

챗GPT는 첫 등장부터 제법 자연스러운 글솜씨를 선보였다. 인공지능(AI) 기술이 빠르게 발전하면서 이제 사람이 직접 쓴 것 같은 텍스트를 내놓기도 한다. 생성형 AI를 보고서나 홍보 문구 작성에 활용할 수 있는 사무직 직장인으로선 반가운 기술 발전이다. 반면 글쓰기를 업으로 삼는 이는 AI를 우려 섞인 시선으로 바라보고 있다. 정보기술(IT) 기업들이 AI를 적용해 다양한 서비스를 출시하면서 단순 텍스트 생성뿐 아니라 번역, 통역, 코딩 등 다양한 분야의 효율이 높아지고 있다.

현실 속 물리법칙 학습하는 AI '소라'

오픈AI의 인공지능(AI) 동영상 생성 서비스 ‘소라(Sora)’에 텍스트를 입력해 만든 영상 속 장면. [오픈AI 제공]

생성형 AI 기술은 그림과 사진을 창작하고, 음성은 물론 동영상까지 만들어내는 수준으로 발전했다. 가령 '미드저니' '달리(DALL-E)3' 같은 AI 서비스가 생성하는 이미지는 갈수록 화질이 좋아지고 실제 사진을 방불케 할 정도로 정교해지고 있다. 챗GPT 개발사 오픈AI가 2월 선보인 AI 동영상 생성 서비스 '소라(Sora)'의 성능은 더 놀랍다. 현실 속 물리법칙을 학습해 영상을 제작하기에 상당히 자연스럽다. 알리바바가 발표한 'EMO'라는 생성형 AI도 눈에 띈다. 이미지와 오디오 파일을 프로그램에 입력하면 사진 속 인물이 음성에 맞춰 말하는 듯한 영상을 만들어낸다. 단순히 입만 움직이는 게 아니라, 입력된 음성 내용에 맞게 미묘한 표정 변화까지 구현하는 게 특징이다.

국내 IT 업계에도 생성형 AI 서비스가 속속 등장하고 있다. KT의 'AI 보이스 스튜디오'를 이용하면 특정인의 목소리와 똑 닮은 음성 파일을 제작할 수 있다. 한국어뿐 아니라 다양한 언어로 음성 합성도 가능하다. AI 보이스 스튜디오에선 실제 아나운서 목소리를 바탕으로 음성 파일을 생성하는 것도 가능하다.

서로 다른 형태의 데이터를 모아 사진, 음성, 영상을 만드는 기술은 예전에도 있었다. 다만 이런 기술을 사용하려면 많은 비용과 시간을 들여야 했다. 합성 기술을 가진 업체를 찾아 원본 데이터를 어떤 식으로 조합할지 협의하는 등 전문가들이 달라붙어 장시간 작업해야 했다. 이와 달리 생성형 AI를 사용하면 이렇다 할 전문지식이 없어도 누구나 원하는 이미지와 영상을 만들어낼 수 있다. 복잡한 프롬프트가 아닌, 일상 언어로 명령할 수 있는 것도 AI의 강점이다.

생성형 AI라는 신기술로 문턱이 크게 낮아진 디지털 창작 분야에도 어두운 그림자는 있다. 대표적인 게 딥페이크(deepfake) 악용 우려다. 누군가의 모습이 담긴 사진 몇 장과 짧은 음성 녹음 파일만 있으면 그 사람이 하지 않은 말과 행동도 마치 사실처럼 꾸며낼 수 있는 것이다. 딥페이크를 악용한 각종 범죄 피해가 만만치 않은 상황이다. 예전보다 더 그럴싸한 '가짜뉴스' 물량 공세도 문제다. 이미 유튜브, 틱톡 같은 영상 플랫폼이나 인스타그램 등 소셜네트워크서비스(SNS)가 뉴스 소비에서 중요한 축을 이루고 있다. 생성형 AI 기술이 예상보다 빠르게 발전한 나머지, 얼핏 보면 진짜와 구별할 수 없는 가짜 영상이 마치 사실인 양 유통되기 일쑤다.

젠슨 황 "생성형 AI, 임계점 도달"

조 바이든 미국 대통령이 지난해 10월 30일(현지 시간) AI에 대한 미국 정부의 첫 규제 조치인 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용’ 행정명령에 서명하고 있다. [뉴시스]

생성형 AI의 부작용을 바로잡을 이렇다 할 규제 방안이 나오지 않았음에도 새로운 기술에 대한 접근성은 매우 높아졌다. AI 기술이 하루가 다르게 발전하는 상황에서 효과적인 안전장치를 마련할 시간은 생각보다 많지 않을 수 있다. 최근 젠슨 황 엔비디아 창업자 겸 최고경영자(CEO)는 "가속컴퓨팅과 생성형 AI가 임계점(tipping point)에 도달했다"고 말했다. 지난해 5월에는 마이크로소프트(MS) 소속 과학자들이 "AI가 인간처럼 추론하기 시작하는 범용인공지능(AGI) 단계에 근접했다"는 요지의 논문을 발표하기도 했다. 당장은 아니어도 AI가 인간 지성을 뛰어넘는 기술적 특이점(singularity)이 도래할 가능성이 점쳐지는 것이다. 생성형 AI의 창조력에 마냥 찬탄만 보내는 시기는 끝났다. 이제 AI의 부작용으로부터 사회를 지킬 안전망을 만들 때다.

_{*유튜브와 포털에서 각각 '매거진동아'와 '투벤저스'를 검색해 팔로잉하시면 기사 외에도 동영상 등 다채로운 투자 정보를 만나보실 수 있습니다.}

김지현 테크라이터