[기고] 어떤 AI가 가짜 정보 퍼뜨리는지 감별하는 기술 선점해야

2020년 중반부터 마치 사람이 쓴 것처럼 자연스러운 글을 생성하는 초거대 인공지능 GPT-3가 관심을 끌었다. 지난해에는 글로 묘사하면 그림을 그려주는 DALL-E, 자연스럽게 대화하면서 실수를 인정하고 부적절한 요청을 거절할 수 있는 ChatGPT가 연달아 발표되었다. 그리고 올해 말 성능과 기능이 크게 좋아진 GPT-4가 출시될 예정이라고 한다. 수십억에서 1조 이상 변수를 가진 심층 신경망 딥러닝 기반의 모델로, 최신 고가 GPU 1000여 개를 이용해 한 달 이상 학습해서 만들어진 것들이다. 인건비와 인프라 비용을 제외하더라도 학습에만 150억원 이상이 든다.

국내에서도 네이버, LG, SKT, KT를 비롯한 여러 기업이 초거대 인공지능 기술을 개발하고 있다. 현재 이런 개발은 1) 해외 업체가 개발한 초거대 인공지능은 학습 언어가 달라 국내 응용 분야 적용이 어렵고 2) 국내 기술을 향상시키고 기업의 경쟁력을 높이는 차원에서 추격 개발이 필요하다는 이유를 내세워 추진하고 있으나, 기업별로 산발적으로 이뤄지고 있는 상황이다.

초거대 인공지능은 여러 응용 분야에서 큰 잠재력을 지니고 있지만, 아직 뚜렷한 수익 모델이 없다. 제공하는 정보의 오류와 편향성이라는 고질적 문제도 있어 계속 보완이 필요하다. 또 개발에 필요한 막대한 예산, 그리고 학습에 들어가는 큰 전력 소모와 탄소 배출도 문제가 되고 있다. 이러한 점을 고려할 때, 개발 효율성을 높이고 환경을 보호하기 위해 분산되어 있는 개발을 정부 중심으로 통합하고 산학연 협력으로 이끌어 낸다면 큰 시너지가 있을 것으로 생각한다.

또한 우리가 걱정해야 하는 것은 인공지능이 인터넷을 오염시킬 수 있다는 점이다. 초거대 인공지능은 가짜 뉴스 우려를 더 키우고 있다. 인공지능이 문장을 생성하기 위해 사용한 언어 모델은 사람들이 온라인에서 작성한 텍스트를 학습 데이터로 사용하는데, 이 텍스트들엔 유해 정보, 잘못된 정보, 심지어 악의적 허위 정보도 포함되어 있다. 이러한 학습 데이터로 완성된 인공지능 모델은 거짓을 사실인 양 유통시킨다. 이런 상황이 반복되면 인공 지능이 만든 잘못된 정보가 엄격한 사실 확인 과정을 거쳐 작성한 텍스트를 압도하는, 악화가 양화를 구축하는 지경에 이를 수도 있다.

이런 문제는 텍스트뿐 아니라 이미지에서도 발생할 수 있기에 이를 막을 보안책이 마련되어야 할 것이다. 예를 들어 사람이 만든 데이터와 인공지능이 생성한 데이터를 기술적으로 구별할 필요가 있다. 일반적으로 사람이 작성한 글은 일정 수준의 오타가 있는 반면 인공지능이 작성한 글은 오타가 드물다. 이런 차이를 검출하는 알고리즘을 개발하는 연구도 있고, 인공지능이 생성하는 글에 보이지 않는 신호를 넣어 인공지능이 생성한 글임을 알리는 연구도 오픈AI에서 진행 중이다. 그렇지만 쉽게 해결될 문제는 아니다. 이런 구별을 하기 위해서는 강력한 컴퓨터가 필요하고 기술 회사가 허용하지 않는 AI 모델 자체에 대한 액세스가 필요하기 때문이다.

이미 AI는 우리를 실제로 속이고 있다. 코넬대 연구원들은 사람들이 GPT-2에 의해 생성된 가짜 뉴스의 66%를 사실로 믿는다고 밝혔다. 인공지능이 쓴 텍스트를 감지하는 묘책이 지금 당장은 없어보일 수 있다. 그렇지만 이는 아주 중요한 문제이고 앞으로 우리가 사용하는 웹 브라우저가 자동으로 구별해 주는 서비스가 필요해질 것이다. 최근 하버드 NLP 그리고 MIT-IBM에서는 사람과 컴퓨터가 생성한 문장을 구별해 주는 소프트웨어를 공개했다. 우리도 이런 인공지능에서 기초적이고 근본적인 문제를 깊이 이해하고 탐구할 때 근본적 혁신과 주도권 선점이 가능할 것이다.