선거의 해…오픈AI "정치 캠페인·후보자 챗봇, AI 사용 제한"

15일(현지시간) 미국 공화당의 아이오와 코커스(전당대회)로 대선 레이스가 막이 오른 첫날, 오픈AI가 인공지능(AI) 기술이 선거에 악용되는 걸 막기 위한 방안을 마련했다고 밝혔다. 자사의 생성형 챗봇 '챗GPT(Chat GPT)'를 비롯한 AI 기술이 가짜뉴스에 활용될 수 있다는 우려를 사전에 차단하기 위함으로 풀이된다.

샘 올트먼 오픈 AI 전 최고경영자(CEO)가 6일(현지시간) 미국 캘리포니아주 샌프란시스코에서 열린 오픈 AI 개발자 컨퍼런스에서 발표하고 있다. 2023.11.06 /AFPBBNews=뉴스1

오픈AI는 이날 공식 홈페이지에 '2024년 전 세계 선거를 앞둔 오픈AI의 입장'을 통해 △AI 기술 남용 방지 △AI 콘텐츠 투명성 보장(출처 표기) △정확한 선거 절차 정보 제공 등을 도입한다고 밝혔다.

먼저 오픈AI는 선거 캠페인 과정에서 특정 후보자를 사칭해 오해를 유발할 수 있는 '딥페이크 기술'이 적용된 콘텐츠나 챗봇을 찾아내고 예방하겠다고 밝혔다. 또 오픈AI가 만든 생성형 이미지 AI인 '달리(Dall-E)'에선 후보자를 포함한 실제 인물을 활용해 특정 이미지 생성 요청을 거부하는 가이드라인을 추가했다고 설명했다.

이같은 가이드라인은 최근 오픈AI가 출시한 'GPT스토어'와 'GPT빌더'를 의식한 것으로 풀이된다. 이는 코딩을 모르는 개인도 일부 공개된 GPT를 맞춤형으로 만들거나, 만들어진 걸 손쉽게 사고팔 수 있도록 확대 적용한 서비스다.

오픈AI는 대략적인 예를 들었다. 먼저 정치적 사용을 전면 금지했다. 오픈AI는 "우리가 만든 도구들이 개인들을 설득하는 데 얼마나 효과적인지에 대해 아직 파악 중"이라며 "좀 더 파악하기 전까지 정치 캠페인이나 로비활동을 위한 애플리케이션(앱) 제작은 허용하지 않겠다"고 못 박았다.

이밖에 실제 사람(후보자)이거나 기관(지방 정부)인 것처럼 대화할 수 있는 챗봇도, 챗GPT 관련 기술을 사용해 만드는 것도 허용하지 않겠다고 했다. 투표 일정을 잘못 안내해 투표를 방해하는 행위나 '투표는 의미 없다'는 식으로 사람들의 참여를 방해하는 목적의 앱 생성도 철저히 막겠다는 입장이다.

두 번째로 오픈AI는 자사 기술이 생성한 최신 선거 정보의 출처를 투명하게 공개하겠다고 밝혔다. 특히 '딥 페이크' 우려가 커지는 만큼, 달리의 경우 어떤 이미지에 의해 생성됐는지 여부를 확인할 수 있는 '이미지 찾기 도구'(image-detection tool)도 출시할 예정이라고 말했다. 오픈AI는 이 이미지 찾기 도구를 미디어와 연구자 등에게 우선 배포해 피드백을 받을 예정이라고 설명했다.

마지막으로 투표 관련 공정하고 권위 있는 정보를 전달하기 위해 전국 국무장관협회(NASS)와 협력, 선거 절차를 포함한 투표 전반에 관련한 정보를 제공할 예정이라고 말했다.

오픈AI 측은 "공정한 선거가 치러지기 위해선 모든 부문에서 민주주의 협력이 필수적이다"며 "올해 전 세계 곳곳의 선거를 앞두고 우리의 기술이 이를 훼손하지 않도록 노력하겠다"고 밝혔다. 이어 "올해 전 세계 국가 곳곳에서 많은 선거를 앞두고 있는데, 우리는 앞으로 정확한 선거 정보를 제공하고, 명확한 정책이 실행되며, 투명성을 향상시켜 우리 기술의 안전성을 높이도록 최선을 다할 것"이라고 말했다.

김하늬 기자 honey@mt.co.kr