오픈AI, 美대선 앞 “정치인 AI챗봇 사용 안돼”

민주 후보 본뜬 챗GPT 챗봇 삭제
“투표 방해-선동 못하게 막을것”

챗GPT 개발사 오픈AI가 미국 대선을 앞두고 민주당 경선 후보를 모방한 ‘정치인 챗봇’을 차단하고 관련 서비스 개발을 금지했다. 이는 오픈AI가 대선 과정에서 생성형 인공지능(AI)이 악용되는 것을 막기 위해 취한 첫 번째 조치다.

21일(현지 시간) 워싱턴포스트 등 외신에 따르면 오픈AI는 민주당 경선 후보인 딘 필립스 연방 하원의원의 AI 챗봇 ‘딘닷봇(Dean.bot)’을 개발한 AI 스타트업 ‘델파이’의 계정을 삭제했다. 개발사 계정이 없어지면서 챗봇도 삭제됐다.

‘딘닷봇’은 필립스 의원의 얼굴과 목소리를 본뜬 AI 챗봇이다. 챗GPT를 기반으로 한다. “당신의 인생사를 말해주세요” “당신이 왜 트럼프를 이길 수 있다고 생각합니까?” 등을 물으면 필립스 의원의 얼굴과 목소리를 한 AI 챗봇이 대답한다. 필립스 의원을 후원하는 슈퍼팩(super PAC·특별정치활동위원회)이 델파이와 계약을 맺고 챗봇을 개발해 운영하려고 했으나 오픈AI가 제동을 건 것이다.

오픈AI 측은 “(챗GPT를) 정치 캠페인에 사용해서는 안 된다는 사용 정책을 고의로 위반하거나 동의 없이 개인을 사칭한 개발자의 계정을 최근 삭제했다”고 밝혔다. 15일(현지 시간) 오픈AI는 ‘허위정보 방지 대책’을 발표하며 “특히 사람으로 가장한 챗봇을 만들어 투표를 방해하거나 선동하지 못하도록 관련 애플리케이션 개발 자체를 막겠다”고 설명했다.

현재 오픈AI는 챗GPT나 달리(Dall-E) 등 자사의 AI 기술이 정치 활동 등에 이용되는 것을 금지하고 있다. 허위정보 우려 때문이다. 이런 맥락에서 오픈AI는 챗GPT가 제공하는 뉴스나 달리가 만든 이미지의 출처를 제공하기로 했다. 달리가 만든 선거 관련 이미지에는 AI가 만들었다는 인식표인 워터마크도 표시할 계획이다.

전남혁 기자 forward@donga.com