선거운동 위해 만든 ‘챗봇’ 차단…오픈AI 대선 관련 첫 조치

오픈AI사 로고. 로이터연합뉴스

오픈AI가 미국 대선을 앞두고 선거 운동에 활용할 목적으로 개발한 챗봇 운영을 중단시켰다. 이는 오픈AI가 자사의 AI 기술이 선거 캠페인에 오용되는 것을 막기 위해 단행한 첫번째 제재 조치다.

21일(현지시간) 워싱턴포스트(WP)는 오픈AI가 최근 미국 민주당 경선 후보인 딘 필립스 연방하원의원의 챗봇인 ‘딘닷봇’(Dean.Bot) 개발을 금지했다고 보도했다. 딘닷봇을 개발한 AI스타트업 델파이의 계정이 정지됨에 따라 현재 챗봇은 삭제된 상태다.

오픈AI는 성명에서 “정치 캠페인에 사용하면 안 된다는 API(응용 프로그램 인터페이스) 사용 정책을 고의로 위반하거나 동의 없이 개인을 사칭한 개발자 계정을 삭제했다”며 “우리의 도구를 사용하는 사람은 누구나 사용 정책에 따라야 한다”고 밝혔다.

딘닷봇 개발은 필립스 하원의원을 후원하는 슈퍼팩(super PAC·기업 등 이익집단이 정당이나 후보자에 정치자금을 기부하기 위해 설립하는 특별정치활동위원회)에서 낸 아이디어였다. 이들은 오픈AI의 챗GPT 대화 소프트웨어로 유권자들과 실시간으로 대화를 하는 챗봇을 운영할 계획이었다.

슈퍼팩을 비롯한 챗봇 활용 찬성론자들은 “적절하게만 사용되면 후보자에 대해 알아갈 수 있는 흥미로운 수단이 될 수 있다”고 주장했다. 이들은 챗봇이 실제 인물과 다르다는 경고문을 포함하고 있으며 사용 전에 이용자의 동의를 받는다고 해명했다.

그러나 전문가들은 경고문이 있더라도 대중들이 잘못된 정보를 문제없이 수용하게 만들 수 있다고 우려한다. 실제 후보와 대화하고 있다고 믿는 유권자들이 AI시스템이 만들어 낸 허위 광고 등에 노출될 위험이 있기 때문이다. WP는 “유권자들과 실시간으로 대화하는 챗봇은 앞서 연구자들이 선거에 악영향을 줄 것으로 우려했던 신기술 활용 사례”라고 지적했다.

앞서 오픈AI는 챗GPT와 함께 이미지 생성AI인 ‘달리’ 등 자사의 AI 도구가 정치 활동에 활용되는 것을 금지하고, 해당 도구의 악용을 막기 위한 방안을 마련했다. 딥페이크 등의 거짓 뉴스의 유포를 막기 위해 챗GPT가 제공하는 정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 출처를 표시하기로 했다.

---

☞ 미 대선 등 ‘선거의 해’···오픈AI, 챗GPT ‘가짜뉴스’ 차단 대책 보니
     https://www.khan.co.kr/economy/industry-trade/article/202401160802001

---

최혜린 기자 cherin@kyunghyang.com