오픈AI, 챗GPT 등 정치활동 활용 금지 [심층기획-AI시대, 사이버 안보 이대로 괜찮은가]

해외 사례 보니
美, 업계·일부 州정부 위주로 선제조치
EU선 세계 첫 ‘AI법’ 도입 2026년 시행

생성형 인공지능(AI) 챗GPT 개발사 오픈AI가 최근 미국 민주당 대통령선거 경선 후보인 딘 필립스 연방 하원의원의 AI 챗봇을 개발한 AI 스타트업 델파이의 계정을 중단시켰다고 워싱턴포스트 등이 21일(현지시간) 보도했다.

필립스 의원을 후원하는 단체는 델파이와 계약을 맺고 오픈AI의 챗GPT를 기반으로 필립스 챗봇을 개발해 운영하려고 했다. 하지만 오픈AI는 “정치 캠페인에 사용해서는 안 된다는 API(응용 프로그램 인터페이스) 사용 정책을 고의로 위반하거나 동의 없이 개인을 사칭한 개발자의 계정을 최근 삭제했다”고 설명했다.

챗GPT 개발사인 오픈AI 로고. AP뉴시스

오픈AI는 챗GPT와 이미지 생성 AI인 달리(Dall-E) 등 자사의 AI가 정치 활동 등에 활용되는 것을 금지하고 있다.

최근에는 이들 AI 도구가 선거에 악용되는 것을 막기 위한 방안도 마련했다. 오픈AI는 챗GPT가 제공하는 뉴스·정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 출처를 제공키로 했다. 여기저기 퍼진 정치인의 이미지 등을 짜깁기해 만든 딥페이크(가짜) 사진이나 영상을 원천 봉쇄하기 위한 조치다.

‘선거의 해’ 2024년을 맞아 AI 업계와 선진 각국 정부와 의회 차원에서 이를 악용한 허위·조작정보 확산을 막기 위한 각종 규제안 마련에 속도가 붙고 있다.

필립스 의원 챗봇 사례는 오픈AI가 미국 대선 과정에서 자사의 AI 기술이 오용되는 것을 막기 위해 취한 첫 번째 조치였다. 미국에선 연방정부 차원의 대책이 늦어지는 가운데 이처럼 AI 업계와 일부 주 정부가 먼저 AI 규제 법안을 제정·시행하고 있다.

비영리단체 퍼블릭 시티즌에 따르면 지난 18일 기준 미국 50개 주와 주 대접을 받는 수도 워싱턴을 포함한 51개 지역 중 25곳에서 딥페이크 규제안을 제정했거나 도입을 논의하고 있다. 지난 15일 미 공화당의 첫 번째 대통령선거 후보 경선인 아이오와주 코커스(당원대회)가 열리기 전인 1월 첫 주 기준으로 관련 규제안이 발의된 곳도 11개 주였다.

23일 공화당 첫 프라이머리(예비경선)를 치르는 뉴햄프셔주의 딥페이크 규제 법안 발의안도 그중 하나다. 뉴햄프셔주 규제안에는 정치 광고에서 딥페이크 사용 여부를 공개할 것을 의무화하는 내용이 담겨 있다.

미 싱크탱크 브루킹스연구소는 최근 “선거가 다가오며 민주적 절차의 정당성을 지키고 정치 환경에 대한 대중의 신뢰를 유지하기 위해 AI로 인한 문제를 조속히 해결해야 한다”고 강조했다.

유럽연합(EU)은 더 일찍부터 AI를 활용해 허위·조작정보를 담은 콘텐츠에 대한 플랫폼 사업자의 책임을 인정하는 방향으로 규제 논의를 진행해 왔다. 특히 EU 행정부 격인 집행위원회가 2020년 12월 입법을 제안한 디지털서비스법(DSA)은 지난해 8월부터 사회관계망서비스(SNS) 기업 22곳을 대상으로 시행되고 있다.

이는 플랫폼 기업에 허위 정보를 비롯한 유해 콘텐츠 차단 및 제거와 유통 방지 장치 마련 등의 의무를 부여하는 것이 골자다. 이를 이행하지 않는 기업들은 전 세계 매출액의 6% 내에서 벌금을 부과받고, 최악의 경우 EU 시장에서 퇴출당할 수 있다.

지난해 12월 EU는 전 세계 최초로 ‘AI법’ 도입에 합의하기도 했다. 법에는 AI가 생성한 사진·영상 등에 AI가 만들었다는 표시를 해야 한다는 내용이 담겨 있다. AI 제작 이미지가 사람들을 속이는 것을 미리 막겠다는 목표다. AI법은 2026년 초 시행된다.

이예림 기자 yeah@segye.com