[팩플] 오픈 AI도 ‘AI 후보자’와 채팅 금지…스스로 AI 손발 묶은 빅테크

오픈AI가 선거에 생성AI 활용을 막는 정책을 발표했다. 구글, 메타 등에 이어 생성AI 분야 선두주자 오픈AI까지 AI의 선거 활용 금지를 공식화했다.

오픈AI '챗GPT' 로고. 로이터

━

무슨 일이야

오픈AI는 15일(현지시간) 블로그를 통해 "선거의 공정성을 지키기 위해서 민주적 절차의 모든 부분에서 협력이 필요하다"며 "우리는 기술이 선거 과정을 훼손하게 두지 않겠다”고 밝혔다.

◦ 구체적으로 오픈AI는 선거 유세 및 캠페인을 위한 챗GPT 앱 개발을 금지했다. 정당이나 후보자인 것처럼 꾸민 자동응답 프로그램 챗봇을 내놓는 것도 마찬가지다. 유권자가 각종 이슈에 대해 물어보면 후보자의 챗봇이 미리 학습한 내용으로 답해주는 식의 선거운동이 어려워졌다.
◦ 오픈AI는 또 뉴스와 정보, 이미지에 대해선 AI가 만든 것인지 출처를 확인하기로 했다. 딥페이크(AI 기술을 활용해 얼굴 등을 합성한 허위 사진·영상)를 통한 가짜뉴스 확산을 막는 취지에서다. 특정 사진에 대해 AI가 만든 것인지 판별할 수 있는 도구도 조만간 출시한다.

━

이게 왜 중요해

AI가 생성한 딥페이크 사진. 트럼프 전 미국 대통령이 경찰에 연행됐다는 가짜뉴스다. 온라인 캡처

올해 11월 대통령 선거를 앞두고 당내 경선이 진행 중인 미국은 지난해부터 AI발(發) 가짜뉴스와 전쟁을 치르고 있다. 조 바이든 미 대통령이 “트렌스젠더를 혐오한다”고 말하는 허위영상, 도널드 트럼프 전 대통령이 경찰에 체포되는 합성사진이 온라인상에 유포돼 사회 문제로 떠올랐다. 최근 선거가 ‘SNS 선거’였다면 앞으로는 AI 활용이 표심에 영향을 미친다는 분석이 나온다. 다보스포럼으로 불리는 세계경제포럼(WEF)는 ‘글로벌 위험보고서 2024’에서 향후 2년간 당면할 최고 위험 10가지 중 1위로 AI 가짜정보를 꼽았다.

━

정치와 거리 두는 AI, 이유는

오픈AI뿐 아니라 국내외 AI개발사들은 자사 인공지능 기술의 선거 악용을 막기 위해 노력하고 있다 .구글은 올해부터 대화형 AI 바드(bard)가 선거 관련 질문에는 답변을 제한하도록 했다. 정치적 견해가 담긴 답변은 하지 않고, 투표 방법과 장소, 후보자 명단 등 객관적 정보만 제공하는 것이다. 메타 역시 페이스북과 인스타그램에서 선거 관련 광고할 때 생성 AI로 만든 내용은 사용하지 못하게 했다.

네이버의 AI 챗봇 ‘클로바X’는 정치적 판단이 들어간 질문에 답변을 하지 않는다. “이번 총선 판도가 어떤가” 물어보면 “저는 정치적 견해를 갖지 않는다”는 대답만 돌아온다. 네이버는 클로바X를 개발할 때부터 정치적 질문은 답하지 않도록 설정했다. 업계 관계자는 "AI가 대답 한번 잘못하면 해당 기업이 정치적으로 편향됐다고 의심받게 되고, 서비스 동력 자체가 떨어지는 위기를 맞을 수 있다"며 "일단은 피해가는 게 상책"이라고 말했다.

━

정치권 영향은?

AI를 통한 선거 캠페인이 상대 후보를 향한 네거티브 공세에 집중되는 현실을 고려하면, 당장은 규제하는 게 낫다는 의견이 많다. AI가 가짜뉴스를 만들고 SNS를 통해 확산될 경우, 뒤늦게 사실을 바로잡아도 유권자 인식에 영향을 주기 때문이다.
국회는 지난해 말 딥페이크로 만든 음성, 영상을 선거운동에 쓸 수 없게 하는 공직선거법 개정안을 통과시켰다. 이에 따라 지난 대선에 등장했던 ‘AI 윤석열’이나 ‘AI 이재명’같은 영상은 선거일 90일 전부터 볼 수 없게 된다.

김철웅 기자 kim.chulwoong@joongang.co.kr