‘딥페이크 선거 꼼짝마’ … 오픈AI, 정보출처 표시

챗GPT·달리 악용방지 대책

올해 미국 등 주요국들의 선거를 앞두고 인공지능(AI)발 가짜뉴스에 대한 우려가 커지는 가운데, 오픈AI가 자사의 대화형 AI 챗GPT와 이미지 생성 서비스 달리(Dall-E)가 선거에 악용되는 것을 막기 위한 대책을 마련했다.

오픈AI는 15일(현지시간) 블로그를 통해 “공정한 선거를 위해 모든 것은 민주적인 과정으로 이뤄져야 한다”며 “우리의 기술이 이 과정을 훼손하는 것을 원치 않는다”고 강조했다. 그러면서 자사의 AI 도구가 제공하는 최신 선거 관련 정보에 출처를 표시할 예정이라고 밝혔다. 우선 챗GPT가 제공하는 뉴스·정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지와 같은 출처가 제공된다. 특히 AI를 기반으로 얼굴 등을 조작하는 딥페이크에 대한 우려가 커지고 있는 만큼 달리가 제공하는 이미지 검증이 강화된다. 이를 위해 어떤 이미지가 달리에 의해 생성됐는지를 확인할 수 있는 ‘이미지 찾기 도구’가 출시된다. 오픈AI는 이 이미지 찾기 도구를 미디어와 연구자 등에게 우선 배포해 피드백을 받을 예정이라고 설명했다. 달리가 제공한 이미지에는 이를 확인하는 워터마크도 표시된다.

다른 기업들도 자사의 AI 기술을 통한 선거 방해를 막기 위해 각종 방안을 내놓고 있다. 앞서 세계 최대 검색엔진 업체 구글은 자사 AI 챗봇 바드와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한하기로 했다. 또 AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 선거 광고가 AI를 사용한 경우 광고주가 이 사실을 눈에 띄게 표시하도록 했다.

한편 AI의 발전에 따라 구글과 세계 최대 전자상거래업체 아마존이 지난주에만 직원 수백 명을 해고한 것으로 전해졌다. 이날 정보기술(IT) 매체 더버지에 따르면 구글은 연초 직원들을 대거 정리해고했다. 정확한 규모는 알려지지 않았지만, 어시스턴트(AI 비서) 프로그램과 하드웨어 등을 담당하는 직원을 포함해 수백 명이 영향을 받은 것으로 전해졌다. 구글은 지난해 1월에도 1만2000명을 감원한 바 있다.

이현욱 기자 dlgus3002@munhwa.com