오픈AI, AI 이용한 선거허위정보 차단…“정보·이미지출처 제공”

오픈AI가 자사의 인공지능(AI) 도구인 챗GPT와 ‘달리’(Dall-E)가 선거에 악용되는 것을 막기 위한 방안을 마련했습니다.

이는 올해 미 대선 등 전 세계 수십 곳에서 중요한 선거가 예정된 가운데 AI 기술을 이용한 가짜뉴스에 대한 우려가 커지는 데 따른 것입니다.

오픈AI는 현지시간 15일 블로그를 통해 자사의 AI 도구가 제공하는 최신 선거 관련 정보에 출처를 표시할 예정이라고 밝혔습니다.

우선 챗GPT가 제공하는 뉴스·정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지와 같은 출처가 제공됩니다.

특히, 달리가 제공하는 이미지에 대한 검증이 강화됩니다. AI를 기반으로 얼굴 등을 실제처럼 조작한 ‘딥페이크’에 대한 우려가 커지고 있기 때문입니다.

이를 위해 어떤 이미지가 달리에 의해 생성됐는지 여부를 확인할 수 있는 ‘이미지 찾기 도구’(image-detection tool)가 출시됩니다.

오픈AI는 “공정한 선거를 위해 모든 것은 민주적인 과정으로 이뤄져야 한다”며 “우리의 기술이 이 과정을 훼손하는 것을 원치 않는다”고 밝혔습니다.

선거를 앞두고 AI 기술을 보유한 기업들은 자사의 기술이 선거에 악용되는 것을 막기 위해 대책을 내놓고 있습니다.

앞서 구글은 자사 AI 챗봇 ‘바드’와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한하기로 했습니다.

또 AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 선거 광고가 AI를 사용한 경우 광고주가 이 사실을 눈에 띄게 표시하도록 했습니다.

[사진 출처 : AP=연합뉴스]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

홍수진 기자 (nodance@kbs.co.kr)