"총선 과반 당은?" 묻자 '금지'…네카오, AI 단속

[앵커] 

총선을 40여 일 앞두고 AI가 만드는 가짜 정보에 대한 우려가 커지고 있습니다. 

네이버와 카카오는 잘못된 정보를 원천 차단하기 위해 대책을 마련하고 있습니다. 

배진솔 기자가 보도합니다. 

[기자] 

네이버 AI 검색 서비스에 '올해 총선에서 과반 의석을 차지할 당'을 물었습니다. 

불확실한 예측이라며 정보 제공이 어렵다는 답변이 돌아왔습니다. 

네이버는 4월 총선까지 선거 관련 명령어에 주의 문구를 띄워놓고 논란이 될 수 있는 시빗거리를 원천 차단합니다. 

포털 사이트에서도 딥페이크를 검색하면 '유의' 문구가 뜹니다. 

[김명주 / 서울여대 바른AI연구센터장 : 딥페이크 기술 때문에 선거를 앞두고 가짜 정보들이 많이 생길 거예요. 생기는 정보 때문에 선거 판도가 바뀔 거라고 예상하고 있어서…자칫하면 선거 방해가 되잖아요.] 

해외에선 이미 미국 팝가수 가짜 광고, 바이든 대통령 사칭 음성 등 딥페이크로 논란이 일기도 했습니다. 

최근 국내에서도 딥페이크 영상으로 오해를 산 '가짜' 윤석열 대통령 조작 영상이 유포돼 논란이 된 바 있습니다. 

현재 해당 영상은 삭제, 차단 조치됐지만 온라인상엔 일파만파 퍼졌습니다. 

네이버와 카카오는 앞으로 AI 콘텐츠엔 별도 표시를 붙여 이용자 혼선을 줄일 예정입니다. 

해외에서도 오픈 AI·구글·메타 등 20개 기업이 유권자가 속을 위험이 있는 콘텐츠에 라벨을 붙이는 조치를 자발적으로 취하고 있습니다. 

SBS Biz 배진솔입니다.

당신의 제보가 뉴스로 만들어집니다.SBS Biz는 여러분의 제보를 기다리고 있습니다.홈페이지 = https://url.kr/9pghjn

짧고 유익한 Biz 숏폼 바로가기

SBS Biz에 제보하기

저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지