사람인 척하는 AI 가짜계정 막는다…메타, 페북 무료 인증 도입

동영상 셀카로 본인 여부 확인…계정명 옆 검은색 체크 배지 표시
AI 계정·로맨스 스캠 확산 대응…유료 ‘메타 인증’과는 별도 운영

세계 최대 사회관계망서비스(SNS) 기업 메타가 페이스북에 무료 인증 제도를 도입한다. 생성형 AI로 만든 이미지

생성형 인공지능(AI)을 이용한 가짜 계정과 사기가 늘어나자 세계 최대 사회관계망서비스(SNS) 기업 메타가 실제 사람임을 확인해주는 무료 인증 제도를 도입한다.

최근 생성형 AI를 이용해 실제 사람처럼 활동하는 계정이 늘면서 온라인 플랫폼들은 ‘사람 인증’ 기능을 경쟁적으로 강화하고 있다.

메타는 ‘페이스북 인증’을 새로 선보인다고 25일(현지시간) 밝혔다.

이는 이용자가 짧은 동영상 ‘셀카’(selfie)를 촬영하면 이를 기존 프로필 사진과 비교해 동일 인물 여부를 확인하는 방식이다.

인증이 완료되면 계정명 옆에 검은색 체크 배지가 표시되며, 해당 계정이 AI나 자동 생성 계정이 아닌 실제 사람이 운영하는 계정이라는 사실을 다른 이용자에게 알려준다.

다만 사기나 기만 행위 등으로 메타의 커뮤니티 가이드라인을 위반한 이력이 있는 계정은 인증 대상에서 제외된다.

이번 서비스는 신분증이나 공식 문서를 제출해 유명인이나 기업의 공식 계정을 확인하는 유료 서비스인 ‘메타 인증(Meta Verified)’과는 별도로 운영된다. 

메타 인증이 계정의 공식성을 확인하는 제도라면, 페이스북 인증은 실제 사람이 운영하는 계정인지를 확인하는 데 초점을 맞췄다.

메타는 AI 기술의 발전으로 사람처럼 활동하는 가짜 계정이 늘어나면서 플랫폼의 신뢰성을 높일 필요성이 커졌다고 설명했다.

톰 엘리슨 페이스북 총괄은 “AI 덕분에 콘텐츠를 만들고 정보를 찾는 일은 쉬워졌지만 사람 간의 연결은 대체할 수 없다”며 “상대방이 실제 사람이라는 점을 확인할 수 있는 방법을 제공하는 것이 그 어느 때보다 중요해졌다”고 말했다.

업계에서는 이번 조치가 페이스북 ‘마켓플레이스’에서 발생하는 거래 사기와 로맨스 스캠 등 AI를 악용한 범죄를 줄이기 위한 대응책으로 보고 있다.

이와 함께 메타는 마켓플레이스 판매자 전용 앱인 ‘셀러(Seller)’도 공개하며 개인 간 거래 환경의 신뢰도를 높인다는 계획이다.

메타는 우선 일부 국가에서 서비스를 시작한 뒤 전 세계로 확대 적용할 계획이다.

이승구 온라인뉴스 기자 hibou5124@segye.com