“AI로 필터링… 악플 등 3분의 1로”… 카카오 ‘디지털 안전’ 세계가 주목
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
인공지능(AI)으로 안전한 디지털 세상을 만들기 위한 카카오의 노력이 유엔 본부 회의에서 소개됐다.
카카오는 온라인으로 참여해 유해 콘텐츠 유통을 막는 디지털 안전 정책, AI 등 기술을 통한 선제적 대응 사례, 혐오표현 대응을 위한 시민사회 협력 모델을 차례로 소개했다.
카카오는 디지털 안전 철학이 AI 기술에 적용된 '세이프봇'의 사례도 공유했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
“갈등·증오 발언에 적극 대응”
인공지능(AI)으로 안전한 디지털 세상을 만들기 위한 카카오의 노력이 유엔 본부 회의에서 소개됐다. AI로 뉴스 댓글에 달린 욕설이나 혐오 발언을 필터링하는 ‘세이프봇’ 사례 등이 특히 전 세계인의 관심을 집중시켰다.
카카오는 10일(현지시간) 미국 뉴욕 유엔 본부에서 열린 ‘유엔 대테러사무국-테크 기업 협의 회의’에서 디지털 안전을 위한 정책과 사례들을 발표했다고 11일 밝혔다. 회의는 테러 목적의 정보통신기술(ICT) 악용에 대한 예방 및 대응을 위한 ‘비구속적 지침서’를 마련하고자 유엔 안전보장이사회 산하 대테러사무국에서 주관했다.
회의에서는 테크 산업 내 디지털 안전을 위한 기업들의 모범 사례 공유, 지침서 마련과 관련된 의견 수립 및 발전 방향 등이 다뤄졌다. 카카오는 온라인으로 참여해 유해 콘텐츠 유통을 막는 디지털 안전 정책, AI 등 기술을 통한 선제적 대응 사례, 혐오표현 대응을 위한 시민사회 협력 모델을 차례로 소개했다.
우선 카카오는 표현의 자유를 중시하면서도 이용자의 안전 보호에 소홀하지 않은 ‘디지털 안전’ 철학을 소개했다. 김수원 카카오 정책팀 박사는 “카카오는 자유로운 커뮤니케이션의 가치를 중요하게 여기지만 사회 갈등을 심화하는 콘텐츠와 증오 발언에는 정책과 기술을 통해 적극적으로 대응하고 있다”고 말했다.
카카오는 디지털 안전 철학이 AI 기술에 적용된 ‘세이프봇’의 사례도 공유했다. 세이프봇은 카카오 서비스 내에서 게시물 운영정책을 위반한 콘텐츠를 AI 기술로 분석해 자동으로 필터링하는 기능이다. 세이프봇 도입 후 악성 댓글이 기존의 3분의 1 수준으로 낮아지는 등 실효적 성과를 내고 있다.
혐오표현 근절을 위한 시민사회 협력 모델도 소개했다. 카카오는 국가인권위원회, 학계 전문가, 시민단체와의 협력을 통해 2021년 ‘증오 발언 근절을 위한 카카오의 원칙’을 제정하고 관련 기술 및 정책을 고도화 중이다. 김대원 카카오 정책팀장은 “카카오는 앞으로도 정보기술(IT) 기업이 갖춰야 할 사회적 책임을 이행해가며 디지털 생태계의 건강성을 위해 꾸준히 노력할 것”이라고 말했다.
임정환 기자 yom724@munhwa.com
Copyright © 문화일보. 무단전재 및 재배포 금지.
- 러시아 정예 부대, 바흐무트서 궤멸 퇴각…전사자 시신 500여구와 함께 2km 밖으로
- 생물학적 부모가 3명인 아이가 태어났다… ‘이럴수가’
- 패트리엇으로 러 극초음속미사일 요격?…美국방부 “사실” 공식 발표
- 제복 입은 美 여경, 강도 짓 하려 한 10대들 총 맞고 사망
- “레이더에 걸린 70척…EEZ침범땐 쇠창살 뚫고 제압”
- 배현진 “김남국, 빈곤 포르노냐”…장경태 “무식한 배현진” 장외 설전 이어가
- ‘양꼬치엔 칭다오’ 정상훈, 70억대 건물주 됐다
- 女탈의실에서 팬티 벗은 자칭 ‘트랜스젠더’ 무죄…왜?
- 2030 ‘공정 역린’ 건드린 김남국…민주 “이대론 총선 필패”
- ‘우회전 빨간불’에 주행한 시내버스..스쿨존서 8세 초등생 숨져