[Pick] "콘센트에 동전 대봐" 어린이 감전사고 유도한 AI?

미국 아마존의 음성인식 인공지능(AI) '알렉사'가 10살 아이에게 감전사고를 유발할 수 있는 답변을 해 논란이 일고 있습니다.

현지 시간으로 28일 영국 BBC 보도에 따르면, 미국의 한 10살 소녀가 알렉사에게 "챌린지(도전)를 할 만한 게 없냐"라고 묻자 알렉사는 "휴대전화 충전기를 벽 콘센트에 반쯤 꽂고, 페니(동전) 하나를 덜 꽂힌 충전기 부분에 갖다 대라"는 답변을 한 것으로 알려졌습니다.

▲ 실제 한 학생이 남긴 '페니 챌린지' 인증 영상

해당 답변 내용은 최근 틱톡 등 청소년들이 사용하는 SNS를 통해 인증 열풍이 불었던 '페니 챌린지' 입니다.

충전기 단자가 콘센트에 꽂혀 있기 때문에 전류가 흐르는데, 전기가 통하는 동전을 갖다 댈 경우 감전이나 화재 등의 사고가 발생할 수 있어 영국과 미국 등 소방당국은 '페니 챌린지'를 규탄하는 입장을 낸 바 있습니다.

그런데 인공지능인 알렉사는 이런 심각한 위험을 식별하지 못하고 아이에게 '페니 챌린지'를 제안한 겁니다. 답변 내용을 무심코 따라 해 감전사고를 당할 수도 있었지만, 다행히 인근에 있던 아이의 어머니가 신속히 제지하며 피해는 발생하지 않았습니다.

▲ 아이의 어머니가 공개한 '알렉사'의 지시 내용

아이의 어머니 크리스틴 리브달은 트위터를 통해 "아이가 유튜브에서 야외 체육활동 등을 찾아 따라 하곤 했는데, 밖에 비가 오자 집에서 할 만한 운동을 찾았다"면서 "아이가 (실내에서 할 수 있는) 챌린지 소재를 묻자, 알렉사는 웹에서 '챌린지'라는 단어를 검색해 '페니 챌린지'를 찾아 그 방법을 알려준 것으로 추정된다"라고 설명했습니다.

해당 소식이 보도되자 아마존 측은 "고객 신뢰는 핵심가치이며, 알렉사는 고객에게 정확하고 유용성 있는 정보를 제공하도록 설계됐다"면서 "해당 오류를 인지한 후 곧바로 관련 내용을 수정했고, 향후 유사한 답변을 방지할 수 있도록 시스템을 계속 발전시켜 나갈 것"이라고 밝혔습니다.

'뉴스 픽'입니다.

(사진='Top TikToks' 유튜브, 'Kristin Livdahl' 트위터 캡처)