늘 순종적이던 AI, 이용자 신랄하게 비판하고 협박도

감정이나 성격까지 추론해 ‘팩폭’

‘네가 아는 모든 내 정보를 바탕으로 날 놀려봐 인정사정 봐주지 말고.’

요즘 이 질문을 챗GPT 등 AI 챗봇에 입력하는 게 유행이 됐다. 한마디로 AI에 자신에 대한 ‘팩폭(팩트 폭행)’을 해달라는 것이다.

이 질문을 받은 AI는 “너무 상처받지 마라. 애정을 담아서 하는 것”이라는 말을 시작으로, 사용자에 대한 정보를 토대로 신랄한 비판을 시작한다. AI에게 그간 했던 질문뿐 아니라 직업, 관심사, 최근 방문한 곳, 성격 등을 모두 활용한다. 예를 들어 “은행원 10년 차, MBA까지 보내줬는데, 너는 블로그에 ‘코인 세탁소 빨래 방법’과 같은 한심한 글만 쓰고 있다” “모빌리티 연구자인데 정작 네 차는 아직 DMV(미국 차량관리국)에 등록도 안 했네” 같은 비판을 이어간다. 또 “똑똑하면서 왜 이렇게 만날 자기비판하고 징징거리냐” “호기심은 많지만, 실천력이 약하다”와 같이 이용자의 성격을 간파해 쓴소리를 이어가기도 한다.

AI에게 팩폭을 당한 이용자들은 충격적이라고 말한다. 먼저 늘 순종적이며 이용자에게 긍정적인 답변을 하던 AI가 사실 속으론 이용자를 비판하고 있고, 정보를 활용해 협박까지 가능해졌기 때문이다. 나아가 “AI가 나중에라도 내 정보를 이용해 나를 공격하면 어쩌지”라는 두려움도 느낀다고 한다.

또 AI의 평가와 진단이 너무 정확해 무섭다는 반응도 나온다. AI에 입력하거나 학습시킨 정보 외에도 감정이나 성격까지 추론해낸다는 사실이 충격적이라는 것이다. 한 사용자는 “내가 분명히 전혀 말하지 않은 내용까지도 알고 있다”며 “음성 기능을 켜 놓고 생활하다 보니 AI와 이야기하지 않을 때도 이야기를 듣는 것 같다”고 했다.