오바마 전 美 대통령 인스타 해킹, 알고보니 AI 상담 챗봇 탓

메타 AI. /로이터 연합뉴스

지난 31일 오바마 전 미 대통령의 백악관 공식 인스타그램에는 이상한 게시물이 올라왔다. 한 게시물은 인공지능(AI)으로 만든 중동 남성 사진과 함께 “백악관은 시아파의 통제하에 있다”는 문구가 적혔다. 이 계정은 오바마 전 대통령이 대통령으로 업무를 수행할 때 사용한 공적 계정으로, 다음 대통령이었던 도널드 트럼프 대통령이 취임한 2017년 1월 이후 게시물이 올라온 적이 없었다. 명백한 해킹인 것이다.

테크크런치 등 외신은 1일(현지 시각) 이러한 해킹이 소셜미디어 업체 메타의 AI 고객 지원 챗봇 때문에 발생한 것이라고 보도했다. 해커들이 메타의 AI 고객 지원 챗봇에 계정과 연동된 이메일을 추가해 달라고 요청했고, AI가 아무 의심 없이 해당 작업을 하면서 해커들의 시스템 침입을 허용한 것이다.

외신에 따르면, 해킹 수법은 단순했다. 해커는 가상사설망(VPN)으로 접속해 특정인인 척 메타의 고객 지원 AI 챗봇에 말을 걸었다. AI 챗봇에 새로운 이메일 주소를 특정인의 계정에 추가해 달라고 요청하자, AI 챗봇이 해당 이메일로 인증 코드를 전송했다. 해커는 이 인증 코드를 AI 챗봇과 공유했고, 챗봇은 ‘비밀번호 재설정’ 버튼을 표시했다. 이렇게 해커들은 기존과 다른 비밀번호를 입력하고 특정인의 계정을 탈취했다. 고도의 해킹 기술이 필요하지 않았다.

해커들은 이 방식으로 유명인 인스타그램 계정을 탈취했다. 백악관이 운영하던 버락 오바마 인스타그램 계정, 우주군 주임원사 존 벤티베냐의 계정, 화장품 유통업체 세포라 계정 등이 털렸다. 해커들은 이렇게 확보한 유명 계정의 접근 권한을 소액에 판매한 것으로 알려졌다.

메타는 올 3월 페이스북과 인스타그램에 AI 고객 지원을 확대하면서 비밀번호 재설정 등 핵심 계정 관리 기능을 AI가 처리하도록 했다. 하지만 AI가 제대로 계정 보안 역할을 수행하지 못하면서 해당 취약점은 지난 3월부터 해커 그룹에 공유된 것으로 알려졌다. 고객 지원을 AI화하면서 계정을 도난당한 이용자는 사람 상담원에게 문제 제기할 방법조차 없었던 것으로 전해졌다.

문제가 커지자 메타는 해킹으로 탈취된 계정에 올라온 게시물을 삭제하는 등 사후 대응에 나섰다. 앤디 스톤 메타 커뮤니케이션 담당 부사장은 “문제가 수정됐으며 AI 지원 시스템이 같은 방식으로 더는 악용될 수 없도록 근본 원인을 조치했다”고 밝혔다.

테크 업계에선 이번 사건이 권한을 가진 AI가 해킹에 취약할 수 있다는 점을 보여준 것이라고 평가한다. AI에 피싱이나 악성 코드, 비밀번호 해독 없이 정중히 요청하는 것만으로 해킹이 통했기 때문이다. 테크 업계 관계자는 “결국 AI에 너무 많은 권한을 주면 문제가 발생할 수 있다는 한 사례”라고 했다.