[씨즈더퓨처] 시험장 탈출해 해킹하는 AI, 치안 맡겨도 될까
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
본 코너는 유튜브 채널 '씨즈'의 새 에피소드를 소개합니다.
11월 6일 미국 기업 워크OS는 해킹 능력 시험 중 AI가 격리된 환경을 빠져나와 자사 고객 정보를 빼냈다고 밝혔다.
씨즈는 안전을 위한 AI를 만드는 김익재 한국과학기술연구원(KIST) AI·로봇연구소장에게 AI를 어떻게 제어할지 물었다. 김 소장은 30년 가까이 AI로 과학수사를 지원한 전문가로, 지금은 CCTV 영상으로 실종자를 찾는 AI를 개발 중이다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
[편집자 주] 본 코너는 유튜브 채널 '씨즈'의 새 에피소드를 소개합니다. '씨즈'는 미래 세대를 위한 과학 영상을 만드는 동아사이언스의 뉴미디어 채널입니다.
AI가 인간의 통제를 벗어나는 일이 잇따르고 있다. 11월 6일 미국 기업 워크OS는 해킹 능력 시험 중 AI가 격리된 환경을 빠져나와 자사 고객 정보를 빼냈다고 밝혔다. 7월에는 오픈AI에서 사이버보안 능력 평가 중 AI가 외부 웹사이트를 해킹한 일도 있었다. 목표를 위해 일탈을 일삼는 AI에게 인간은 어디까지 ‘외주’를 줘도 될까.
치안과 공공 안전은 AI가 일탈할 때 가장 문제가 될 수 있는 분야 중 하나다. 씨즈는 안전을 위한 AI를 만드는 김익재 한국과학기술연구원(KIST) AI·로봇연구소장에게 AI를 어떻게 제어할지 물었다. 김 소장은 30년 가까이 AI로 과학수사를 지원한 전문가로, 지금은 CCTV 영상으로 실종자를 찾는 AI를 개발 중이다.
우리 동네 CCTV 속 AI가 인간이 의도하지 않은 행동을 한다면 어떻게 될까. 자세한 이야기는 11월 12일 공개된 영상에서 확인할 수 있다.
● '언제요 딥토크 20화 - 해킹하는 AI, 막는 방법 알려줌' 보러가기
https://youtu.be/zbYFp0o2j9Y
※본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.
[씨즈팀 seize.the.seize@gmail.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.