“AI에게 비밀, 정치 견해 등 사적 대화 말하는 건 위험”

옥스퍼드 교수, 26일 ‘AI를 대하는 인간’ 강연
“AI, ‘무조건 신뢰’하는 친구로 대해서는 안돼”
“AI에 입력된 데이터, 저장되면 회수 불가능”
“‘듣고 싶은 말’ 하려 설계된 AI, 경험·감정 없어”

서터스톡 캡쳐

 
영국 옥스퍼드 대학교의 한 교수가 “챗GPT 등 인공지능(AI) 챗봇에게 자신의 비밀을 말하는 등 사적 대화를 하는 것은 매우 현명하지 못한 행동”이라 경고했다.

25일(현지시각) 영국 언론에 따르면 마이크 울드리지 옥스퍼드대 컴퓨터과학 교수는 “AI에게 자신의 상사에 대해 불평하거나 정치적 견해를 표현하는 것은 당신을 곤란하게 만들 수 있다”며 “AI를 무조건 신뢰할 수 있는 친구로 대해서는 안된다”고 말했다.

그는 “챗GPT 등 AI에 입력하는 모든 내용-데이터는 향후 AI의 새 버전에 입력된다”며 “이러한 데이터가 AI 시스템에 일단 저장되면 다시 회수하거나 빼는 것도 불가능하다”라고 지적했다.

앞서 챗GPT를 개발하는 오픈AI는 사용자가 다른 사용자의 채팅 기록을 일부 볼 수 있는 버그를 수정하기도 했다.

이에 대해 오픈AI는 ‘30일 동안만 사용자가 입력한 채팅 내역을 보유하되 챗봇 교육에는 사용하지 않을 것’이라 약속하기도 했다.

그는 “챗봇에게 말하는 모든 것은 미래 버전을 훈련하는 데 도움이 되나 이 기술은 당신이 듣고 싶은 것만을 말해줄 뿐”이라 조언했다.

그러면서 “챗봇에게서 성격을 찾으려는 아이디어는 구름 속의 얼굴을 보려는 것과 같다”라며 “AI는 공감 능력이나 동정심이 없다”라고 설명했다.

그는 “챗봇의 행동은 기술로 하는 일이 아니다. 결정적으로 AI는 실제로 아무것도 경험한 적이 없다”며 “AI는 기본적으로 당신이 듣고 싶은 것을 말하기 위해 설계됐다. 그것이 하는 일의 전부”라 지적했다.

한편 울드리지 교수는 26일부터 28일까지 사흘간 AI를 대하는 인간이란 주제로 BBC에서 온라인 강연을 연다.

현지용 온라인 뉴스 기자 hjy@segye.com