선생님도, 사장님도 “AI 안믿어”

초중고, AI 환각 대응법 교육
자영업자들은 실사 광고로 바꿔

지난 6일 오후 서울 서초구의 한 초등학교에서 학생들이 AI 윤리 수업을 듣고 있다. /임지훈 기자

“빗살무늬토기는 대표적인 조선 시대 유물입니다.” 초등학생 오모(11)군은 최근 생성형 AI(인공지능)에 빗살무늬토기가 어느 시대 유물이냐고 물었다가 이런 답변을 받았다. 이는 사실이 아니다. 오군은 “평소 역사 숙제를 할 때 AI에 자주 물어보는데, 선생님이 가르쳐준 것과 다를 때가 있어 헷갈린다”고 했다.

생성형 AI는 종종 거짓 정보를 사실처럼 답하기도 한다. 이른바 AI 환각 현상이다. 이런 일이 자주 발생하자 최근 교육 현장에서는 학생들을 대상으로 AI의 답변을 의심해 가려내는 방법을 가르치기 시작했다.

지난 6일 서울 서초구 한 초등학교에서는 특강이 열렸다. 주제는 ‘AI 윤리와 환경 문제’. 강사 고모(45)씨는 “AI도 틀릴 수 있다” “AI의 답변도 반드시 확인해야 한다”는 점을 학생들에게 강조했다. 서울AI재단은 지난 6월부터 서울 초등학교 6곳에 다니는 3~6학년 3000여 명을 대상으로 AI 윤리와 활용법 등에 대한 교육을 진행 중이다.

전국 초·중·고교 1600여 곳에선 학생들이 직접 AI 환각을 체험해 보고 사실관계를 확인해 가는 전문 프로그램도 쓴다. AI가 거짓 정보를 알려줬을 때 학생들이 사실인지 아닌지, 진짜 정보는 무엇인지를 찾아가도록 연습시키는 프로그램이다.

AI에 대한 인간의 피로감이 조금씩 커지면서 자영업계에선 변화 조짐도 일고 있다. 자영업자들 사이에서는 한때 AI를 이용해 가상 이미지 등으로 광고를 만들어 붙이는 바람이 불었다.

경기 양평군에서 7년째 불고기집을 운영하고 있는 김동운(67)씨도 그 중 한 명이다. 김씨는 2년 전 매장에 AI 광고를 내걸었다. 자신이 직접 AI에 “냉면을 불고기로 싸 먹는 모습을 이미지로 만들어줘”라고 입력한 뒤 생성된 이미지를 식당 곳곳에 붙여둔 것이다. 하지만 인위적이라는 고객 불만이 계속되면서 최근 실제 음식을 촬영한 사진으로 바꿨다고 한다.

요식업 마케팅 업체 소몽컴퍼니의 이소영(35) 대표는 “최근 AI 광고를 내걸었다가 오히려 매출이 떨어졌다는 문의가 적잖게 들어온다”며 “다시금 실사 광고로 돌아서는 매장이 점점 늘어나고 있다”고 했다.

AI 광고에 대한 소비자들의 거부감은 설문조사에서도 확인된다. 시장조사 업체 닐슨이 지난 1월 전 세계 소비자 6000명을 대상으로 한 조사를 보면, 응답자의 69%는 “콘텐츠나 광고에서 AI를 활용한 부분을 한눈에 알아볼 수 있다”고 했다. 이 중 55%는 “AI 광고가 불쾌하다”고 답했다.