생성형 AI서 '서울시' 정보 검색해보니…다수 오류 발견

반크, 공공정보 오류 실태 담은 '서울시 AI 정책 제안보고서' 공개

(서울=연합뉴스) 성도현 기자 = 사이버 외교사절단 반크(단장 박기태)는 최근 생성형 인공지능(AI) 플랫폼을 이용해 서울시의 행정·정책, 관광, 문화유산 관련 정보의 정확성을 점검한 결과 여러 유형의 오류 사례를 확인했다고 20일 밝혔다.

반크는 챗GPT, 제미나이, 코파일럿, 그록, 퍼플렉시티 등 글로벌 이용률이 높은 주요 생성형 AI 플랫폼을 대상으로 조사를 진행했다.

서울시 관련 질문을 제시한 뒤, 각 AI가 제공한 답변을 서울시 공식 자료와 공공 데이터와 비교·분석해 오류 여부를 점검했다.

그 결과 행정·정책, 관광, 문화유산 전반에서 동일하거나 유사한 오류가 반복적으로 나타났다.

서울시 행정·정책 정보 질문에 대해서는 생성형 AI가 정책의 대상 요건과 이용 방식을 단순화하거나 일부 조건을 누락해 안내하는 사례가 다수 확인됐다.

반크는 "청년 안심주택, 청년수당, 기후 동행 카드, 무상급식, 출산 관련 급여 등 주요 정책에서 실제 운용 기준과 다른 설명이 반복적으로 제공됐다"고 설명했다.

이들 정책이 대상, 소득 기준, 신청 방식, 이용 기간 등이 복합적으로 설계돼 있음에도 불구하고 일부 생성형 AI는 핵심 요건을 축약하거나 예외 조건을 반영하지 않았다고 분석했다.

관광·교통 정책에서도 AI 오류 문제가 반복됐다.

기후 동행 카드와 관련해 일부 AI는 1일권이 존재하지 않거나 현금 충전이 불가능하다고 안내했고, 외국인은 이용할 수 없다는 잘못된 정보도 제공했다.

서울시 주요 관광 정보 전반에서도 생성형 AI 오류 사례가 반복적으로 확인됐다.

경복궁·창덕궁 등 고궁 관람 요금의 경우에는 존재하지 않는 소인 요금을 안내하거나 내외국인 및 연령 기준을 구분하지 않은 채 요금을 제시한 사례가 확인됐다.

계절별로 관람 시간이 달라지는 창덕궁의 기준이 반영되지 않거나, 연중 동일한 운영 시간을 유지하는 창경궁의 시간을 임의로 구분해 안내한 사례도 있었다.

관광 콘텐츠 이미지 생성 과정에서도 실제 체험과 무관한 이미지가 생성되기도 했다.

반크는 '서울달' 이미지 요청에 도심 속 달 풍경이 생성된 사례는 생성형 AI가 관광 콘텐츠의 맥락과 실체를 충분히 인식하지 못하고 있음을 보여준다고 지적했다.

서울달은 헬륨가스와 부력을 이용해 여의도 상공 130ｍ까지 열기구처럼 수직 비행하는 가스 기구로, 서울을 대표하는 관광랜드마크로 떠올랐다.

이미지 생성 분석을 통해 문화유산을 재현한 결과 숭례문은 핵심 특징인 세로 현판이 반영되지 않거나 궁궐 형태로 묘사됐고, 경복궁은 중국 자금성과 유사한 구조로 표현됐다.

서울시 지정 무형유산 종목 수를 실제보다 적게 안내하거나, 한양도성을 이미 유네스코 세계유산으로 등재된 것으로 설명하는 등 서술 정보 오류도 다수 발견됐다.

반크는 이번 조사 결과를 토대로 생성형 AI 오류가 ▲ 시민의 권리 접근 제한 ▲ 행정·관광 정책 신뢰도 저하 ▲ 도시 및 문화유산 인식 왜곡 등으로 이어질 수 있다고 우려했다.

아울러 AI 활용이 확대되는 환경에서 공공 데이터의 정확성 확보와 표준화, 지속적인 정보 업데이트 체계 마련이 중요하다고 강조했다.

박기태 단장은 "공공정보에서 발생하는 오류는 국제사회가 서울과 한국을 인식하는 기준 자체에 영향을 줄 수 있다"며 "AI 환경에서도 공공정보의 정확성과 맥락이 유지될 수 있도록 체계적인 검증과 관리가 필요하다"고 말했다.

반크는 오류 사례들을 담아 작성한 '서울시 AI 정책 제안보고서'를 서울시에도 제출할 계획이다.

이번 조사는 반크가 그간 경기도 등 지역 단위에서 진행해 온 생성형 AI 오류 점검 활동의 연장선에서 이뤄졌다.

반크는 글로벌 AI 환경 속에서 한국의 공공정보가 어떤 방식으로 학습되고 재구성되는지를 도시 단위에서 검증하기 위해 서울시를 분석 대상으로 선정했다.

서울시는 국내외 이용자의 정보 접근 빈도가 가장 높은 도시로, 생성형 AI 오류가 발생할 경우 정책 체감도와 도시 신뢰도 전반에 미치는 파급력이 크다는 점이 고려됐다.

raphael@yna.co.kr

▶제보는 카톡 okjebo

정치