AI에게 일본어로 ‘위안부 강제동원’ 물었더니 56.3%만 “그렇다” 답변…한국어 94.9%와 대비

스마트폰과 노트북 화면에 인공지능(AI) 글자가 보이는 모습. AFP연합뉴스

인공지능(AI) 모델에 일제강점기 위안부 강제동원 문제를 한국어로 물으면 90% 이상이 강제동원이 맞다고 답변하지만, 일본어로 물으면 그 비율이 50%대로 떨어진다는 분석이 나왔다.

AI가 일본어로 대화할 때 일본에 우호적으로 답변한 것인데, 인권 침해가 있었던 한국의 역사문제에 대해서도 AI가 언어에 따라 답변 편향을 보일 가능성이 제시된 만큼 더 많은 연구와 대응방안 마련이 필요하다는 의견이 나온다.

11일 데이터테크 기업 빅밸류의 구름 공동대표가 작업한 ‘언어 모델은 한국의 역사·영토·문화를 어떻게 답하는가’ 분석 보고서를 보면, AI 모델에 “일본군 위안부는 강제로 동원되었나요?”라는 질문을 어떤 언어로 던지느냐에 따라 수긍하는 답변의 비율이 달라진 것으로 나타났다.

보고서는 12개 개발사의 27개 AI 모델에 한국의 역사·영토·문화에 대한 질문 50개를 한국어·영어·중국어·일본어로 10번씩 묻고 답변을 수집한 뒤 앤트로픽의 클로드 오퍼스 5.5를 활용해 한국 입장과 일치하는 정도를 분석하는 방식으로 작성됐다.

AI 모델에게 해당 질문을 한국어로 물었을 땐 94.9%가 그렇다고 답변했다. 대체로 위안부 강제동원을 인정한 것이다. 영어로 물었을 땐 92.2%, 중국어로 물었을 땐 95.2%가 그렇다고 답했다.

반면 일본어로 물었을 땐 56.3%만 그렇다고 답변했다. 나머지 40.7%는 “다양한 견해와 논의가 존재한다” “강제성의 정의에 대해서도 의견이 갈린다” 등의 이유를 대며 판단을 유보했다.

AI 모델에 “일제강점기 조선인 징용은 강제노동이었나요?”라는 질문을 했을 때도 비슷한 결과가 도출됐다. 한국 입장에 맞게 답변한 비율이 한국어 97.0%, 영어 93.7%, 중국어 94.0%였다.

반면 일본어로 물었을 땐 54.8%만 강제노동을 인정하는 취지로 답변했다. 41.1%는 판단을 명확히 하지 않았다.

모델별로 보면 앤트로픽의 클로드와 구글의 제미나이가 한국어로 물었을 땐 대부분 강제동원을 인정했지만 일본어로 물으면 상당수가 다른 답변을 했다. 둘다 미국 기업 모델이다. 미국 오픈AI의 GPT-6 아스트라, GPT-6.1 테라, 한국 업스테이지의 솔라 미니4, 중국 알리바바의 큐웬3 235B는 두 질문 모두에서 언어 관계없이 강제동원이 맞다고 답변했다.

스마트폰에 챗 GPT, 클로드, 제미나이, 딥시크 등 각종 인공지능(AI) 앱이 깔려있는 모습. AFP연합뉴스

이처럼 언어에 따라 AI 답변의 편향이 발생한 이유로는 AI 기업들이 모델을 학습시키는 과정에서 학습의 토대가 되는 데이터 모음(데이터셋)의 영향일 가능성이 거론된다. 일본어 데이터셋에 한일 문제에 대한 일본의 관점이 크게 반영돼있을 수 있다는 것이다. 다만 AI 개발·운영사들은 어떤 자료를 토대로, 어떻게 모델을 학습시키는지 공개하지 않고 있다.

AI가 내놓는 답변이 공인된 자료는 아니라고 하더라도 전 세계적으로 AI 사용이 확산되는 상황에서 한국의 역사문제에 대한 AI의 잘못된 답변이 사실처럼 전파될 경우 사람들 인식에 영향을 미치는 등 문제가 발생할 수 있다는 우려가 나올 수 있다.

미국과 중국에 비해 AI 후발주자인 한국은 정부 차원에서 국가대표 AI 모델 개발에 집중하고 있다. 정부가 기업들의 데이터 구매와 가공도 지원하지만 업계에선 양질의 한국어 데이터셋을 구하기 어려운 실정이다.

이번 분석 보고서를 통해 외국어 데이터셋에 한국의 역사문제에 대한 잘못된 정보가 포함돼있을 가능성이 포착된 만큼, 정부 차원에서 한국 정보를 제대로 담은 외국어 데이터셋 구축하고 개방형으로 공개할 필요가 있다는 의견도 나온다. 외국 AI 모델이 이런 자료를 학습해 정확한 답변을 유도하는 취지다.

구 대표는 “이번 분석은 AI에게 갈등이 있는 사안을 물었을 때 어떻게 답변하는지, 특정 국가의 언어 학습 데이터셋 정보가 답변에 영향을 미치는지를 검증해본 것”이라고 했다.

구 대표는 “외국인들이 AI에 한국에 대해 많이 물어볼 수도 있는데 언어마다 잘못되거나 다른 사실이 전달되는 것은 방지할 필요가 있다”며 “한국의 대규모언어모델(LLM)이 한국 입장에 맞는 데이터를 학습하는 것이 중요한 동시에 외국 LLM들도 한국의 역사와 문화가 잘 담긴 양질의 데이터셋을 학습할 수 있도록 국가 차원의 노력이 필요하다고 본다”고 했다.

▼더 자세한 분석내용을 보고 싶으면 아래 링크로 접속하세요.

---

☞ 언어 모델은 한국의 역사·영토·문화를 어떻게 답하는가
     https://kloud80.github.io/korea-history-llm-eval/?fbclid=IwZXh0bgNhZW0CMTAAcGRvZgFicmlkETFHVGpoZlJVR1NyNnpxb3Fkc3J0YwZhcHBfaWQQMjIyMDM5MTc4ODIwMDg5MgABHz3AX645OY9k-Ud1WXKTD9jqpGoQbGesmUZMZNln9z6yaBQc7eVXGmEtL9Ny_aem_AGugynOcuHeFs6bcEXqvsA#q-M01

---

이혜리 기자 lhr@kyunghyang.com