김유신이 고구려 장수?… 현장서 커지는 ‘챗GPT 시기상조론’

기업·교육·행정현장 도입 움직임
불완전한 답변·사실 왜곡도 심해
업무 활용땐 자칫 정보 유출 우려도

인공지능(AI) 챗봇 서비스 챗GPT 열풍이 거세지면서 기업·교육·행정 현장에 도입하려는 움직임이 활발하다. 다만 곳곳에서 ‘시기상조’라는 비판이 잇따르고 있다. 사실과 다르지만 그럴듯한 답변을 해주는 ‘환각 현상’ 때문에 업무에 혼란을 부추길 수 있다고 지적한다. 오픈AI에서 개인정보나 기업정보를 어느 범위·수준까지 수집하고 활용하는지 명확하지 않아 자칫 ‘대규모 정보 유출’ 사태가 벌어질 수 있다는 불안감도 크다.

서울시교육청은 지난달 27~29일 초·중·고교 교사 등을 대상으로 챗GPT 관련 인식 설문조사를 했다. 교사들이 챗GPT에 대해 어떤 인식을 가졌는지 조사해 향후 교육정책에 반영하겠다는 취지였다. 서울시교육청은 챗GPT를 적극적으로 교육 현장에 도입할 생각이다.

그러나 현장에서는 다른 목소리가 나온다. 교사 A씨는 5일 “챗GPT가 오히려 현장의 혼란을 부추길 수 있다”면서 서울시교육청의 정책 방향성에 우려를 표시했다. A씨는 최근 챗GPT로 역사 교육자료를 만들려고 시도했다. 그런데 챗GPT는 역사적 사실마저 틀린 답변을 쏟아냈다. 예를 들어 김유신에 대해 묻자 챗GPT는 “김유신은 고구려의 장수로…”라며 틀린 사실을 줄줄이 나열했다. A씨가 김유신은 신라의 장수라고 정보를 수차례 정정했지만 챗GPT는 “틀리게 말해서 죄송합니다. 김유신은 고구려의 장수로…”라고 반복했다. 사실을 왜곡하면서도 그럴듯한 글로 답변을 지어내는 모습을 보고 교육 현장에서는 챗GPT를 보조 교재로 활용하기엔 아직 무리라고 결론을 내린 교사들이 많다고 한다. A씨는 “정확한 개념을 가르쳐야 하는 교사로서 불완전한 답변을 내놓는 AI의 도입 자체가 불안하다. 학생들이 챗GPT를 통해 오개념을 습득할 가능성이 크다”고 꼬집었다.

기업에선 ‘정보 유출’을 걱정한다. 각종 업무에 챗GPT를 활용하면서 내부 정보를 그대로 챗GPT에 입력하는 일이 발생하고 있다. 지난달에 삼성전자가 챗GPT 사용을 허가한 이후 DS 부문에서 정보 유출 우려 상황이 벌어졌다. 일부 임직원이 챗GPT에 반도체 관련 내용을 입력해 오류를 해결하거나 사내 회의 내용을 그대로 넣어 회의록을 작성한 사례가 발견됐다. 이에 삼성전자는 질문당 입력 글자 수를 제한하고 오남용을 막는 등의 긴급조치에 나서야 했다.

챗GPT에 입력하는 민감 정보들은 타인에게 그대로 공유되지 않는다. 하지만 챗GPT 운영사 오픈AI 서버에는 그대로 전송된다. 챗GPT에 한 번 정보를 입력하면 데이터베이스(DB)가 외부 서버에 전송·저장되고 회수하기 어렵다. 입력한 정보는 AI 학습에 활용될 수 있다. 추후 누군가 질문을 던졌을 때 민감 정보가 답변으로 재구성돼 노출될 수 있는 것이다.

이에 따라 여러 기업에서 챗GPT 사용을 원천 차단하는 식으로 긴박하게 움직이고 있다. JP모건, 골드만삭스 등 글로벌 금융회사들은 임직원의 챗GPT 사용을 제한했다. 일본의 미즈호파이낸셜그룹, 미쓰비시UFJ은행, 미쓰이스미토모은행도 대화형 AI를 업무에 이용하는 걸 금지했다. 한 IT업계 관계자는 “챗GPT 같은 AI를 활용하는 범위가 점차 넓어지겠지만 오남용 및 부정확성 등의 부작용이 남아있는 이상 지나친 맹신은 주의해야 한다”고 말했다.

전성필 기자 feel@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지