‘AI 부정행위’ 원천 봉쇄할 수 있는 해법은?… 업계 “정부·모델사 협의가 관건” [AI 클로즈업]

[디지털데일리 구아현기자] 대학수학능력시험을 앞두고 세무사 시험 수석 합격자가 인공지능(AI)을 이용한 부정행위가 드러나면서 부정행위 방지가 국가 과제로 떠올랐다. 문제지 사진만으로 답을 내놓는 AI와 몸에 지닐 수 있는 스마트 안경 등 소형 기기가 발전이 맞물리면서 국가시험의 공정성에 대한 신뢰가 흔들리고 있다. 시험장 감독에 더해 시험이 끝난 뒤 실제 AI 사용을 어디까지 확인할 수 있느냐가 새 과제로 떠올랐다.
교육부에 따르면 지난 19일 치러진 2027학년도 수능에서 전자기기 관련 부정행위 111건이 적발됐다. 시험 도중 기기를 사용한 사례는 5건이었다. 스마트안경 사용, 소형 카메라와 무선이어폰 사용, 스마트폰으로 문제지 촬영이 각각 1건이었다. 나머지 2건은 화장실에서 스마트폰을 사용한 사례였다. 전체 집계에는 전자기기 소지에 따른 적발도 포함됐다. 실제 AI 사용 여부는 추가 조사가 필요할 예정이다.
세무사 시험에서는 회계학개론 고득점자가 크게 늘어난 배경도 쟁점이다. 황정아 더불어민주당 의원실이 시험 종료 후 앤트로픽 ‘클로드 오푸스 4.7’에 올해 1차 시험 문제지 이미지를 제시한 결과, 모델은 회계학개론 40문항을 모두 맞혔다. 한국산업인력공단 집계에서 이 과목의 90점 이상 응시자는 지난해 2명에서 올해 66명으로 늘었다. 황 의원은 고득점자 집단에서 통계적으로 이례적인 점이 있는지 조사하고 수능 감독 대책을 국가자격시험에도 적용하자고 제안했다.
정부는 시험이 끝난 뒤에도 의심 사례를 추적할 방침이다. 한성숙 국무총리는 지난 16일 관계부처 회의에서 신고·제보와 이상 징후를 확인하고 부정행위가 드러나면 응시자격 제한이나 수사 의뢰 등 후속 조치를 하라고 지시했다. 이재명 대통령은 이튿날 수능 시험 시간에 문제지를 AI 서비스에 올린 사례를 전수조사하라고 주문했다.
◆ 다양해지는 부정행위 수법… 업계 "모델사와 직접 협의가 가장 쉬운 방법"
업계에서는 다양해지는 부정행위 수법을 기술만으로 막기에는 역부족이라고 보고 있다. 한 AI 업계 관계자는 "소형 기기의 형태가 다양해지면서 스마트안경 등 특정 물품을 점검하는 방식으로는 모든 부정행위를 잡기 어렵다"며 "의심 정황을 발견한 뒤 어떻게 대응할지도 문제"라고 지적했다. 현장 확인이 길어지거나 시험이 중단되면 같은 고사실의 다른 수험생도 영향을 받는다. 감독관이 어떤 상황에서 개입할지 기준을 미리 정해야 한다는 설명이다.
업계에서는 시험장마다 새 장비를 들이는 것보다 AI 모델 개발사와 직접 협의하는 편이 빠를 수 있다고 본다. AI 모델 개발사는 국가마다 기능을 키고 끌 수 있는 레이어를 둘 것이고 간단히 차단할 수 있다고 생각되기 때문이다.
과기정통부가 이번 수능을 앞두고 발표한 협력은 시험 뒤 기록 확인에 초점을 뒀다. 배경훈 부총리 겸 과기정통부 장관은 지난 17일 글로벌 기업들이 정부 요청에 협조하기로 했지만 협력 범위가 모두 정해진 단계는 아니라고 설명했다. 시험 시간에 국내에서만 문제 풀이를 제한하는 데에도 기술적 어려움이 있다고 밝혔다.
애초에 글로벌 AI 기업은 이용 지역에 따라 챗봇 기능의 제공 범위를 달리해 왔다. 오픈AI는 지난해 6월 챗GPT의 ‘딥리서치’에 외부 서비스 연동 기능을 도입하면서 유럽경제지역(EEA)과 영국, 스위스의 개인 유료 이용자를 초기 제공 대상에서 제외했다. 구글도 제미나이에서 일부 유료 기능을 이용할 수 있는 국가를 따로 안내한다.
이 같은 지역별 기능 운영을 시험에 적용하면, 한국에서 시험이 치러지는 시간에 해당 문항에 대한 답변만 제한하는 방안을 검토할 수 있다. 이를 위해서는 문제지 사진이나 글로 입력된 질문이 실제 시험 문항과 일치하는지 판별할 기준이 필요하다. 배경훈 부총리 겸 과학기술정보통신부 장관은 한국에만 적용할 별도 필터를 만드는 데 기술적 어려움이 있다고 설명했다.
AI 업계에서는 국내에 한해 답변을 제한하는 방안을 기술적으로 검토할 수 있다는 의견도 나온다. 글로벌 기업이 국가별로 서비스 제공 범위를 달리하는 만큼 한국에 별도 응답 기준을 적용할 여지가 있다고 봤다.
다른 AI 업계 관계자는 "실제 도입 여부는 정부와 기업이 적용 범위와 운영 책임을 어떻게 합의하느냐에 달려 있다"며 "이미 글로벌 기업들은 나라마다 다양한 필터를 가지고 있고, 이를 끄고 키는 건 딸칵하면 되는 문제로 기술적으로 쉽다"고 설명했다. 다만 “기업이 특정 국가의 시험을 위해 별도 조치를 마련하는 데에는 정부와의 협의가 필요하다”며 “기업 입장에서도 협력에 나설 유인이 있어야 한다”고 설명했다.
주관기관과 개발사가 시험 문항을 식별할 기준을 미리 정하고, 시험 시간에 국내에서 해당 문항을 풀어 달는 요청이 들어오면 답변을 제한하는 방식이다. 글과 이미지를 함께 처리하는 시각언어모델(VLM)은 문제지 사진으로도 답을 내놓지만, 복잡한 도표나 그림을 해석하는 성능은 문항에 따라 차이가 난다. 답변 제한을 적용하려면 문제지 사진과 그림을 글로 옮긴 요청을 같은 문항으로 알아볼 수 있는지도 확인해야 한다.
◆ AI 감독 기술 있어도 카메라 부족… 자격시험 전용 센터 대안
온라인 시험에서는 이미 AI를 감독에 쓰고 있다. 그렙의 온라인 시험감독 서비스 ‘모니토’는 올해 부정행위 267건을 적발했다. 이 가운데 스마트안경 활용은 5건이었다. AI가 응시자의 시선이나 자세 변화를 감지하면 감독관이 해당 영상을 확인하는 방식이다.
세무사 등 주요 국가자격시험부터 미국처럼 권역별 전용 시험센터를 구축하는 방안이 대안으로 꼽힌다. 미국 공인회계사(CPA) 시험은 응시자가 공인된 프로메트릭 시험센터에서 시험 일정을 예약해 치른다. 국내에서도 여러 자격시험이 센터를 함께 쓰면 촬영 장비와 감독 인력을 상시 배치하고, 기기 반입 점검과 감독 기록 보존에 공통 기준을 적용할 수 있다. 정부도 국가자격시험 관리 개선 방안의 하나로 공인 시험장 구축을 제시했다.
전용 센터를 마련한다면 적발 이후의 절차도 함께 정해야 한다. 감독관이 기기를 발견한 시각과 현장 상황을 기록해두면 기업에서 확보한 서비스 이용 기록과 대조할 수 있다. 두 기록이 실제로 해당 응시자의 행위와 연결되는지도 확인해야 한다. 부정행위로 판정할 경우 응시자에게 판단 근거를 알리고 소명할 기회를 줘야 한다.
AI 감독 솔루션을 운영하는 한 AI 기업 대표는 "국가자격시험 전용 센터를 구축하면 시험 때마다 학교를 빌려 장비를 설치하는 부담을 줄일 수 있다"며 "여러 시험이 센터를 함께 쓰면 응시자별 촬영 장비와 전담 감독 인력을 상시 운용할 수 있고, 전자기기 반입 점검부터 적발 영상 보존까지 같은 기준을 적용할 수 있다"고 설명했다.
◆정답 내놓는 AI 시대… 수능은 무엇을 평가할 것인가
AI 시대 수능을 둘러싼 고민도 깊어지고 있다. AI가 문제지 사진만 보고도 답을 내놓을 수 있게 되면서, 수능 점수가 대학에서 공부하는 데 필요한 역량을 얼마나 잘 보여주는지 돌아볼 필요가 생겼다. 학생이 지문에서 근거를 찾고 여러 정보를 종합해 결론을 내리는 능력을 지금의 문항으로 충분히 확인할 수 있는지가 쟁점이다.
한 AI 업계 관계자는 "실제 업무에서 AI를 쓰는 일이 늘어나는 만큼 정답을 맞히는 데 초점을 둔 시험도 재검토할 필요가 있다"며 "시험 목적에 따라 AI 사용을 허용하고, 응시자가 AI의 답을 검토해 문제를 해결하는 능력을 평가할 수도 있다"고 말했다 수능에 이 논의를 적용하려면 수험생이 외부 도움 없이 입증해야 할 기초 역량과 AI를 활용해 보여줄 수 있는 역량부터 구체화해야 한다는 의견이다.
전국 수험생에게 같은 기준을 적용할 수 있느냐도 관건이다. 풀이 근거를 쓰게 하려면 채점자에 따른 점수 편차를 줄여야 한다. AI 활용 능력을 평가하려면 응시자에게 같은 도구와 이용 조건을 제공할 수 있어야 한다. 부정행위를 막고 의혹을 가려내는 일과 함께, 수능 점수가 대학에서 공부하는 데 필요한 어떤 능력을 보여줘야 하는지에 대한 논의도 필요할 것으로 보인다.
Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.