AI 대중화의 역설… “논문 작성 금지, 학교서 접속 금지”

[WEEKLY BIZ] Biz Pick: 유럽선 인공지능법 추진

인공지능(AI) 분야에서 가장 큰 학회인 기계학습국제학회(ICML)는 새해 들어 “대규모 인공지능 언어 모델(LLM)을 이용한 논문 작성을 금지한다”고 밝혔다. 논문의 실험 분석 사례나 단순 편집·가공 외에 인공지능(AI) 도구를 이용해 논문 문장을 생성할 경우 일종의 표절이나 허위 사실 적시로 간주한다는 방침이다. ICML이 이런 규제에 나선 계기는 지난달 11월 30일 공개된 AI 언어 모델 서비스 ‘챗(Chat) GPT’다. 세계 최대 AI 연구소 오픈AI가 개발한 챗GPT는 우리가 일반적으로 쓰는 언어(자연어)를 이해하고 활용할 수 있는 AI다. 수많은 문장을 학습해 사람으로 착각할 정도로 수준 높은 번역과 대화, 작문이 가능하다 보니 사용자를 일주일 만에 100만명 이상 끌어모았다.

미국 AI 연구소 ‘오픈AI’가 지난 11월 30일 공개한 AI 언어 모델 ‘챗(Chat) GPT’를 스마트폰에 띄운 모습. /AP연합

누구나 쉽게 AI 소프트웨어를 이용할 수 있는 AI 대중화 시대가 펼쳐지면서 관련 규제도 속도를 내고 있다. 특히 새해 들어 다양한 규제가 쏟아지면서 업계에선 “올해가 AI 규제 원년”이라는 말이 나올 정도다. 가령 뉴욕시 교육부는 이달 초 시내 공립학교 네트워크와 기기에서 챗GPT에 접속할 수 없도록 차단하는 조치를 발표했다. 제나 라일 교육부 대변인은 “이 도구는 질문에 대한 빠르고 쉬운 답을 제공할 수 있지만, 학업 및 인생에 필수적인 비판적 사고와 문제 해결 능력을 만들어주진 못한다”며 “학생의 학습 효과에 부정적 영향을 미친다”고 했다.

학계와 교육계가 서둘러 규제에 나선 것은 요즘 나오는 AI 기술의 성능과 부작용이 워낙 강력하기 때문이다. 미국 노스웨스턴대 캐서린 가오 박사 연구진은 “챗GPT로 작성한 의학 논문 초록 50편이 표절 검사 프로그램을 100% 통과했고, 전문가들마저 제출된 초록의 32%를 걸러내지 못했다”는 연구 결과를 지난달 27일 발표했다. AI가 각종 의학 학술지에 실린 논문을 참조해 만든 논문이 의학 연구자마저 속일 정도로 정교했다는 뜻이다. IT 전문 매체 더 버지는 “AI 도구는 일종의 자동 완성 시스템으로 주어진 문장 다음에 올 만한 단어를 예측하도록 훈련됐다”며 “그럴듯하게 작성할 능력이 있지만 동시에 거짓 정보를 사실처럼 제시하는 경향이 있다”고 했다.

개인 정보에 민감한 유럽은 이보다 훨씬 광범위하고 강도 높은 AI 규제책을 마련 중이다. 올해 말 통과를 목표로 추진 중인 인공지능법(AI Act)이다. 지난달 22일 제출된 최종 수정안에 따르면, 이 법은 AI 기술을 위험도에 따라 세 단계로 나누고 각 단계에 맞춰 각기 다른 강도의 규제를 적용하는 내용을 담고 있다. 예컨대 시민 행동을 감시하거나 점수화하는 안면 인식이나 소셜 스코어링 기술은 ‘매우 위험한 AI’로 분류해 금지하고 이를 어길 경우 전 세계 매출액의 6%까지 과징금을 물린다. MIT 테크놀로지 리뷰는 “EU가 입법에 성공한다면 역대 기술 규제 중 가장 강력한 제도가 될 것”이라며 “AI 기업이 몰려 있는 미국의 바이든 정부도 이 법을 예의 주시 중”이라고 전했다.

WEEKLY BIZ Newsletter 구독하기 ☞ https://page.stibee.com/subscriptions/146096