“챗GPT 헛소리를 잡아라”…엔비디아는 방어 SW 공개, 美 정부는 규제 경고

챗GPT. /로이터 연합뉴스

오픈AI의 챗GPT 같은 인공지능(AI) 챗봇이 사실과 다른 이야기를 지어내는 ‘환각 현상’과 편향성을 막기 위한 조치들이 하나둘씩 나오고 있다.

엔비디아는 25일(현지시각) AI 모델이 사실과 다른 내용을 말하거나, 유해한 주제에 대해 이야기하지 못하도록 하는 ‘니모(NeMo) 가드레일’ 소프트웨어를 오픈소스로 공개했다. 니모 가드레일은 AI 챗봇이 특정 주제에 대해 답변하지 못하도록 하거나 신뢰성이 떨어지는 자료에 접근하지 말라고 설정할 수 있다. 예컨대 챗봇이 학계에서 인정받지 못하는 학술지를 근거로 엉뚱한 답변을 하지 않도록 제한할 수 있는 것이다.

이러한 제한 사항은 개발자가 설정할 수 있다. 개발자는 자사 AI 서비스에서 구동되는 챗GPT가 특정 분야에 대해서는 답변을 거부할 수 있게 만들 수 있다. 또 다른 AI 언어 모델이 사용자의 질문에 AI가 답변하기 전 해당 답변을 미리 검토하도록 만들 수도 있다. 조나단 코언 엔비디아 응용 연구 부문 부사장은 “AI 언어 모델은 사용자의 지시를 따를 수밖에 없는데, 이 소프트웨어는 AI가 사용자의 지시를 받아도 마음대로 데이터를 변경할 수 없도록 한다”며 “개발자가 사용 사례에 따라 넓거나 좁은 가드레일을 만들 수 있다”고 했다. CNBC는 “이는 기업들이 AI 환각 문제를 해결하기 위해 어떻게 노력하고 있는지 보여주는 한 예”라고 평가했다.

미 규제 기관들도 AI의 편향성과 환각 현상을 감독하겠다고 나섰다. 25일 미 소비자금융보호국(CFPB), 법무부, FTC(연방거래위원회), 평등고용기회위원회 등 미국의 4개 규제기관은 공동성명을 내고 “인공지능 편향으로 인한 피해를 해결할 권한을 이미 확보했고, 이를 사용할 계획”이라고 했다. AI 업체들이 이러한 편향성을 막지 않는다면 본격 규제에 나서겠다는 일종의 경고다.

실제로 소비자금융보호국은 AI가 주택을 평가해 가격을 책정하는 서비스의 알고리즘에서 발생하는 편향성에 대해 조사 중이라고 했다. 로힛 코프라 CFPB 국장은 “불법적인 차별에 관여하는 신기술과 AI에 미국 법의 예외는 없다”고 말했다. 한국의 공정거래위원회 격인 미 FTC의 리나 칸 위원장도 “현재 각 기관은 AI로 인한 피해에 즉시 대처할 수 있는 법적 권한이 있다”며 “소수의 강력한 기업이 방대한 데이터베이스 뿐만 아니라 클라우드 서비스 같은 컴퓨팅 파워를 통제하고 있다. 이는 기업의 불공정한 경쟁을 촉발할 수 있다”고 말했다.