“공평한 경쟁의 장” vs “악용은 문제”… 생성형 AI ‘오픈소스’ 갑론을박

비용없이 빠르게 기술 이용·습득 가능
자금 부족한 스타트업 긍정적 평가
기술 활용 윤리 기준 미비가 최대 문제

인공지능 오픈소스 플랫폼인 허깅페이스 홈페이지의 모습. 허깅페이스 홈페이지 캡처

생성형 인공지능(AI)의 모델을 일반에 공개하는 ‘오픈소스’를 두고 갑론을박이 일고 있다. 정보통신(IT) 업계는 누구나 무상으로 소스코드, 소프트웨어를 얻는 오픈소스를 기술 발전의 동력으로 평가해왔다. 하지만 생성형 AI의 악용 문제가 대두하면서 기술 공개만이 능사가 아니라는 비판이 커진다.

최대 AI 오픈소스 플랫폼인 ‘허깅페이스’에 등록된 모델은 11일 기준으로 35만개에 달한다. 허깅페이스는 AI 모델·코드·데이터셋 등을 공개하고 있다. 메타의 최신 거대언어모델(LLM)인 라마2, 오픈AI의 GPT-2 등이 올라와 있다.

메타는 오픈소스로 AI 모델을 가장 활발하게 공유하고 있는 빅테크다. 메타는 코드 생성 AI인 ‘코드 라마’ 모델도 허깅페이스에 올렸다. 마크 저커버그 메타 최고경영자(CEO)는 지난달 빅테크 CEO들과 미국 상원의원들이 모인 의회 포럼에 참석해 “오픈소스는 AI 도구에 민주적으로 접근하도록 하고, 공평한 경쟁의 장을 마련한다. 혁신도 촉진한다”고 역설하기도 했다. 반면 오픈AI는 GPT-2 이후 모델을 오픈소스로 공개하지 않고, API(응용프로그램 인터페이스)로 제공하고 있다.

스타트업계는 개발자들이 오픈소스를 통해 최신 AI 기술을 빠르게 이용·검증할 수 있다는 걸 긍정적으로 평가한다. 저작권 관련 비용없이 AI 소스코드나 소프트웨어에 접근할 수 있어 자금이 부족한 스타트업에도 유리하다. 업계 관계자는 “기술 개선을 위해 오픈소스에 공유하는 문화가 일종의 IT업계 전통”이라고 했다.

문제는 생성형 AI 산업이 급격하게 성장한 탓에, 기술 활용 관련 윤리기준이 부실하다는 데 있다. 한국에선 ‘인공지능산업 육성 및 신뢰 확보에 관한 법률안’ ‘인공지능책임법안’ ‘인공지능 책임 및 규제법안’ 등의 법안들이 아직 국회에 계류 중이다. 세계 최초 AI 규제안인 유럽연합(EU)의 ‘AI법(AI act)’는 지난 6월 유럽의회에서 통과됐고, 2026년쯤 시행될 전망이다. 또 다른 업계 관계자는 “일반적인 윤리기준을 스스로 알아서 따르고 있는 수준”이라고 전했다.

이런 상황이다 보니 오픈소스로 AI 기술을 공개하는 건 시기상조라는 목소리가 나온다. 미국 포브스는 “안전 가드레일에 따라 개발한 모델을 오픈소스에 올린다 해도, 개발자들이 모델을 원하는 대로 만들기 위해 (가드레일의) 파인튜닝(조정)을 없애는 데에는 며칠 밖에 걸리지 않는다”고 지적했다. 미국 기술윤리학자인 트리스탄 해리스는 저커버그가 참석한 회의에서 “라마2 모델을 통해 위험한 생물학적 화합물을 만드는 방법을 제공받을 수 있다”고 주장했다.

조민아 기자 minajo@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지