딥페이크 음란물의 주범? AI 오픈소스는 억울하다

━

‘AI 4대천왕’ 앤드루 응이 본 AI 미래

■ 경제+

「 50억 달러(약 7조원). 인공지능(AI) 업계에서 제일 잘나간다는 오픈 AI의 예상 적자 규모(디인포메이션)다. 아무리 챗GPT를 많이 팔았어도 모자란 돈이 ‘억’소리가 아니라 ‘조’소리가 나온다. 생성 AI, 이거 돈 되는 산업 맞나. 거품(버블)이 끼었다는 분석이 여름부터 줄줄 나오는데 버블인가, 아닌가. 최근 엔비디아 주가는 급락을 반복하며 시장에서는 ‘AI 버블’ 공포감이 확산하는 중이다. 게다가 AI 생태계를 키웠다는 오픈소스는 ‘딥페이크 음란물’이라는 최악의 부작용을 낳았는데, 이거 내버려 둬도 괜찮나. 지난 7월 30일 앤드루 응 스탠퍼드대 교수를 직접 만나 최근 불거진 AI 논란에 관한 단독인터뷰를 진행했다. ‘AI 4대 천왕’ 중 한 명으로 꼽히는 석학 앤드루 응 교수는 구글·바이두·아마존 등 미·중 빅테크를 넘나드는 기업인이자 AI 스타트업의 든든한 지원자로 불린다.
」

AI 석학 앤드류 응 스탠퍼드대 교수. 전민규 기자

응 교수는 ‘오픈소스 AI의 수호자’라고 불릴 만큼 오픈소스 AI에 대해 진심이다. 오픈소스란 소스코드를 대중에게 공개해 자유롭게 수정·활용할 수 있는 소프트웨어를 말한다. 많은 이용자를 확보해 개발 생태계를 활성화할 수 있단 장점도 있지만, 보안에 취약하고 범죄 악용 가능성이 있다는 단점도 있다. 최근 사회 문제가 된 딥페이크 음란물도 오픈소스 생성 AI를 활용해 만들어지는 경우가 많다.

Q : 오픈소스 AI 관련 최근 오남용 사례가 많다. 일각에선 AI를 책임질 수 있는 기업만 다루게 해야 한다는 주장도 있다. 어떻게 생각하나.
A : “일부 해로운 사건이 있지만 유익한 유즈케이스(사용례)의 수가 해로운 케이스보다 훨씬 더 많다고 생각한다. 오픈소스 AI는 이전엔 가능하지 않았던 훨씬 더 많은 작업을 할 수 있게 해준다. 나는 혁신가가 오픈소스 모델을 가져와 새 혁신을 만들기 위해 파인 튜닝(미세조정) 한 것을 자주 본다. AI 안전, 책임감 있는 AI 활용도 중요하지만 현실적으로 AI는 해악보다 훨씬 더 많은 이익을 창출하므로 (오픈소스 제약으로) 기술의 사용이 지연된다면 더 큰 피해가 발생할 것이다.”

Q : 모든 사람이 AI를 쓸 수 있게 하는 데 오픈소스가 필요하다는 의미인가.
A : “AI는 전기와 같다. 알다시피 오늘날의 인터넷은 오픈소스로 구축됐다. ‘아파치 웹 서버’가 오픈소스가 아니었다면, ‘TCP/IP 스택’(인터넷 네트워크 통신을 위한 프로토콜 집합)이 개방형이 아니었다면 지금의 인터넷이 존재할지 잘 모르겠다. 폐쇄형 AI도 괜찮다고 생각하지만 AI에 오픈소스는 정말 중요하다.”

Q : 오픈소스 AI가 범죄에 쓰이는 경우가 늘고 있다. 이 문제엔 어떻게 대응해야 하나.
A : “매우 불행하게도 소수지만 사람들은 AI를 부정적으로도 쓴다. 지금까지 AI가 가져다준 총이익이 피해보다 훨씬 더 크지만 피해도 있다는 것을 인정해야 한다. 대응책에 대해 말하자면, 지난 7월 미국 상원은 ‘디파이언스(DEFIANCE, Disrupt Explicit Forged Images and Non-Consensual Edits)’라는 법안을 통과시켰다. 비동의 딥페이크 포르노를 퇴치하려는 시도다. 나는 이런 게 좋은 아이디어라고 생각한다. 그리고 생성 AI에 의해 만들어진 콘텐트임을 알아볼 수 있게 해주는 마킹에 대한 논의도 있다.”
지난 6월 실리콘밸리 대표 벤처캐피털(VC)인 세쿼이아캐피털의 블로그에 게시된 글이 전 세계를 들썩이게 했다. ‘AI의 6000억 달러 문제’라는 제목의 이 글은 수익성이 검증되지 않은 AI에 너무 많은 자본이 투자된다는 것을 지적하면서 ‘AI 버블’을 암시했다. 정말로 파티는 끝났을까?

Q : AI에 많은 돈을 투자했지만 수익이 불충분하다는 얘기가 나온다. AI 버블 경고에 대해 어떻게 생각하나.
A : “주의 깊게 지켜보긴 해야 한다. 장기적으로 보자면 AI 산업은 매우 견고할 것이다. 그러나 단기적으로 보자면 세쿼이아캐피털의 보고서는 꽤 괜찮은 질문을 제기한다. 과연 (AI 기업의) 수익이 언제 발생할 것인가에 대한 질문인데, 상당히 많은 시설투자(CAPEX)가 파운데이션 모델을 개발하는 층 위에서 이뤄졌다. 우리의 초점을 앱에 둔다면 앱에서는 훨씬 덜 경쟁적이며 빠르게 수익을 창출할 수 있는 기회가 있다.”

Q : 많은 앱 중에서도 어디에 기회가 있는가.
A : “보통 앱이라고 말할 때 주로 B2C(기업·개인 간 거래), 소비자용 인터페이스를 구현하는 앱을 의미하는 경향이 있다. 하지만 나는 B2B에서 많은 기회를 보고 있다. 현재 (AI 관련) 앱 시장에서 B2C 모델이 꽤 붐비고 있다. B2B 공간에선 이런 문제가 덜하다. B2B 시장에도 경쟁이 있지만 일단 해당 분야에 대한 깊은 도메인(특정 분야) 지식이 필요하다. 누구나 할 수 있는 일이 아니라는 얘기다.”

박경민 기자

응 교수는 한국 AI 산업에 대한 애정이 각별하다. 2박 3일 간의 방한 일정 중 윤석열 대통령을 접견했고, 대통령 직속으로 신설되는 국가인공지능위원회 글로벌 자문그룹에 참여하기로 했다.

Q : 특별히 들여다보는 분야가 있다면.
A : “소매·통신·제조·전자·천연자원 등 다양한 분야 기업을 만나고 있다. 한국은 발전된 소프트웨어 산업과 다양한 분야를 다루는 대기업들이 많기 때문에 AI를 적용할 방법이 매우 많고 흥미롭다.”

Q : 2018년부터 AI 펀드를 조성해 투자도 진행하고 있다. 이 펀드를 통해 투자한 한국 스타트업이 있나.
A : “우리 펀드는 회사를 직접 만들고, 만든 회사에 투자하는 벤처 스튜디오다. 파트너를 찾은 뒤 그 사업가와 회사를 만들고, 우리가 만든 회사에만 투자하려고 한다. 한국 대기업의 도움을 받아 AI를 적용할 수 있는 새로운 회사로 발전시킬 수 있을 것이다. 다만 투자를 시작한 곳은아직 없다.”

Q : 다른 국가, 특히 미국과 비교했을 때 한국의 AI 생태계는 어떻다고 생각하나.
A : “세계에서 가장 AI가 발전된 두 국가가 미국과 중국이긴 하다. 그러나 한국의 AI 기술은 다른 아시아 국가보다 매우 발전했고 정교하다. 미국은 파운데이션 모델, LLM(거대언어모델) 분야에 상당히 앞서 있는 반면 한국은 앱에서 흥미로운 일이 일어나고 있다.”

Q : 지난해가 거대언어모델(LLM)의 해였다면, 올해는 AI 에이전트가 그 중심에 자리 잡은 것 같다. AI 에이전트는 정확히 어떤 일을 할 수 있나.
A : “‘에이전트 기반 워크 플로’(Agentic workflow, AI 에이전트를 기반으로 한 업무 프로세스)는 AI가 훨씬 더 다양한 작업을 수행할 수 있게 하는 새로운 패러다임이다. 많은 사람이 LLM을 사용할 때, 에세이를 처음부터 끝까지 한 번에 작성하듯이 단순히 프롬프트를 입력하는 방식을 사용한다. 그러나 에이전트 기반 워크 플로에서는 AI에 먼저 개요를 작성하게 하고, 이후 웹 자료 조사, 초안 작성, 검토하고 수정하는 과정을 반복적으로 수행하게 할 수 있다. 이렇게 하면 LLM이 글을 쓰고, 그 내용에 대해 깊이 생각하며, 수정할 기회를 얻는 반복적인 워크 플로가 만들어진다. 이런 반복적인 과정은 훨씬 더 나은 결과를 가져오게 된다. 실제 우리는 에이전트 기반 워크 플로가 일반적인 LLM 사용 방식보다 여러 앱에서 훨씬 더 우수한 성과를 내는 것을 확인하고 있다.”

Q : 구체적인 실현 시점은 사람마다 다르게 추정하지만, 결국 AGI(일반인공지능·인간과 유사하거나 인간을 능가하는 인공지능)가 올 것이라는 합의가 있는 것 같다.
A : “내 생각에 AGI가 도래하는 데에는 수십 년 또는 그 이상이 걸릴 것이다. 어쩌면 수십 년보다 더 오래 걸릴 수도 있다. 현재 (우리가 쓸 수 있는) 고도의 지능(Intelligence)은 매우 비용이 많이 든다.”

■ 혁신의 최전선에서 비즈니스의 미래를 봅니다. 첨단 산업의 '미래검증 보고서' 더중플에서 더 빨리 확인하세요.

「

“서울대 변호사 15분에 2만원” 최고 변호사 찾아준 공짜앱

https://www.joongang.co.kr/article/25276628

방시혁·패리스 힐튼도 돈 댔다, AI 도둑질 잡는 3조 ‘그 남자’
https://www.joongang.co.kr/article/25275809

“애플 엿 먹어” 저커버그 분노…격렬해진 AI 오픈소스 전쟁
https://www.joongang.co.kr/article/25274930

한국에는 레벨4 기술 없다? “그게 더 쉽다”는 스타트업
https://www.joongang.co.kr/article/25274038
」

김민정·김남영 기자 kim.minjeong6@joongang.co.kr