[디지털 세상 읽기] 라마의 위협

박상현 오터레터 발행인

메타가 선보인 최신 AI 모델 ‘라마 3.1’이 조용한 파문을 일으키고 있다. 메타에서는 이 모델이 각종 벤치마크 테스트에서 경쟁기업의 최신 모델을 능가한다고 자랑했지만, 그 자체로 대단한 일은 아니다. 전문가들은 최신 AI 모델을 비교할 때 벤치마크 점수를 가지고 자랑하는 건 별 의미가 없다고 입을 모은다. 사람들이 라마 3.1의 등장에 주목하는 이유는 다른 기업들의 최신 AI 모델들과 동급의 수준을 갖추고 있으면서 누구나 무료로 다운로드할 수 있는 오픈 소스이기 때문이다.

유명 테크 분석가 벤 톰슨은 “테크 기업이 아닌 다른 모든 기업이 사용하게 될 AI의 미래를 메타가 통제하게 될 수 있다”고 했다. 자체 AI를 만들 능력이 없는 기업들이 전부 그렇게 라마를 채택해서 사용하게 될 경우를 충분히 상상할 수 있기 때문이다. 이 경우 AI 서비스를 유료로 제공하려는 경쟁 기업들에 심각한 위협이 된다.

하지만 라마의 위협은 경쟁 기업에만 그치지 않는다. ‘인공지능의 대부’라 불리는 컴퓨터 과학자 제프리 힌튼은 메타가 고성능의 라마 3.1을 공개한 것을 두고 “전 세계 범죄자들이 환호성을 지를 것”이라고 경고했다. AI를 만든 주체가 철저하게 관리하지 않으면 범죄 집단이 이를 이용해 생화학 무기 개발을 비롯해 인류에 위협이 되는 방향으로 사용하는 것을 막기 힘들기 때문이다. 메타에서는 제품을 공개하기 전에 철저한 안전 검사를 거쳤고, 이를 통해 무기를 만들 수 있다는 증거가 없다고 하지만, 힌튼은 AI는 다른 오픈소스 소프트웨어와는 달라서, 같은 방식으로 완벽하게 통제할 수 없다고 주장한다. 어느 쪽의 말이 맞을지 아직 알 수 없지만, 메타는 과거 페이스북과 인스타그램을 통해 사용자 안전보다는 기업의 성장과 이윤을 추구했다는 비판을 받았다. 그게 라마를 위협으로 생각하는 사람이 많은 이유다.

박상현 오터레터 발행인