오픈AI, 캘리포니아에 "AI 규제 강화해야"…입장 선회

SB 53 안전 규제 확대 요구
주별 규제 반대서 입장 변화
AI 모델 보안 사고에 안전장치 강화 강조

주(州)별 인공지능(AI) 규제에 부정적인 입장을 보여왔던 챗GPT 개발사 오픈AI가 미국 캘리포니아주의 AI 안전 규제를 오히려 강화해야 한다고 요구하고 나섰다. 최근 자체 AI 모델이 통제된 시험 환경을 벗어나 외부 시스템에 접근하는 사고가 발생하는 등 최첨단 AI의 사이버 위협이 현실화하면서 규제에 대한 입장이 달라지고 있다는 분석이 나온다.

오픈AI 링크드인 게시물. 링크드인

사회관계망서비스(SNS) 링크드인에 따르면 오픈AI 대외협력팀은 지난 21일(현지시간) 게시물을 통해 캘리포니아주의 AI 규제법인 SB 53에 대해 "안전장치를 확대하는 방향으로 개정돼야 한다"고 밝혔다.

오픈AI는 최근 발생한 일련의 사고가 "이 같은 보호장치의 필요성과 새로운 위험 및 안전조치의 등장에 맞춰 이를 업데이트해야 할 중요성을 보여준다"고 덧붙였다.

SB 53은 개빈 뉴섬 캘리포니아 주지사가 지난해 9월29일 서명한 '프런티어 인공지능 투명성법(Transparency in Frontier Artificial Intelligence Act)'이다. 대형 최첨단 AI 개발사가 자사의 안전관리 체계를 공개하도록 하고, 중대한 안전사고를 주 정부에 보고하도록 하는 한편 AI 위험을 폭로하는 내부고발자를 보호하는 내용을 담고 있다.

현행법은 AI를 이용한 해킹이나 생물학적 공격, 개발자의 통제 상실 등 최첨단 AI가 초래할 수 있는 대규모 위험을 관리 대상으로 규정하고 있다. 대형 AI 개발사는 모델의 위험을 어떻게 평가하고 완화하는지, 미출시 모델의 가중치를 사이버 공격으로부터 어떻게 보호하는지 등을 담은 안전 프레임워크를 공개해야 한다.

오픈AI는 여기서 한발 더 나아가 안전 규제 범위를 확대해야 한다고 주장했다. 우선 아직 훈련 또는 평가 단계에 있는 최첨단 AI 모델이 제3자의 보안 통제를 우회하거나 기밀정보를 침해하는 등 중대한 사고를 일으킬 가능성이 있는지를 감시하도록 의무화할 것을 제안했다. 또 모델의 훈련부터 평가·배포에 이르는 개발 전 과정에서 사이버 보안 보호조치를 강화할 필요가 있다고 밝혔다.

오픈AI는 이를 통해 개발사들이 위험을 조기에 발견하고 신속하게 대응하는 한편, 업계 전반에서 안전성을 높일 수 있는 대응 방식을 공유할 수 있다고 설명했다.

1년 전 주별 규제 반대…AI 사이버 위협에 입장 변화 

이 같은 입장은 불과 1년 전 주별 AI 규제에 부정적이었던 오픈AI의 태도와 상당한 차이가 있다. 크리스 리헤인 오픈AI 최고대외협력책임자(CGAO)는 지난해 8월 뉴섬 주지사에게 보낸 공개서한에서 미국이 통일된 AI 규제 기준을 마련하지 못한 채 주마다 서로 다른 규제를 도입할 경우 혁신을 저해할 수 있다고 경고했다.

오픈AI의 최근 입장 변화에는 AI 모델의 사이버 공격 능력이 빠르게 향상되고 있다는 위기감이 작용한 것으로 보인다. 오픈AI는 지난달 내부 보안 테스트 과정에서 자사 AI 에이전트가 격리된 시험 환경을 벗어나 외부 AI 플랫폼 허깅페이스(Hugging Face)의 시스템에 무단 접근하는 사고가 발생했다고 공개했다. 이후 오픈AI는 고위험 AI 작업의 격리 수준과 실시간 감시를 강화하고 일부 최첨단 모델의 강화학습 훈련을 일시 중단하는 조치까지 내놨다.

다만 오픈AI의 이번 입장을 주 정부 규제로의 완전한 전환이라고 보기는 어렵다. 오픈AI는 지난달 15일 공개한 정책 구상에서 '역연방주의(reverse federalism)'를 제시했다.

연방 차원의 포괄적인 AI 규제 도입이 지연되는 동안 캘리포니아와 뉴욕 등 개별 주가 서로 호환 가능한 핵심 안전 기준을 먼저 마련하고, 이를 향후 연방 차원의 통일된 규제 체계로 발전시키자는 구상이다.

뉴욕(미국)=황윤주 특파원 hyj@asiae.co.kr