오픈AI, 결국 기조 전환…"강력한 AI, 의무적 안전 규제 필요"

美의회에 공통 시험기준·독립평가·사이버보안 강화 등 제안

오픈AI.연합뉴스

[파이낸셜뉴스] 챗GPT 개발사 오픈AI가 인공지능(AI) 시스템에 법적 구속력이 있는 안전 규제를 도입해야 한다며 미국 의회에 입법을 촉구했다. 그동안 일부 AI 규제에 반대해 온 오픈AI가 최근 잇따른 AI 통제 이탈 논란을 계기로 규제 강화 쪽으로 방향을 튼 것이다.

오픈AI의 크리스 리헤인 글로벌정책책임자는 지난 9일(현지시간) "AI 개발을 가속할 가능성엔 자발적인 약속 이상의 것이 필요하다"며 "모델의 실제 능력에 기반을 둔 국가 차원의 의무적인 규제가 필요하다"고 밝혔다. 오픈AI는 △공통 안전 시험 기준 △최첨단 AI 모델에 대한 독립적 평가 △강화된 사이버보안 요건 △중대한 안전사고에 대한 의무 보고 등을 연방 규제 체계에 포함해야 한다고 제안했다. 그러면서 미 의회가 오는 12월 회기를 마치기 전까지 관련 법안 마련에 나설 것을 촉구했다.

최근 각국에선 인간의 감독을 벗어난 AI의 행동을 둘러싼 우려가 커지고 있다. 지난 7월엔 오픈AI가 개발한 AI 에이전트들이 테스트 과정에서 통제 환경을 벗어나 AI 모델 공유 플랫폼 허깅페이스의 시스템에 무단으로 접근한 사실이 드러났다. 이후 경쟁사 앤스로픽 등에서도 AI 시스템이 인간의 의도와 다르게 행동한 사례가 잇따라 보고됐다.

이런 가운데 오픈AI는 과거 지지하지 않았던 내용을 포함한 캘리포니아주의 AI 관련 법안 4건에 대해서도 지지 입장으로 돌아섰다. 이는 주별 AI 규제보다 연방 차원의 단일 규제를 주장했던 기존 입장에서 상당한 변화를 보인 것으로 평가된다.

다만 오픈AI는 "국가 차원의 안전 규제는 최첨단 AI 모델을 개발하는 소수 기업에 한정해 적용해야 한다"며 "기술을 공개해 누구나 내려받아 수정할 수 있는 오픈 모델까지 제한해선 안 된다"고 주장했다. 이를 두고 일각에선 오픈AI·앤스로픽 등 대형 AI 기업들이 규제를 통해 후발·중소업체의 비용 부담을 높이고 자신들의 시장 지배력을 보호하려 한다는 비판도 나오고 있다.

whywani@fnnews.com 홍채완 기자