개발도, 규제도 스스로 하겠다? 'AI 안전 개발' 협의체 띄운 MS·구글 연합

오픈AI 등 4개사, '프런티어 모델 포럼' 출범
"책임감 있는 AI 개발 위해 힘 모았다"지만...
"규제 피하려는 의도... 정부가 나서야" 지적도

구글과 모기업 알파벳, 마이크로소프트 로고. 로이터 연합뉴스

마이크로소프트(MS)와 구글, 오픈AI, 앤스로픽이 인공지능(AI) 기술 관련 안전 표준을 개발하기 위한 협의체 '프런티어 모델 포럼'을 띄운다고 26일(현지시간) 밝혔다. 세계 생성 AI 개발 경쟁을 이끌고 있는 4개 회사가 '안전하고, 책임감 있는 AI 개발'을 위한 단체를 자발적으로 꾸린 것이다.

너무 빨리 발전하는 AI의 위험성에 대한 우려가 커지면서 최근 AI 개발 업체들은 자율 규제를 강화하는 추세다. 그러나 이 같은 움직임을 두고 "강력한 규제를 피하려는 꼼수"라는 비판도 나온다.

4개사는 이날 나란히 입장문을 내 협의체 출범에 참여했다고 알렸다. 협의체는 △안전한 AI 연구를 발전시켜 잠재적 위험을 최소화하고 △AI 모델의 모범 사례를 찾고 △기후 문제 같은 인류 공통의 문제를 해결하기 위한 AI 기술을 연구하는 것이 목표라고 밝혔다. 연구 결과는 정책 입안자나 학계 등과 공유한다는 계획이다.

협의체 출범은 AI 기술력이 가장 앞서있다는 평가를 받는 회사들이 안전한 AI 개발을 위해 모처럼 의기투합했다는 데 의의가 있다. 개발사들 역시 AI 기술의 발전 속도가 너무 빠른 것 아니냐는 우려 목소리를 의식하고 어느 정도 공감하고 있다는 뜻으로 풀이된다. 브래드 스미스 MS 사장은 "이번 조치는 업계가 책임감 있게 AI를 발전시키고 모든 인류에게 혜택을 줄 수 있도록 같이 힘을 모으는 중요한 단계"라고 했다. 이에 앞서 21일엔 MS와 구글, 오픈AI 등 AI 개발사 7곳이 AI로 생성한 콘텐츠에 워터마크를 넣는 안전 조치를 자발적으로 취할 것을 합의하기도 했다.

그러나 전문가들은 AI를 만드는 회사들의 자정 노력엔 한계가 클 수밖에 없다고 본다. 외부 규제를 피하기 위한 보여주기식 선언에 그칠 가능성이 크다는 지적도 나온다. 에밀리 벤더 워싱턴대 교수는 "자기 조절 능력을 강조함으로써 규제를 피하려는 시도"라며 "기업이 할 수 있는 일을 제한하려면 국민을 대표하는 정부가 규제를 만들어야 한다"고 주장했다.

포럼 구성에 4개사만 참여한 것을 두고도 뒷말이 나온다. 오픈AI와 앤스로픽은 각각 MS와 구글로부터 거액의 투자를 받은 AI 스타트업이다. 협의체는 일단 4개사로 시작하지만 참여 기업을 늘려갈 것이라고 밝혔는데 '가장 발전된 머신러닝 모델을 개발하고 AI 기술의 안전에 헌신하는 기업'에만 가입 자격을 부여하겠다고 했다. 참여 기업을 선별하겠다는 얘기다. 이 때문에 업계에선 MS와 구글이 AI 규제 논의 자체를 이른바 'MS 연합'과 '구글 연합' 주도로 끌고 가기 위해 적과의 공생'에 나섰다는 해석이 나온다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com