구글·메타, AI 콘텐츠에 워터마크 표시…"이용자 보호 강화"

7개 생성AI 기업, 미국 정부와 자율규제 합의

(지디넷코리아=김익현 미디어연구소장)구글, 메타, 오픈AI를 비롯한 7개 업체들이 인공지능(AI) 기술로 작성한 콘텐츠에는 워터마크를 넣고 보안기술 개발에도 투자하는 등 이용자 안전 조치를 취하기로 했다.

미국을 대표하는 생성 AI 기업들은 백악관 주도 모임에 참여해 이 같은 조치에 합의했다고 월스트리트저널을 비롯한 외신들이 21일(현지시간) 보도했다.

이날 회동에는 구글, 메타, 마이크로소프트, 아마존, 오픈AI, 인플렉션, 앤스로픽 등 7개 기업이 참여했다.

사진=지디넷닷컴

자발적 조치에는 사이버 보안 투자, 차별 연구, AI 생성 콘텐츠에 부착할 새로운 워터마킹 시스템 개발 등이 포함됐다.

이들은 백악관 회동 자리에서 AI 기술이 야기할 위험에 동의하면서 이 같은 합의를 하게 됐다. 하지만 이런 조치들은 자발적 합의이기 때문에 약속을 이행하지 않더라도 현재로선 제재를 가할 수단은 없다고 외신들이 전했다.

조 바이든 대통령은 백악관에서 7개 업체와 회동한 자리에서 “새로운 기술이 민주주의와 가치에 초래할 위협에 대해 경계해야 한다”면서 “(AI 기술) 기업들은 책임있고 안전한 혁신을 통해 미국인들의 신뢰를 얻도록 해야 한다”고 강조했다.

■ 미국 정부, AI 위험 규제 놓고 많은 고민 

미국을 비롯한 전 세계 많은 국가들은 AI 기술이 야기할 위험에 대해 큰 우려를 나타내 왔다. 특히 오픈AI의 챗GPT가 전 세계인의 관심을 모으면서 생성 AI 기술의 부작용 문제가 관심사로 떠올랐다.

바이든 행정부 역시 최근 몇 개월 동안 주요 기술 기업 대표나 노동, 시민운동 지도자들과 회동하면서 AI 기술 관련 문제를 논의해 왔다. 지난 5월에는 AI 기술 개발과 정책 지도를 위한 자금 지원을 확충할 계획이라고 공언하기도 했다.

이런 계획 중엔 국립과학재단(NSF)에 1억4천만 달러를 지원해 국가AI연구(NAIR) 기관을 설립하는 방안도 포함돼 있다.

당시 구글, 마이크로소프트, 엔비디아, 오픈AI 등은 올해 데프콘 때 자신들의 대용량 언어 모델을 공개 평가하는 데 합의했다.

척 슈머 민주당 상원 원내대표는 지난 5월 AI 규제를 위한 'SAFE 혁신 프레임워크'를 공개했다. SAFE는 보안(security), 책임(accountability), 토대(foundations), 설명(explain)의 앞 글자를 딴 것이다. 미국이 이런 원칙을 지키면서 AI 기술의 혁신을 주도하겠다는 것이 'SAFE 혁신 프레임워크’의 골자다.

슈머 의원은 구체적인 정책 방안은 제시하지 않았다. 하지만 그는 당시 의원들에게 AI가 국가 안보, 일자리, 허위정보 생성 등에 미칠 해악을 규제할 법 제정 작업에 동참해달라고 요구했다.

김익현 미디어연구소장(sini@zdnet.co.kr)