‘메이드 인 AI’…구글·오픈AI 등, AI 생성 콘텐츠에 워터마크 넣는다

조 바이든 미국 대통령이 21일(현지시간) 백악관 루스벨트룸에서 인공지능(AI) 기업 대표들과 회동한 이후 관련 발표를 하고 있다. 애덤 셀립스키 아마존웹서비스 CEO, 그레그 브록먼 오픈AI CEO, 닉 클레그 메타 CEO, 무스타파 술레이만 인펙션AI CEO(왼쪽부터)가 바이든 대통령의 발언을 서서 듣고 있다. AP연합뉴스

미국의 대표적인 인공지능(AI) 기업 7곳이 AI로 생성된 콘텐츠에 워터마크를 넣기로 합의했다. 챗GPT 등 생성형 AI의 확산에 따른 위험을 줄이고자 자발적으로 안전조치를 취하기로 한 것이다.

백악관은 21일(현지시간) 구글, 아마존, 메타, 마이크로소프트, 오픈AI 등 AI기업 7곳이 AI가 만든 콘텐츠임을 알리는 워터마크 표시를 넣기로 했다고 밝혔다. 지난 5월 말 AI로 만들어진 미 국방부 청사 펜타곤 주변의 가짜 폭발 사진 때문에 벌어진 혼란 등을 차단하기 위한 조치다. 대선을 앞두고 딥페이크 등 AI를 활용한 정보 조작이 광범위하게 퍼질 수 있다는 우려도 커지고 있다.

이들 기업들은 또 AI 시스템을 출시하기 전 독립적인 전문가와 함께 보안 테스트를 실시하고 편견, 차별, 사생활 침해 등 사회적 리스크를 줄이는 방안에 대해서도 연구를 시작하기로 했다.

조 바이든 대통령은 이날 백악관에서 7개 업체 경영진과 만나 AI에 관한 새로운 법규와 감독이 필요하다고 강조했다. 바이든 대통령은 “지난 50년간 본 것보다 앞으로 10년 사이에 더 큰 기술 변화를 목격할 것”이라며 “새로운 기술이 민주주의와 가치에 대해 초래할 수 있는 위협을 주시해야 한다”고 말했다.

백악관은 이번 조치에 대해 한국 등 20개 국가와도 논의했다고 밝혔다. 백악관은 “바이든 정부는 동맹 및 파트너 국가와 협력해 AI의 개발·활용 관리에 관한 강력한 국제 프레임워크를 만들 것”이라고 밝혔다.

바이든 행정부는 현재 AI 규제에 관한 행정명령을 준비 중이다. 백악관은 AI 분야에서 미국이 혁신을 주도하기 위해 의회 차원의 초당적 법안 제정도 추진한다고 밝혔다.

이번 조치는 바이든 대통령이 지난 5월 AI 기업 대표들과 첫 회동한 이후 나온 가시적인 결과물이다. 다만 의회 입법이 아니라 기업들의 자발적인 약속에 따른 것이어서 법적 구속력이 없다. 또한 AI 모델의 학습에 쓰인 데이터셋 관련 정보를 공개하도록 하는 내용이 없어 AI의 편향이나 저작권 침해 등을 방지하기에는 아직 미흡하다는 지적이 나온다고 월스트리트저널(WSJ)은 전했다.

워싱턴 | 김유진 특파원 yjkim@kyunghyang.com