AI 생성 콘텐츠에 `워터마크` 찍는다

AI 관련 발언하는 바이든 대통령. 연합뉴스

미국의 대표적인 AI(인공지능) 기업 7곳이 AI로 생성된 콘텐츠에 워터마크를 넣기로 합의했다. 참여 기업은 오픈AI, MS(마이크로소프트), 구글, 메타, 아마존, 앤스로픽, 인플렉션 등 7개사다. 생성형 AI로 인한 정보조작이나 가짜뉴스 위험을 줄이기 위한 조치다.

오픈AI 등 7개 기업은 AI가 생성한 콘텐츠에 대해 소비자가 식별할 수 있도록 워터마크 등 방법을 개발하고, AI시스템의 기능, 한계, 적절한 사용영역 등을 공개하기로 미 바이든 행정부와 약속했다. 유해한 편견과 차별을 방지하고 개인정보를 보호하는 것을 포함해 AI의 사회적 리스크에 대한 우선적 연구도 하기로 했다.

제3자에 의한 AI시스템 취약성 발견과 보고를 촉진하고, AI 위험관리에 대한 정보를 업계, 정부, 시민사회, 학계 등과 공유하기로 했다.

이는 작년부터 이어져 온 생성형 AI의 부작용을 최소화하기 위한 조치의 일환이다.

특히 미국에서는 내년 11월 대선을 앞두고 생성형 AI가 만들어낸 가짜뉴스의 심각성이 사회적 문제가 되고 있다. 지난 5월 공화당 전국위원회(RNC)는 AI가 생성한 이미지를 활용해 재선 도전을 선언한 조 바이든 대통령을 공격했으며 도널드 트럼프 전 대통령이 체포되는 가짜 AI 사진이 인터넷상에 돌기도 했다. 다만 이번 조치는 입법이 아니라 기업들의 자발적인 약속인 만큼 법적 구속력은 없다. AI모델 학습에 쓰인 데이터넷 관련 정보를 공개하는 내용은 포함되지 않아 AI의 편향이나 저작권 침해 문제를 막기에는 미흡하다는 지적도 나온다. 이와 별도로 미국 상원은 AI 규제와 활용에 대한 포괄적 입법 패키지를 추진하고 있다. EU(유럽연합)에서는 보다 포괄적이고 엄격한 수준의 AI 규제를 담은 AI법안이 지난달 유럽의회 본회의를 통과해 2026년 시행이 점쳐진다.

백악관은 "새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다"면서 "AI의 잠재력을 최대한 활용하고 혁신이 미국인의 권리와 안전을 희생시키지 않도록 하기 위해 바이든 정부는 기업들이 최고 수준의 표준을 유지할 것을 권고한다"고 설명했다.

팽동현기자 dhp@dt.co.kr