구글 · 오픈 AI 등 미국 AI 기업, 생성 콘텐츠에 워터마크 넣기로

알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈 AI 등 7개 주요 인공지능(AI) 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 했습니다.

이들은 AI를 활용한 사기나 속임수 등을 차단하기 위해 이런 조치를 자발적으로 취하기로 약속했다고 미국 백악관이 현지시간으로 21일 밝혔습니다.

이들 기업은 AI 시스템의 기능과 한계, 적절한 사용 영역 등을 공개할 것을 약속했습니다.

또 유해한 편견과 차별을 방지하고, 개인정보 보호를 포함해 AI의 사회적 리스크를 우선적으로 연구하기로 약속했습니다.

약속 내용에는 제3자에 의한 AI 시스템의 취약성 발견과 보고 촉진 등도 포함됐습니다.

AI 시스템을 출시하기 전에 내부는 물론 외부 안전 테스트를 실시하고 AI 위험 관리에 관한 정보를 업계와 정부, 시민 사회, 학계 등과 공유하기로도 했습니다.

AI 기업의 이번 조치는 오픈 AI가 챗GPT를 출시한 것과 맞물려 AI 활용에 대한 우려가 미국 안팎에서 커지는 것에 대한 대응 차원입니다.

특히 내년 11월 미국 대선 때 딥페이크 등 AI 기술을 활용한 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 전망도 나온 상태입니다.

실제 지난 5월 공화당 전국위원회는 AI가 생성한 이미지를 활용해 재선 도전을 선언한 조 바이든 대통령을 공격하기도 했고, 도널드 트럼프 전 대통령이 체포되는 가짜 AI 사진이 인터넷상에 돌기도 했습니다.

이에 미국 상원에서는 AI 규제와 활용 등에 대한 포괄적 입법 패키지를 만들기 위해 전체 의원을 대상으로 하는 브리핑을 진행하고 있습니다.

백악관은 "새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다"면서 "AI의 잠재력을 최대한 활용하고 혁신이 미국인의 권리와 안전을 희생시키지 않도록 하기 위해 바이든 정부는 업체들이 최고 수준의 표준을 유지할 것을 권고하고 있다"고 밝혔습니다.

이어 한국을 비롯해 20개 국가의 이름을 열거한 뒤 "바이든 정부는 동맹 및 파트너 국가와 협력해 AI의 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 만들 것"이라고 덧붙였습니다.

(사진=챗GPT 화면 캡처, 연합뉴스)

김관진 기자 spirit@sbs.co.kr