구글·오픈AI 등 美 AI기업, 콘텐츠에 워터마크…사기·속임수 차단

[AI 관련 발언하는 바이든 대통령. (EPA=연합뉴스 자료사진)]

주요 인공지능(AI) 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 했습니다.

미국 백악관은 현지시간 21일 알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등 7개 회사가 AI를 활용한 사기나 속임수 차단 조치를 취하기로 약속했다고 밝혔습니다.

이들 기업은 AI 시스템의 기능과 한계·적절한 사용 영역 등 공개, 유해한 편견·차별을 방지하고 개인정보를 보호하는 것을 포함해 AI의 사회적 리스크 우선적 연구, 제3자에 의한 AI 시스템의 취약성 발견과 보고 촉진 등도 약속했습니다.

또 AI 시스템을 출시하기 전에 내부는 물론 외부 안전 테스트를 실시하고 AI 위험 관리에 관한 정보를 업계 및 정부, 시민 사회, 학계 등과 공유하기로 했습니다.

AI 기업의 이번 조치는 오픈AI가 챗GPT를 출시한 것과 맞물려 AI 활용에 대한 우려가 미국 안팎에서 커지는 것에 대한 대응 차원인데, 내년 11월 미국 대선 때 딥페이크 등 AI 기술을 활용한 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 전망도 나온 상태입니다.

백악관은 보도자료에서 "새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다"며 "AI의 잠재력을 최대한 활용하고 혁신이 미국인의 권리와 안전을 희생시키지 않도록 하기 위해 바이든 정부는 업체들이 최고 수준의 표준을 유지할 것을 권고하고 있다"고 밝혔습니다.

이어 한국을 비롯해 20개 국가의 이름을 열거한 다음 "바이든 정부는 동맹 및 파트너 국가와 협력해 AI의 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 만들 것"이라고 덧붙였습니다.
 

[챗GPT. (챗GPT 화면 갈무리=연합뉴스)]

조 바이든 대통령은 백악관에서 이들 7개 업체와 만나 회의를 진행하기 전 "우리는 지난 50년 본 것보다 향후 수년에서 10년 사이에 더 큰 기술 변화를 목격할 것"이라면서 "새로운 기술이 민주주의와 가치에 대해 초래할 수 있는 위협에 대해 명확하게 보고 경계를 해야 한다"고 말했습니다.

그러면서 "기업들은 안전, 보안, 신뢰라는 세 가지 원칙을 통해 책임 있는 혁신을 약속했다"면서 "이런 약속은 진전이지만 우리가 해야 할 일은 더 많다. 리스크 관리를 통해 AI의 가능성을 실현하기 위해서는 새로운 법규와 감독이 필요하다"고 강조했습니다.

당신의 제보가 뉴스로 만들어집니다.SBS Biz는 여러분의 제보를 기다리고 있습니다.홈페이지 = https://url.kr/9pghjn

짧고 유익한 Biz 숏폼 바로가기

SBS Biz에 제보하기

저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지