美, AI 활용 콘텐츠에 '워터마크' 붙이기로…효과 있을까

미국 백악관은 21일(현지시간) "미국 주요 인공지능(AI) 기업들이 AI를 활용한 사기나 속임수 등을 사전에 막기위해 AI를 활용해 만든 콘텐츠에 일종의 '워터마크'를 넣는 자발적 조치를 취하기로 약속했다"고 밝혔다.

해당 기업은 아마존, 알파벳(구글 모회사), 메타, 마이크로소프트(MS), 오픈AI, 인플렉션, 앤트로픽 등 7개 회사다.

이같은 조치는 날로 발전하고 있는 AI에 대한 활용에 있어서 윤리성 문제가 미국 안팎에서 제기된 것과 무관치 않아 보인다.

실제 내년 11월 미국 대선을 앞두고 AI를 활용한 정보 조작과 가짜뉴스에 대한 우려가 꾸준히 나오고 있다.

지난 5월 미 상원 법사위 소위원회 청문회에 출석한 오픈AI의 샘 올트먼 CEO도 AI의 위험성을 경고하며 "생성형 AI가 허위 정보를 만들어낼 수 있어 대선에 미칠 영향을 가장 우려하고 있다"면서 "SNS의 영향과는 차원이 다를 것"이라고 말했다.

챗GPT의 '아버지'가 챗GPT를 규제해야한다고 목소리를 높인 것이다.

상황이 이렇다보니 AI 규제가 필요하다는 것에 미국의 민주당과 공화당 의원들은 초당적으로 공감을 표하고 있다.

특히 대선을 앞두고 있어 양당 모두 신경이 곤두설 수 밖에 없다. 안그래도 가짜 뉴스가 판치는 데, AI마저 가짜 뉴스를 그럴듯하게 퍼뜨린다면 선거 결과가 충분히 왜곡될 수도 있기 때문이다.

지난 3월 트럼프 전 대통령이 뉴욕 맨해튼에서 기소될 때 경찰에 체포되는 현장 사진과 머그샷 등이 온라인에 등장했지만, 실은 AI가 만든 가짜였다.

지난 5월에는 미 국방부 인근에서 대형 폭발이 발생했다는 '가짜 사진'이 등장해 증시가 하락하는 등 실제 금융시장에 영향을 주기도 했다. 이 역시 AI가 만든 것이었다.

이뿐 아니라 온라인에는 바이든 대통령이 트랜스젠더를 공격하는 연설을 하는 것처럼 보이도록 조작된 영상과 젤렌스키 우크라이나 대통령이 러시아에 항복하는 모습을 보여주는 가짜 영상도 버젓이 올라가 있다.

백악관은 AI 기업의 이같은 조치에 대해 "새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다"며 "AI의 혁신이 미국인의 권리와 안전을 희생시키지 않도록 정부는 업체에 최고 수준의 표준을 권고하고 있다"고 말했다.

다만, 이 기술이 언제 어떤 형태로 적용될지는 아직 확정되지 않아 세간의 우려를 실제로 불식시킬 수 있을 지는 좀 더 지켜봐야할 것으로 보인다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

워싱턴=CBS노컷뉴스 최철 특파원 steelchoi@cbs.co.kr

▶ 기자와 카톡 채팅하기▶ 노컷뉴스 영상 구독하기

국제