'가짜를 막아라' 美 AI기업, "생성 콘텐츠에 워터마크"

AI 활용 사기나 속임수, 심각한 사회 문제
구글 등 美 AI 기업, "생성 콘텐츠에 워터마크"
"AI의 사회적 위험성도 우선적으로 연구"
내년 11월 美 대선 앞두고 가짜뉴스 극성 우려

[앵커]

최근 인공지능 AI를 활용한 사기나 속임수가 국제적으로 큰 문제가 됐었는데요.

구글과 오픈 AI 등 미국의 7개 주요기업이 AI가 만든 콘텐츠에 워터마크를 넣어 안전조치를 취하기로 했습니다.

김선희 기자가 보도합니다.

[기자]

미 국방부 펜타곤 부근에서 시커먼 연기가 치솟는 사진, SNS에서 퍼지며 금융시장까지 출렁였지만 결국 가짜로 드러났습니다.

트럼프 미국 전 대통령이 경찰 추격을 받고 수갑을 찬 모습, 죄수복 차림의 사진도 모두 AI가 만든 가짜로 판명 났습니다.

문제가 심각해지다 보니 구글과 메타 등 미국의 7개 주요 기업이 AI로 만든 콘텐츠에 워터마크를 넣어 안전조치를 취하기로 했습니다.

또 AI 시스템의 기능과 문제점. 적절한 사용영역을 공유하는 등 AI의 사회적 위험성도 시급히 연구하기로 했습니다.

이번 조치는 오픈 AI가 챗GPT를 출시한 것과 관련해 AI 활용에 대한 우려가 커지고 있는 가운데 나왔습니다.

내년 11월 미국 대선 때 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 우려도 작용했습니다.

[일론 머스크 / 테슬라 CEO : AI가 삶을 훨씬 더 낫게 하고 풍요로움을 가져올 가능성이 크다고 보지만 잘못돼 인류를 파괴할 수도 있습니다.]

백악관도 사실상 '첫 AI 정책'으로 간주하고 적극적으로 나서고 있습니다.

AI의 잠재력은 활용하면서 시민의 권리와 안전을 지킬 수 있도록 대책을 세워나가겠다고 밝혔습니다.

조 바이든 대통령도 이번 조치가 실질적인 정책이 될 것이라며 기대감을 나타냈습니다.

[조 바이든 / 미국 대통령 : 인공지능은 전 세계 사람들의 삶을 변화시킬 수 있습니다. 이 기업들은 미국인들의 신뢰를 얻기 위해 책임감과 안전성을 갖춘 혁신을 주도하는 데 중요한 역할을 할 것입니다.]

아직 법적인 강제성은 없지만, 조만간 행정명령을 발표할 계획이라고 전했습니다.

한국을 비롯한 20개 동맹국과 협력해 AI 개발과 사용을 관리하기 위한 국제적인 연대 방침도 세워두고 있습니다.

YTN 김선희입니다.

영상편집 : 이영훈

YTN 김선희 (sunny@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr