'가짜를 막아라' 美 AI기업, "생성 콘텐츠에 워터마크"

AI 활용 사기나 속임수, 심각한 사회 문제
구글 등 美 AI 기업, "생성 콘텐츠에 워터마크"
"AI의 사회적 리스크도 우선적으로 연구"
내년 11월 美 대선 앞두고 가짜뉴스 극성 우려

[앵커]

최근 인공지능 AI를 활용한 사기나 속임수 등이 사회적으로 큰 문제가 됐었는데요.

구글과 오픈 AI 등 미국의 7개 주요 기업이 AI가 만든 콘텐츠에 워터마크를 넣는 등 안전조치를 취하기로 했습니다.

미 백악관도 한국 등 동맹국들과 협력해 국제적으로 연대할 계획이라고 밝혔는데요.

취재기자 연결해 자세한 소식 알아보겠습니다. 김선희 기자!

요즘 인공지능 AI를 악용해 가짜뉴스 등이 심심치 않게 나왔었는데 기업들이 자발적으로 안전조치를 만든 거군요?

[기자]

네, 그렇습니다.

그동안 보도가 됐었던 것처럼 AI를 활용한 사기나 속임수 등은 심각한 문제로 지적돼왔습니다.

몇 달 전 세계를 깜짝 놀라게 한 사건이 대표적인데요.

미 국방부 펜타곤 부근에서 검은 연기가 치솟는 사진이 SNS를 통해 급속히 퍼지며 금융시장까지 출렁였는데 결국 가짜로 판명 난 겁니다.

트럼프 미국 전 대통령이 경찰 추격을 받고 수갑 찬 모습, 죄수복 차림 사진도 모두 AI가 만든 가짜로 드러났습니다.

이렇게 문제가 심각해지다 보니 구글과 메타, 마이크로소프트, 아마존 등 7개 주요 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전조치를 취하기로 했습니다.

또 AI 시스템의 기능과 한계. 적절한 사용 영역 등을 공유하고 개인정보를 보호하는 등 AI의 사회적 문제도 함께 연구하기로 했습니다.

이번 조치는 오픈 AI가 챗GPT를 출시한 것과 관련해 AI 활용에 대한 우려가 커지고 있는 가운데 나온 것입니다.

특히 내년 11월 미국 대선 때 딥페이크 등 AI 기술을 활용한 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 우려도 작용했습니다.

[앵커]

미국 백악관도 기업들과 함께 AI 대책에 적극 나설 것이라고 밝혔죠?

[기자]

네, 백악관도 사실상 '첫 AI 정책'으로 간주하고 적극적으로 나서고 있습니다.

백악관은 새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임도 뒤따른다며,

AI의 잠재력은 활용하면서 시민의 권리와 안전을 지킬 수 있도록 대책을 세워나가겠다고 밝혔습니다.

조 바이든 대통령도 이번 조치가 실질적인 정책이 될 것이라며 기대감을 나타냈습니다.

아직 법적인 강제성은 없지만, 조만간 행정명령을 발표할 계획이라고 전했습니다.

또 한국을 비롯한 20개 동맹국과 협력해 AI 개발과 사용을 관리하기 위한 국제적인 연대 방침도 세워두고 있습니다.

지금까지 국제부에서 YTN 김선희입니다.

영상편집 : 이영훈

YTN 김선희 (sunny@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr