“AI 콘텐츠에 워터마크”… 글로벌 빅테크 ‘안전한 AI’ 힘 모은다

AI 글로벌 포럼서 ‘서울 서약’
영미권 위주 논의서 벗어났지만
서약 구속력·인센티브 없어 한계

이종호(오른쪽) 과학기술정보통신부 장관과 미셸 도넬란 영국 과학혁신기술부 장관이 22일 서울 성북구 한국과학기술연구원에서 인공지능(AI) 정상회의와 AI 글로벌 포럼과 관련해 브리핑을 하고 있다. 과학기술정보통신부 제공

국내외 주요 인공지능(AI) 기업들이 AI 기술의 안전하고 포용적인 사용을 위해 힘을 모은다. 각국 정부가 합의한 AI 기술 활용 방향성에 보조를 맞추는 차원이다. AI 콘텐츠에 워터마크를 넣어 이용자가 식별할 수 있게 하고 각국 AI 안전연구소와의 협력을 강화하기로 했다.

이종호 과학기술정보통신부 장관은 22일 서울 한국과학기술연구원(KIST)에서 열린 AI 글로벌 포럼 개막식에서 국내외 AI 기업 14곳이 참여한 ‘서울 AI 기업 서약’을 발표했다. 전날 윤석열 대통령 주재로 열린 ‘AI 서울 정상회의’에서 발표된 ‘서울 선언’을 기업들도 실천하겠다는 의미다. 구글, 마이크로소프트(MS), 오픈AI, 코히어, IBM, 앤트로픽, 세일즈포스, 어도비, LG AI연구소, KT, 삼성전자, SK텔레콤, 네이버, 카카오가 서약에 동참했다.

이들 기업은 책임 있는 안전한 AI 개발을 위해 강력한 내부통제 및 위험관리 정책을 마련하기로 했다. 가짜뉴스나 딥페이크 같은 기술 악용 우려에 대응해 AI의 취약성과 위험을 식별해 내부적으로 평가하고, 평가 결과를 AI 모델 생애주기에 반영한다. 이때 AI 안전연구소 등 외부 기관의 피드백도 고려하기로 했다.

또 AI가 만든 콘텐츠에 워터마크를 넣어 가짜뉴스 등 악의적인 정보를 이용자가 식별할 수 있게 한다. AI 워터마크는 AI 기술을 적용해 제작한 디지털 이미지나 문서에 삽입되는 로고나 텍스트를 의미한다.

AI 안전연구소와의 협력도 강화한다. 영국은 최근 AI 안전연구소 해외 사무소를 미국 샌프란시스코에 열었다. 한국도 한국전자통신연구원 산하 조직으로 AI 안전연구소를 올해 설립할 계획이다. 아울러 빅테크 기업은 개발도상국과 신흥국, 사회적 약자도 AI의 수혜를 누릴 수 있도록 국제적 기술 지원과 맞춤 서비스 개발을 약속했다.

이날 AI 서울 정상회의 장관세션에서도 AI 안전연구소의 네트워킹 등 글로벌 협력 방안이 논의됐다. 이를 토대로 28개국이 동참한 ‘AI 안전, 혁신, 포용 증진을 위한 서울 장관 성명’이 채택됐다.

주요 AI 기업 경영진과 전문가들이 공통적으로 강조한 요소는 AI의 안전성과 포용성이다. 이재용 삼성전자 회장은 전날 AI 서울 정상회의에서 진행된 화상 연설에서 “삼성은 국가와 국가, 사회 내부의 기술 불평등과 격차를 줄이기 위해 노력하고 있다”고 말했다. 5년 만에 대외 무대에 모습을 드러낸 이해진 네이버 글로벌투자책임자(GIO)는 “보다 안전한 AI를 위해서는 각 지역의 문화, 가치를 존중하는 책임감 있는 다양한 AI 모델들의 등장이 필요하다”고 말했다.

이날 AI 글로벌 포럼에 참석한 하정우 네이버 퓨쳐 AI센터장은 “그 누구도 소외되지 않도록 디지털 및 AI 격차를 줄여야 한다”며 “일례로 네이버는 거대언어모델(LLM)을 활용해 혼자 거주하는 노년층을 위한 서비스를 제공하고 있다”고 설명했다. 고진 대통령 직속 디지털플랫폼정부위원회 위원장은 “AI 기술은 일부 국가의 전유물이 돼서는 안 된다”고 지적했다.

이번 행사는 영미권 위주로 진행되던 AI 글로벌 거버넌스 논의가 비영미권에서 이뤄졌다는 점에서 의미가 있다. 다만 도출된 결과물은 이미 각국 정부와 기업들이 추진하고 있는 자체적 노력을 재확인하는 수준에 그쳤다는 평가도 있다. 이미 유럽연합(EU)은 지난해 8월 디지털서비스법(DSA)을 통해 AI 생성 콘텐츠에 별도 표시를 넣도록 했다. 미국도 지난해 10월 조 바이든 대통령이 서명한 행정명령에 생성형 AI 출력물의 식별 장치를 강화해야 한다는 내용을 담았다. 오픈AI는 지난 14일 GPT-4o를 선보이며 문자를 음성으로 바꿔주는 서비스인 ‘보이스엔진’에 워터마크 기능을 적용하기로 했다. MS도 ‘투명성 보고서’를 이달 처음 공개하며 워터마크 도입, 안전성 테스트 조직인 레드팀 운영 등 자체적 노력을 소개했다.

이번 서약은 구속력이나 참여 기업에 대한 인센티브가 없다는 점도 한계다. 영국에서 열린 AI 정상회의와 달리 직접 한국 땅을 밟은 글로벌 AI 기업 CEO가 거의 없다는 지적도 있다. 정부 관계자는 “첫 회의와 두 번째 행사의 무게감이 서로 다를 수밖에 없다”고 말했다.

임송수 기자 songsta@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지