"위험한 것은 AI기술 아니라 악용하는 인간"

'서울 AI 기업 서약' 채택
삼성·구글·MS 등 14곳 참여
책임있는 개발·활용 '한목소리'
"워터마크 붙여 콘텐츠 식별"

한덕수 국무총리(앞줄 다섯 번째)와 이종호 과학기술정보통신부 장관(네 번째), 조태열 외교부 장관(여섯 번째) 등 정부와 기업 관계자들이 22일 서울 한국과학기술연구원(KIST)에서 열린 인공지능(AI) 글로벌 포럼 개회식에 참석했다. /뉴스1

국내외 주요 인공지능(AI) 관련 기업이 안전한 AI 사용을 위한 ‘서울 AI 기업 서약’을 발표했다.

삼성전자, SK텔레콤, KT, LG AI 연구원, 네이버, 카카오 등 국내 기업과 오픈AI, 구글, 마이크로소프트(MS), 앤스로픽, IBM, 세일즈포스, 코히어, 어도비 등 외국 기업 총 14곳은 22일 서울 한국과학기술연구원(KIST)에서 열린 ‘AI 글로벌 포럼’ 개막식에서 서울 AI 기업 서약을 했다. AI 글로벌 포럼은 지난 21일 개막한 AI 서울 정상회의의 연계 행사다.

서약에는 책임 있는 AI 개발과 활용을 위해 AI 안전기관과의 협력을 강화하고, 워터마크 등 AI 생성 콘텐츠를 식별하기 위한 조치와 국제표준 개발을 위한 협력을 강화하는 내용이 담겼다. AI의 지속 가능한 발전과 혁신을 목표로 첨단 AI 모델과 시스템 개발에 투자하는 것은 물론 공동 프로젝트와 펀드 조성 등을 통해 중소기업 및 스타트업과 협업하고 인턴십과 교육 프로그램 등으로 전문 인재를 양성하는 방안도 포함됐다. 공평한 AI 혜택 보장을 위해 사회적 약자를 대상으로 한 AI 서비스 출시도 약속했다.

이날 포럼 기조연설을 맡은 앤드루 응 스탠퍼드대 교수는 위험한 것은 AI 기술이 아니라 AI를 악용하는 사람이라고 강조했다. 그는 “정부는 기술 자체가 아니라 (AI를 나쁘게 활용하는) 앱을 규제해야 한다”고 말했다.

전날 윤석열 대통령과 리시 수낵 영국 총리 주재로 열린 AI 서울 정상회의 ‘정상 세션’에 이어 이날 미국, 일본, 프랑스, 독일, 유럽연합(EU), 유엔 등 각국 대표 21명과 국내외 기업, 학계·시민사회 등 주요 인사 22명이 참석한 가운데 장관 세션도 진행됐다.

이종호 과학기술정보통신부 장관과 미셸 더넬란 영국 과학혁신기술부 장관이 공동 의장으로 나서 ‘AI 안전성 확립 역량 강화’와 ‘지속 가능한 AI 발전 촉진’이라는 두 가지 주제로 논의를 이어갔다. 이 장관은 “생성형 AI가 가져올 위험과 부작용에 대한 우려가 커지고 있다”며 “전날 발표한 정상급 합의 문서 ‘서울 선언’의 비전을 토대로 AI 안전 확보와 지속 가능한 발전을 논의하고자 한다”고 말했다. 더넬란 장관은 “사회 전반이 AI 리스크에 대한 회복 탄력성을 갖춰야 한다”고 당부했다. 이날 회의에 참석한 대표단은 AI 안전, 혁신, 포용 증진을 위한 ‘서울 장관 성명’을 채택했다.

이승우 기자 leeswoo@hankyung.com