尹대통령 “AI 악영향 최소화하고, AI 안전성 확보해야”

AI 서울 정상회의 개막

윤석열 대통령이 21일 청와대 영빈관에서 화상으로 참석한 'AI 서울 정상회의'에서 개회사를 하고 있다. 대통령실 제공

윤석열 대통령이 21일 청와대 영빈관에서 'AI 서울 정상회의'에 화상으로 참석하고 있다. 대통령실 제공

윤석열 대통령이 21일 청와대 영빈관에서 화상으로 'AI 서울 정상회의'에 참석해 올라프 숄츠 독일 총리의 발언을 듣고 있다. 대통령실 제공

윤석열 대통령은 21일 'AI 서울 정상회의'를 개막하면서 "AI가 미칠 수 있는 악영향을 최소화하고, 우리 사회의 안녕과 민주주의가 훼손되지 않도록 AI의 안전성을 확보해야 한다"고 강조했다.

윤 대통령은 이날 화상으로 열린 'AI 서울 정상회의' 개회사에서 안전, 혁신, 포용성 등을 AI 기술 3원칙으로 제시하며 이같이 말했다.

AI 서울 정상회의는 한국과 영국이 공동으로 주관하는 행사로 지난해 영국 블레츨리 파크에서 열린 'AI 안전성 정상회의' 후속 회의다. 정상회의에는 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미국 등이 참여했다.

윤 대통령은 "생성형 AI 등장 이후 AI 기술이 전례 없는 속도로 발전하면서, 인류 사회에 막대한 파급 효과를 가져올 것으로 전망된다. AI의 영향력이 커지는 만큼 딥페이크를 통한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려도 커지고 있다"면서 "저는 AI로 인한 급격한 디지털 환경 변화에 발맞춰, 작년 유엔 총회 기조연설과 뉴욕대, 소르본대 디지털 비전 포럼 연설을 통해 새로운 디지털 규범의 정립 필요성을 강조해 왔다. 대한민국 정부는 작년 9월 자유, 공정, 안전, 혁신, 연대의 다섯 가지 원칙을 담아 '디지털 권리장전'을 수립했다"고 밝혔다.

아울러 "디지털은 국경을 넘어 초연결성을 지닌 만큼, 글로벌 차원의 디지털 규범이 만들어져야 한다"며 "AI 서울 정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것"이라고 평가했다.

윤 대통령은 "영국, 미국을 비롯한주요국들의 AI 안전연구소 설립 노력을 환영한다"며 "대한민국도 AI 안전연구소 설립을 추진해글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것"이라고 전했다.

윤 대통령은 또 "AI가 가진 커다란 잠재력을 구현해내기 위해서는 자유롭고 개방적인 연구개발을 통해 AI의 혁신을 추구해야 한다. AI 혁신은 글로벌 경제에 새로운 성장동력을 부여하고,환경오염 등 전 지구적인 난제를 풀어가는 데 큰 도움을 줄 것"이라고 역설했다.

윤 대통령은 마지막 원칙으로 포용성을 거론하면서 "거주지역과 소득 수준에 관계 없이 누구나 AI의 혜택을 누릴 수 있도록, AI의 포용성을 확보하는 것도 중요하다. 미래 세대에게 혁신의 혜택이 이어지도록 지속 가능한 AI 발전이 이뤄져야 할 것"이라고 피력했다.

윤 대통령은 "대한민국은 국제사회의 책임 있는 일원으로서AI 안전, 혁신, 포용을 조화롭게 추진해 나가겠다"고 공언했다.

이날 회의에서는 안전하고 혁신적이며 포용적인 AI(인공지능)를 위한 서울 선언이 채택됐다.

1차 AI 안전성 정상회의에서 도출한 '블레츨리 선언'보다 폭넓게 AI 관련 국제사회의 공감대와 협력방안을 담았다.

정상들은 서울선언에서 "AI의 전례없는 발전과 우리 경제·사회에 미치는 영향을 마주해 AI 분야에서 국제 협력 및 대화를 촉진하고자 하는 공동의 헌신을 확인한다"고 밝혔다.

정상들은 "우리는 안전하고 보안성과 신뢰성을 갖춘 AI 설계·개발·배치·사용을 보장하기 위해, AI로부터 혜택을 극대화하고, 야기되는 폭넓은 위험들에 대응하기 위한 위험 기반 접근법과 일치하는 AI 거버넌스 체계들 간의 상호운용성의 중요성을 인식한다"며 "우리는 첨단 AI 시스템을 개발하는 단체들에 대한 히로시마 프로세스 국제 행동강령의 운용을 지지하는데 지속 집중한다"고 밝혔다. 이어 "우리는 프론티어 AI를 개발하고 배치하는 단체들의 특별한 책임을 인식하며, '프론티어 AI 안전 서약'을 환영한다"고 했다.

아울러 "참여국들이 안전연구소, 연구 프로그램 또는 감독 기관들을 포함한 기타 유관 기관들을 설립하는 것을 지지하고, 이들 단체간의 네트워크를 육성함으로써 안전 연구에 관한 협력을 증진하고 모범 관행을 공유하기 위한 협력을 증진한다"며 "우리는 인간 중심적인 AI를 활용해 국제 난제를 해결하고, 민주주의적 가치·법치주의 및 인권·기본적 자유와 프라이버시를 보호 및 증진하고, AI 및 디지털 격차를 해소함으로써, 인간의 복지를 향상하고, 유엔 지속가능발전목표 진전을 포함해 AI를 실용적으로 활용하도록 지원하고자 AI 안전·혁신·포용성을 향상시키는 국제 협력 강화를 촉구한다"고 강조했다.

또한 "안전하고, 혁신적이고 포용적인 AI 생태계들을 육성하는 위험 기반 접근법들을 포함한 정책·거버넌스 체계들을 지지한다. 이 체계들은 인간의 창의력과 AI의 개발·사용 간 선순환을 촉진하고, 사회·문화적, 언어적 그리고 성별 다양성을 증진하며, 상업적·공개적으로 사용 가능한 AI 시스템들의 전주기에 걸쳐 환경적으로 지속가능한 기술 및 인프라의 개발 및 사용을 증진해야 한다"며 "AI 거버넌스에 관한 국제 협력을 강화하기로 한다"고 공언했다.

정상들은 서울선언의 부속서인 'AI 안전 과학에 대한 국제 협력을 위한 서울 의향서'도 도출했다.

AI 서울 정상회의는 프랑스가 개최하는 'AI 행동 정상회의'로 이어진다.김미경기자 the13ook@dt.co.kr