요슈아 벤지오, 알론드라 넬슨 발의 글로벌 AI 연구자 23명 동참..10가지 원칙 제시 "함께라면 고급AI 시스템 개발이 인류를 이롭게 할 수 있어" 네이버 하정우 퓨처AI센터장, 한국 대표로 서명 참여
[이데일리 김현아 IT전문기자] 네이버(NAVER(035420))가 유엔 총회기간 동안 한국을 대표해 글로벌 인공지능(AI) 연구자 및 기술 정책 전문가들과 함께 ‘인공지능에 대한 포괄적 과학적 이해에 관한 맨해튼 선언’이라는 새로운 글로벌 협정에 서명했다.
네이버가 글로벌 AI 연구자 협정에 참여해 글로벌 AI 거버넌스 구축 과정에서 한국의 위상을 강화하고 역할을 확대하는 데 기여하고 있음이 재확인된 셈이다.
28일 업계에 따르면 하정우 네이버 퓨처AI센터장(네이버클라우드 AI이노베이션 센터장·과실련 AI미래포럼 공동의장)은 요슈아 벤지오(Yoshua Bengio) 몬트리올 대학교 교수, 알론드라 넬슨(Alondra Nelson) 프린스턴 고등연구소 교수(유엔 AI 고위자문기구 위원) 등과 함께 지난 22일(현지시간)부터 미국 뉴욕에서 열린 유엔 총회 기간 중 이뤄진 ‘인공지능에 대한 포괄적 글로벌 과학적 이해에 관한 맨해튼 선언’이라는 협정에 서명했다.
지난 22일(현지시간)부터 미국 뉴욕에서 열린 유엔 총회 기간 중 이뤄진 라운드 테이블. 이 논의 결과를 바탕으로 ‘인공지능에 대한 포괄적 글로벌 과학적 이해에 관한 맨해튼 선언’이라는 협정에 총 23명의 글로벌 AI연구자들이 서명했다. 출처: 세계적 인공지능(AI) 연구기관 ‘밀라(MILA)’ 홈페이지
글로벌 공공재 AI…10가지 원칙 담아
이번 맨해튼 선언은 지난해 11월 제1회 인공지능(AI) 안전 정상회의(AI Safety Summit)에서 발표된 ‘블레츨리 선언’이나 올해 5월 AI 서울 정상회의에서 발표된 ‘서울 선언’과는 다르다.
정부, 기술 회사, 학계의 결합이 아닌 실제로 AI를 연구하는 사람들에게 초점을 맞췄다. 네이버 하정우 센터장을 비롯한 23명의 글로벌 AI 연구자들이 서명했다.
연구자들은 “우리는 인류에게 유익한 AI 시스템을 개발하고, 향상된 건강과 교육과 같은 글로벌 지속 가능한 개발 목표를 달성하는 데 있어 AI 시스템의 중추적인 역할을 인정한다는 우리의 의지를 재확인한다”면서 “설계, 개발, 배포를 포함한 AI 시스템의 전체 수명 주기가 모든 사람의 인권, 프라이버시, 공정성, 존엄성을 보호하는 핵심 원칙과 일치해야 한다는 것을 강조한다”고 했다. 이어 “함께라면 고급 AI 시스템의 개발이 모든 인류에게 이롭게 되도록 할 수 있다”고 자신했다.
이 선언의 핵심은 인공지능이 단순히 통제할 수 있는 것이 아니라 인권과 프라이버시를 존중하는 방식으로 활용한다면 사회가 가장 큰 문제를 해결하는 데 도움이 될 수 있는 기술이라는 것이다. 최근 패널 토론 에서 구글의 마니카 부사장은 UN의 지속 가능한 개발 목표의 대부분이 AI의 도움으로 달성될 수 있다는 것을 발견한 국제전기통신연합(ITU)의 연구를 인용하기도 했다.
발표된 10가지 원칙은 △AI 연구 및 개발 국제 협력 △AI의 연구와 위험 완화(예상 위험을 완화하는 데 집중)△인권과 공정성 보호(AI의 전체 수명 주기가 모든 사람의 인권, 프라이버시, 공정성, 존엄성을 보호해야 함)△다양한 관점의 중요성△개방형 과학과 투명한 연구 관행 촉진 △학제 간 협업(컴퓨터 과학, 정보 및 하드웨어 보안, 윤리, 경제학, 인지 과학, 신경 과학, 사회 과학, 문화 연구, 수학 등 학제간 협업)△책임 있는 개발 및 사용(지속가능개발목표(SDG), 안전, 윤리적 고려 사항, 사회적 이익을 우선시)△증거 기반 거버넌스 프레임워크 개발 지원 △정책 입안자 및 대중 참여 △장기적 관점 유지와 단기적 피해 간과하지 않기 등이다.
하정우 네이버 센터장과 선언문을 공동 발의한 요슈아 벤지오 몬트리올대 교수와 알론드라 넬슨 프린스턴 고등연구소 교수 외에도 △왕젠(Jian Wang) 알리바바 그룹 알리바바 클라우드 창립자 △티노 쿠엘라(Tino Cuellar) 카네기 국제평화재단 회장 △프란체스카 로시(Francesca Rossi) IBM AI 윤리 글로벌 리더 △브라이언 체(Brian Tse) 콘코르디아 AI(Concordia AI) 설립자 겸 CEO △세이디나 무사 은디아예(Seydina Moussa Ndiaye) 세네갈 인공지능 협회 회장(유엔 AI 고위자문기구 위원) △루만 초드허리(Rumman Chowdhury) 휴메인 인텔리전스(Humane Intelligence) CEO 및 공동 창립자 △아키코 무라카미(Akiko Murakami) 일본 자연어 처리 협회 이사회 멤버 △제임스 마니카(James Manyika) 구글 알파벳 수석 부사장(유엔 AI 고위자문기구 공동의장) △이 젱 (Yi Zeng) 중국과학원 교수(베이징 AI 안전 및 거버넌스 연구소 소장)△카르메 아르티가스 (Carme Artigas) 하버드 벨퍼 센터 수석 연구원(유엔 AI 고위자문기구 공동의장)△ 란 발리서 (Ran Balicer) 이스라엘 Clalit Health Services 부총괄 및 최고 혁신 책임자 등 총 23명의 글로벌 과학자들이 서명했다. 한국 연구자중에서는 네이버가 유일하다.
