LG AI연구원, '인도 AI 정상회의' 참가…'책임있는 AI' 성과 공유

20일(현지시간) 인도 뉴델리 바라트 만다팜에서 열린 유네스코와 유엔 인권최고대표사무소 공동 주관 행사에 참가한 관계자들이 기념 사진 촬영을 하고 있다 *사진 왼쪽부터 페기 힉스 유엔 인권최고대표사무소 국장(Peggy Hicks, Director, UN Human Rights), 알렉산드리아 월든 구글 인권 정책 글로벌 총괄(Alexandria Walden, Global Head of Human Rights, Google), 김유철 LG AI연구원 전략부문장, 헥터 드 리보아르 마이크로소프트 책임 있는 AI 사무국 공공 정책 총괄(Hector de Rivoire, Director, Responsible AI Public Policy, Microsoft), 안킷 보스 나스콤 AI 부문 총괄(Ankit Bose, Head of AI, NASSCOM), 나밋 아가왈 월드 벤치마킹 얼라이언스 프로그램 총괄(Namit Agarwal, Head of Programme, World Benchmarking Alliance)/사진제공=LG

LG AI(인공지능)연구원이 서울과 파리에 이어 올해 인도까지 3차례 연속 'AI(인공지능) 정상회의'에 초청받아 국내 AI 업계의 목소리를 전달했다.

LG AI연구원은 지난 20일(현지시간) 인도 뉴델리 바라트 만다팜에서 열린 '인도 AI 정상회의(India AI Impact Summit)'에 참가해 책임 있는 AI 생태계 구축을 위한 글로벌 협력 방안과 실행 성과를 공유했다고 22일 밝혔다.

이번 정상회의에서 김유철 LG AI연구원 전략부문장은 유네스코(UNESCO)와 유엔 인권최고대표사무소(OHCHR)가 공동 주관하는 행사에서 △구글 △마이크로소프트 △인도 소프트웨어산업협회 △월드 벤치마킹 얼라이언스 등의 주요인사와 기업의 '책임 있는 AI(Responsible AI)' 정책 내재화와 글로벌 표준의 역할을 논의를 했다.

특히 김 부문장은 이날 LG AI연구원이 개발한 범용 AI 위험분류체계 한국판(K-AUT)을 공개했다. K-AUT는 잠재적 위험을 △인류 보편적 가치 △사회 안전 △한국적 특수성 △미래 위험 등 4개 핵심 영역, 226개 세부 위험 항목으로 구성됐다. 항목별 5가지 구체적 판별 기준이 있어 하나의 위반 사항만 발생해도 AI가 부적절한 응답을 했다고 분류한다.

LG AI연구원은 새로운 위험분류체계를 단순한 가이드라인이 아닌 AI 모델과 AI 서비스의 안전성을 검증하고 강화하는 도구로 개발했다. 실제 LG의 AI 파운데이션 모델인 엑사원(EXAONE)의 안전성 검증에 활용했고, 그 결과를 공개하고 있다.

LG AI연구원은 오는 5월 글로벌 공개를 앞둔 'AI 윤리 MOOC(Massive Open Online Course) 프로젝트'도 소개했다. 이 프로그램은 LG AI연구원과 유네스코가 추진 중인 글로벌 프로젝트로 전 세계 AI 전문가와 연구자, 정책 입안자를 대상으로 AI 기술을 올바르게 개발하고 활용하는 모범 사례를 발굴하고 교육 프로그램을 개발해 제공하는 프로젝트다.

특히 이번 프로젝트는 추상적인 담론에 머물렀던 AI 윤리 원칙을 실제 현장에서 즉시 적용하고 실행할 수 있는 지식으로 전환했다는 점에서 의미가 있다. LG AI연구원은 독자적으로 개발한 윤리영향평가와 데이터 컴플라이언스 AI 에이전트 등 실전 운영 노하우와 AI 기술들을 투명하게 공개했다.

김명신 LG AI연구원 정책수석은 "이번 프로젝트는 AI 윤리의 글로벌 표준의 원칙을 현장의 언어로 번역하는 가교로서, AI 윤리 실천 영역에서 막막함을 느끼는 전 세계 전문가들에게 실질적인 이정표가 될 것으로 기대한다"고 말했다.

김남이 기자 kimnami@mt.co.kr