KT, UN 행사서 '책임감 있는 AI' 표준 논의…"디지털 신뢰 구축"

에이전트 AI 시대 '신뢰 기본 요소' 제안
AI 안전성 확보 위한 거버넌스·사례 소개

KT는 유엔(UN)과 국제전기통신연합(ITU) 주관 글로벌 행사에 참여해 책임감 있는 인공지능(AI)과 글로벌 AI 표준 협력 방안 등을 논의했다고 9일 밝혔다.

박완진 KT AX미래기술원 테크전략담당 상무(왼쪽 네 번째)가 글로벌 AI 거버넌스 대화에서 발표하고 있다. KT 제공

KT는 7일(현지시간) 스위스 제네바에서 개최된 'AI 포 굿 글로벌 서밋'의 'AI 파운데이션: 모두를 위한 디지털 신뢰와 AI 인프라' 라운드 테이블 세션에 참여했다.

여기서 KT는 에이전트 AI 시대의 '신뢰 기본 요소' 확보 방안을 논의했다. 신뢰 기본 요소는 누구의 에이전트인지를 말하는 '신원'과 허가 범위를 뜻하는 '동의', 증명 여부를 뜻하는 '검증 가능성'을 말한다.

KT는 기존에는 트래픽 중심이 사람과 시스템이었지만, 현재는 에이전트로 이동하고 있다고 짚었다. 이런 변화 속에서 에이전트가 안전하게 행동하기 위해서는 신뢰 기본 요소 체계가 필요하다고 했다. 또 이러한 체계가 특정 플랫폼에 종속된 폐쇄형이 아닌, 기업과 국경을 넘어 작동하는 개방형 상호운용 표준과 중립적인 신뢰 인프라 위에 구축돼야 한다고 강조했다.

KT는 같은 날 UN에서 개최한 '글로벌 AI 거버넌스 대화'에도 참여해 AI 거버넌스 모범 사례와 협력 방안을 논의했다. 지난해 출범한 이 대회는 각국 정부와 이해관계자들이 안전하고 포용적인 AI를 위한 국제 협력을 논의하는 자리다.

KT는 세부 세션인 '인권 존중·보호·증진: 투명성, 책임성 및 인간 개입'에서 향후 AI 발전에도 UN이 정립해온 인권 원칙이 동일하게 보장·유지돼야 한다고 밝혔다. 이와 함께 KT가 AI의 안전성 확보를 위해 정책·거버넌스 체계를 갖추고 있음을 소개하고, 이를 지니TV AI 에이전트 등 자사 서비스에 적용하고 있다고 설명했다. KT는 AI 안전성과 관련한 예방·보호·감시 체계를 UN과 함께 만들어 나가겠다는 뜻도 밝혔다.

박완진 KT AX미래기술원 테크전략담당 상무는 "에이전트가 사람을 대신하는 시대에는 기술 혁신 속도는 물론 인간의 권리를 보장하고 상호 운용 가능한 디지털 신뢰를 구축하는 것이 무엇보다 중요하다"며 "KT는 AI 모델을 직접 개발하면서 중립적인 신뢰 인프라를 함께 제공할 수 있는 사업자로서 글로벌 표준 논의에 책임 있게 기여하겠다"고 말했다.

노경조 기자 felizkj@asiae.co.kr