신뢰할 수 있는 AI를 위하여…확산하는 ‘AI 거버넌스’

생성형 AI 미드저니로 구성한 얼굴 이미지.

최근 생성형 인공지능(AI) 활용이 급격히 늘면서 학습 데이터의 편향과 환각 현상(Hallucination) 등 다양한 문제가 제기되고 있다. 예컨대 이미지 생성 AI에게 ‘비전문가 이미지’를 그려달라고 하면, ‘고령의 흑인 남성’과 같은 사회적 편견을 반영한 이미지를 그려내는 것이다. AI 기술 발전과 맞물린 다양한 법적·윤리적 이슈에 대응하기 위한 ‘AI 거버넌스’가 최근 국내 기업에서도 확산하고 있다.

KT는 올바른 AI 거버넌스 체계 확립을 위해 ‘책임감 있는 인공지능 센터’(Responsible AI Center·RAIC)를 신설한다고 23일 밝혔다. AI 거버넌스는 AI 시스템의 잠재적 위험을 사전에 평가하고, 위험을 체계적으로 관리하기 위한 조직과 내부 절차를 마련하는 것을 의미한다.

RAIC는 AI 기술이 사용자에게 유익한 가치를 제공할 수 있도록 잠재적 위험을 최소화하는 연구를 수행하게 된다. 안전성, 투명성, 개인정보 보호 등 AI가 악용될 수 있는 분야에 대한 관리 체계를 구축한다. 지난해 수립한 AI 윤리 원칙을 실무에서 이행할 수 있는 수준의 지침으로도 만든다. KT 관계자는 “AI를 사회가 지향하는 가치와 목적에 사용하도록 하는 거버넌스 체계를 확립해 통신 역량에 AI를 융합한 ‘AICT’ 회사로서의 경영 비전을 구체화하려 한다”고 설명했다.

SK텔레콤 역시 지난 1월 회사 경영에 AI 거버넌스를 도입하기로 했다. 지난 3월 주주총회에선 AI 거버넌스 원칙 ‘T.H.E. AI’를 공개하고 본격적인 AI 사업 성과를 내겠다고 밝혔다. T.H.E. AI는 “통신 기술 기반의, 사람을 향한 사람을 위한, 윤리적 가치 중심의 AI”를 뜻한다. SK텔레콤은 AI 의사결정 체계를 구축하고, AI 기술 및 서비스 개발 과정에서 준수해야 할 행동 규범도 수립할 예정이다.

AI 거버넌스 도입은 세계적 흐름이다. 지난해 10월 주요 7개국(G7)은 AI 개발에 대한 국제 지침 및 행동 규범에 합의했으며, 지난달 유럽연합(EU) 의회는 세계 최초로 AI 규제법(AI Act)을 통과시켰다. 유엔에서도 ‘딥페이크’와 같은 AI의 부작용을 최소화하기 위한 ‘신뢰할 수 있는 AI’ 결의안이 만장일치로 채택됐다.

국내에선 지난 4일 민·관 AI 최고위거버넌스인 ‘AI전략최고위협의회’가 출범했다. 이 협의회는 AI 기술 혁신과 산업 경쟁력 강화를 위한 전략을 수립하는 동시에 안전한 AI 활용 정책 전반을 범정부 차원에서 논의하기 위해 만들어졌다. 이 위원회에는 법률가, 철학자, 사회학자 등도 포함해 AI가 산업을 넘어 인문·사회 분야까지 영향력이 확대되는 현실을 반영했다. 21대 국회에선 AI 관련 법안이 12건 발의됐지만, 전부 상임위에 계류돼 있다.

배문규 기자 sobbell@kyunghyang.com