“AI 윤리, 원칙 정립 조금 늦더라도 빨리 실행하려 한다”[AI 혁명, 현장을 가다]

■ AI 혁명, 현장을 가다 - 김유철 AI연구원 전략부문장

“원칙 정립이 한 발짝 늦더라도 ‘실행’을 빨리하자는 데 초점을 두고 있습니다.”

LG 인공지능(AI)연구원에서 윤리 분야를 총괄하는 김유철(사진) LG AI연구원 전략부문장은 LG그룹의 AI 윤리 차별점을 묻는 말에 “많은 기업이 윤리 원칙을 발표하거나 특별한 조직이나 연구 센터를 만드는 방식으로 AI 원칙을 정립해가고 있는데 대다수가 단기적 성과에 그치는 경우가 많다”며 “그래서 우리는 차별성을 더하기 위해 ‘실행’에 더 무게를 두고 있다”고 답했다.

김 부문장은 이런 실행의 결과물로 올해 처음 발간한 ‘AI 윤리 책무성 보고서’를 꼽았다. LG AI연구원이 공개한 AI 윤리 책무성 보고서는 ‘윤리 원칙 실천을 위한 3가지 전략’으로 거버넌스와 연구, 참여 등으로 구성된다. 구체적으로 살펴보면 ‘거버넌스’는 AI 윤리 측면에서 잘못된 의사결정이 이뤄지지 않도록 감시하고 관리하는 조직과 절차를 의미한다. ‘연구’는 AI가 윤리를 위반하지 않도록 지속해서 기술을 고도화하는 것을, ‘참여’는 AI 윤리 인식을 증진하기 위한 활동을 각각 뜻한다. LG그룹은 궁극적으로 실천하려는 원칙으로는 △인간 존중 △공정성 △안전성 △책임성 △투명성 총 5가지를 제시했다.

실천 전략인 ‘거버넌스’의 경우 고객 상담 효율화를 위한 AI 기술이 현장에 적용되는 과정에서 위험을 관리한 사례가 대표적이다. 고객 상담 효율화를 위한 AI 기술은 상담 전화를 실시간으로 문자로 변환·분석해 해결책을 상담사에게 제공하는 기술이다. 이에 대해 김 부문장은 “학습에 사용된 대화 데이터 중 일부 부적절한 혐오 표현이 포함돼 있어 상담사에게 불쾌감을 주는 답변이 생성될 수 있다는 잠재적 위험이 식별됐다”며 “우리는 욕설과 혐오 표현 등을 제거해 의도치 않은 답변이 생성되는 위험을 최소화했다”고 말했다.

／ 제작후원 ／
삼성전자, 현대자동차그룹, SK, 포스코, 롯데, 한화, 이마트, KT, CJ, 대한항공, 카카오, 네이버

이예린 기자 yrl@munhwa.com