황종성 NIA 원장 “AI 기술 발전에 사회적 책임 병행돼야”

유해 표현 학습용 데이터 등 공개…“대규모 언어 모델 신뢰성 강화”

(시사저널=김동현 영남본부 기자)

황종성 한국지능정보사회진흥원장이 2월5일 집무실에서 시사저널과 인터뷰를 하고 있다. 황 원장은 "혁신으로 AI 시장 지각변동에 대비해야 한다"고 했다. ⓒ한국지능정보사회진흥원 제공

한국지능정보사회진흥원(NIA) 황종성 원장은 14일 "인공지능 기술의 발전은 기술적 진보뿐만 아니라 사회적 책임을 담보할 수 있는 윤리적 고려가 반드시 병행돼야 하고, 이는 지속 가능한 인공지능 생태계 조성을 위한 핵심 요소"라고 밝혔다.

황 원장은 이날 유해 표현 학습용 데이터 등을 공개하면서 이같이 말했다. 그는 "이번 인공지능 모델과 데이터 공개가 한국어 대규모 언어 모델(LLM)의 신뢰성과 안전성을 강화하기 위한 계기가 될 것으로 기대한다"고 했다. NIA는 한국정보통신기술협회(TTA)와 AI허브를 통해 LLM 학습용 데이터 유해 표현 검출 모델과 학습 데이터를 공개했다고 발표했다. 

AI허브는 과학기술정보통신부와 NIA가 운영하는 국내 최대 AI 학습용 데이터 제공 플랫폼이다. 공개된 인공지능 모델은 주어진 말뭉치 데이터 내에서 유해 표현을 검출하고 다양한 유해 표현 카테고리로 분류하는 기능을 수행할 수 있다.

해당 인공지능 모델과 데이터는 과기정통부 초거대AI 확산 생태계 조성 사업의 일환이다. LLM 데이터의 품질검증 과정에서 주요 특성 중 하나인 '유해성'을 측정하기 위해 개발했다. 자체 성능 검증 결과 높은 정확도(80~90%)를 달성해 유해 표현 검출의 효용성을 입증했다는 평가다.

인공지능 모델 학습을 위해 구축된 데이터는 유해 표현 검출용 데이터 20만 건과 유해 표현 카테고리 구분용 데이터 21만 건이다. 한국어 유해표현 오픈소스 데이터를 토대로 AI허브의 온라인 구어체 말뭉치 데이터와 지식그래프-투-텍스트 데이터를 활용해 문체의 다양성을 확보하는데 중점을 뒀다.

또 국가인권위원회의 혐오 표현에 대한 안내서 등과 같은 신뢰할 수 있는 가이드라인을 참조해 유해 표현과 유해 카테고리를 명확하게 정의하고, 이를 재가공해 데이터의 일관성과 신뢰성을 확보했다고 NIA는 설명했다. NIA 관계자는 "LLM 관련 서비스 및 데이터 구축사업에 적용함으로써 인공지능이 생성하는 콘텐츠의 안전성 강화와 다양한 산업 분야에서 인공지능 윤리 강화에 기여할 것으로 예상된다"고 했다.

황 원장은 "앞으로도 윤리적 책임을 고려한 양질의 인공지능 데이터 구축과 활용 기반 마련을 통해 국내 인공지능 생태계 지원을 확대해 나갈 것"이라고 강조했다. 

한편 NIA는 과기부와 함께 초거대AI 확산 생태계 조성을 위해 박차를 가하고 있다. 최근 '2025년 초거대AI 확산 생태계 조성 사업설명회'를 열고 사업추진 방향 등을 설명했다. 특히 올해 구축 방향인 추론 인공지능을 위한 데이터와 같이 최신 인공지능 기술 기반 사업에 대한 궁금증을 해소하는 자리를 마련했다.