과기정통부 박윤규 2차관 “AI 신뢰..기업 생존과 직결”

AI 윤리 및 신뢰성 강화를 위한 현장 간담회 개최
네이버, LG, 카카오, KT, 업스테이지 등과 토론

[파이낸셜뉴스] 과학기술정보통신부(과기정통부)가 네이버, LG, 카카오, KT, 업스테이지 등 인공지능(AI) 대표 기업들과 만나 AI 윤리 및 신뢰성 강화를 위한 정책 방안을 논의했다.

과학기술정보통신부 박윤규 제2차관(왼쪽 첫번째)이 11일 서울 중구 제네시스랩 본사에서 열린 간담회를 통해 인공지능(AI) 윤리 및 신뢰성 강화를 위한 방안을 논의했다. 사진=김미희 기자

과기정통부 박윤규 제2차관은 11일 서울 중구 제네시스랩 본사에서 열린 현장 간담회를 통해 “챗GPT 등장 이후 초거대·생성형 AI가 산업과 일상 속으로 빠르게 확산되고 있는 상황에서 AI 윤리 및 신뢰성 이슈가 새로운 국면에 접어들고 있다”며 “기술 개발부터 활용 전 단계에서 AI 윤리 및 신뢰성을 확보하는 것이 기업 생존과 직결된 만큼 관련 노력을 더 많이 기울일 것”라고 밝혔다.

오픈AI의 챗GPT 등장으로 인해 AI가 사람 수준의 지적 능력을 보유할 수 있다는 가능성이 확인되면서, 거짓정보 생성과 편향성 강화 등 AI 위험성에 대한 우려가 심화되고 있다는 게 과기정통부 설명이다.

앞서 과기정통부는 2020년 당시 ‘사람중심 AI 구현’을 위해 경제협력개발기구(OECD)와 유럽연합(EU) 등의 AI 권고안을 반영, 3대 원칙 및 10대 요건으로 구성한 AI 윤리기준을 수립한 바 있다. △인간 존엄성 △사회의 공공선 △기술의 합목적성 등 3대 원칙 기반으로 인권 보장과 프라이버시 보호 등 10대 요건이 담겼다.

이번 현장 간담회도 윤리규범 실천을 위한 구체적 방안을 논의하기 위해 마련됐다. 과기정통부 인공지능기반정책과 최동원 과장은 AI 윤리 및 신뢰성 확보를 위한 정책 노력을 설명했다. AI 윤리기준 제정 이후 개발안내서 등 실천방안 마련과 윤리정책포럼 운영 등이 대표적이다.

정보통신정책연구원(KISDI) 문정욱 센터장은 AI 윤리기준 준수 여부를 기획자와 운영자들이 스스로 점검할 수 있도록 과기정통부와 KISDI가 개발한 ‘자율점검표’ 내용을 발표했다. 이어 한국정보통신기술협회(TTA) 이강해 단장은 AI 윤리기준 중 기술적으로 구현 가능한 4가지의 핵심요건을 기반으로 개발자가 참고할 수 있는 기술적 요구사항을 담은 ‘개발안내서’ 내용과 공공사회와 의료·자율주행 등 분야별 개발안내서가 어떻게 활용됐는지 발표했다.

네이버, LG AI 연구원, 제네시스랩도 각사 현황을 전했다. 네이버 송대섭 이사는 서울대 AI 정책 이니셔티브(SAPI)와 함께 만든 ‘네이버 AI 윤리준칙’을, LG AI연구원의 김유철 부문장은 ‘LG AI 윤리원칙’을 중심으로 기업의 자율적 노력과 향후 계획에 대해 발표했다.

박 차관은 최근 국회 과학기술정보방송통신위원회 법안심사소위를 통과한 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’ 등을 언급하면서 신뢰 부분을 거듭 강조했다. 특히 이 법률안에는 의료행위와 전기 및 가스공급 등 사람의 생명과 신체 등에 중대한 영향을 미칠 우려가 있는 AI를 고위험 영역으로 지목하고 있다. 다만 업계 일각에서는 글로벌 AI 경쟁이 격화되고 있는 지금, 과도한 규제는 오히려 글로벌 빅테크 기업에게 국내 AI 생태계가 종속되는 결과를 초래할 수 있다는 우려도 나오고 있다.

이에 박 차관은 “G7(주요 7개국)에서 신뢰할 수 있는 AI를 위한 적절한 규칙이 필요하다는 논의가 진행되고 있다”며 “하지만 각 국가들이 채택하는 정책 수단에는 일부 규율 차이가 존재한다”고 전했다. 이어 “정부에서는 AI 한계를 극복하기 위한 연구개발(R&D)에 집중 투자를 해야 할 필요성을 강하게 믿고 있다”고 덧붙였다.
#인공지능 #AI #과기정통부 #박윤규 #2차관