'이루다 AI 논란' 규제로 이어지면 안돼..정부, 민간 중심 AI 자율점검표 '천명' [IT돋보기]

23일, '인공지능 신뢰성 제고를 위한 공개 세미나' 개최

[아이뉴스24 박진영 기자] 정부가 현실과 동떨어지지 않도록 민간을 중심으로 한 인공지능(AI) 자율점검표를 연말 내 완성한다.

이루다 AI 챗봇 사태로 불거진 AI 윤리 정립이 필요하기는 하나 자칫 규제로 이어질 수 있다는 업계 우려에 보다 깊이 있는 논의를 지속하겠다는 의도다.

23일 열린 '인공지능 신뢰성 제고를 위한 공개 세미나'에 참여한 전문가들이 '인공지능 윤리 자율점검표'를 주제로 토론하고 있다. [사진=박진영 기자]

과학기술정보통신부(장관 임혜숙, 이하 과기정통부)는 23일 정보통신정책연구원(원장 권호열), 한국정보통신기술협회(회장 최영해)와 함께 '인공지능 신뢰성 제고를 위한 공개 세미나'를 개최했다.

이번 세미나는 지난 5월 발표한 '신뢰할 수 있는 인공지능 실현전략'의 후속조치로 준비 중인 ▲인공지능 윤리 자율점검표 ▲인공지능 개발 안내서(가이드북) ▲인공지능 윤리 교육 총론 초안에 대해 각 계의 의견을 수렴하기 위해 마련됐다.

이 가운데 올해 초 혐오발언 및 편향성으로 논란이 된 AI 챗봇 이루다 사태로 인해 AI윤리 정립의 필요성이 대두하고 있다.

특히 '인공지능 윤리 자율점검표'는 지난해 12월 발표한 '인공지능 윤리기준'의 3대 원칙 및 10대 핵심 요건을 구체화한 것이다.

구체적으로 ▲인간 존엄성 ▲사회의 공공선 ▲기술의 합목적성 등 3대 원칙 하에 ▲인권 보장 ▲프라이버시 보호 ▲다양성 존중 ▲침해금지 ▲공공성 ▲연대성 ▲데이터 관리 ▲책임성 ▲안전성 ▲투명성 등 10대 핵심요건을 담았다.

자율점검표는 기획자, 관리자 등 인공지능 제품·서비스의 기획 과정에 참여하는 주체가 인공지능 윤리 항목들을 자율적으로 확인할 수 있도록 점검 항목을 제공한다.

아울러 학계, 기업, 시민단체 전문가 등을 대상으로 폭넓은 의견을 수렴해 자율점검표 초안이 마련됐으며, 현장에서의 활용도를 높이기 위해 실제 사례도 함께 제시한다. 정부는 올해 연말까지 자율점검표를 마련하고, 지속적으로 현장의 의견을 수렴해 보완·수정할 계획이다.

박윤규 과기정통부 정보통신정책실장은 "AI 신뢰성 확보를 위한 개발 가이드라인 및 자율점검표 등은 민간 중심의 자율 규제를 우선 원칙으로 확립할 것"이라면서, "AI기술 발전을 위해 정책방향이 현실과 동떨어지지 않도록 꾸준히 개선해 나갈 것"이라고 강조했다.

이날 세미나에서는 자율점검표의 실효성 확립은 물론, 상대적으로 인프라가 부족한 스타트업들이 점검표를 활용할 수 있도록 환경이 마련되야 한다는 의견이 제시됐다.

최성진 코리아스타트업포럼 대표는 "AI자율점검표가 실제 AI산업에서 잘 활용될 수 있도록 살아있는 점검표가 되길 바란다"면서, "특히, 기업 상황에 따라 맞춤화할 수 있도록 잘하는 기업들의 베스트 사례를 최대한 많이 제시하는 것이 중요하다"고 밝혔다.

이어 "인공지능 윤리 문제는 현재 수준에서는 과도한 우려"라면서, "특정 알고리즘이나 데이터가 사회적 이슈를 일으킬 수는 있으나, 현재와 같은 과도한 우려가 법적 규제로 이어질 수 있다. 그보다는 AI기술이 산업적 측면에서 충분히 성숙하도록 지원하는 논의가 보다 활발히 이뤄지길 바란다"고 덧붙였다.

아울러 노태영 김&장 변호사는 "스타트업이나 벤처기업의 경우, 기술을 설계하는 과정에서 윤리기준이나 점검표를 미리 인지하고 충분히 고려하기 힘들 수 있다"면서, "자율규범이기 때문에, 기업들의 자율성에 실천력을 높일 수 있도록 동기를 제공하는 노력이 필요하다"고 밝혔다.

이와 함께 개발자·제공자 측면에서 AI윤리 논의에 집중하고 있는 상황에서 나아가 이용자들의 윤리의식 제고에도 힘써야 한다는 의견도 나왔다.

윤명 소비자시민모임 사무총장은 "10대 핵심요건 중 투명성 부분과 관련, 이용자들에게 알고리즘을 투명하게 공개하고 알려야 한다는 내용을 담고 있지만 현재 이용자들이 그러한 정보를 적극적으로 활용할 수 있을 지는 의문"이라면서, "실제 기술을 이용활용할 소비자들의 윤리기준 확립을 위해 이용자 관점에서 AI윤리 가이드라인도 활발히 논의될 필요가 있다"고 밝혔다.

이날 발표를 맡은 문아람 정보통신정책연구원 박사는 "규범력이 없는 자율점검표가 윤리실천을 담보할 수 있을지와 같은 지적에 대해서는 향후 관련 구체적 사례들을 발굴·제공하고, 업계에서 어떻게 활용할 지를 지속적으로 고민해 나갈 것"이라고 밝혔다.

이어 "윤리기준 정립은 기술 발전을 장려하기 위한 목적"이라면서, "기술의 사회적 수용성을 높이기 위한 것으로, 기업에 강제력을 부여하는 것이 아니라 기업 자율적으로 점검표를 활용할 수 있길 바란다"고 강조했다.

/박진영 기자(sunlight@inews24.com)

▶네이버 채널에서 '아이뉴스24'를 구독해주세요.

▶재밌는 아이뉴스TV 영상보기▶아이뉴스24 바로가기