"믿을 수 있는 AI가 살아남는다"…윤리가 경쟁력

과기정통부, 인공지능 윤리·신뢰성 확보 현장간담회 개최

과학기술정보통신부는 서울 명동 제네시스랩에서 '인공지능 윤리·신뢰성 강화를 위한 현장간담회'를 11일 개최했다. 2023.05.11 ⓒ 뉴스1 김승준 기자

(서울=뉴스1) 김승준 기자 = 믿을 수 있고 윤리적인 인공지능(AI)이 서비스 경쟁력의 한 요소가 될 수 있다는 진단이 나왔다.

과학기술정보통신부는 서울 명동 제네시스랩에서 '인공지능 윤리·신뢰성 강화를 위한 현장간담회'를 11일 개최했다.

제네시스랩은 AI 영상 면접 솔루션을 개발해 온 기업이다. 이영복 제네시스랩 대표는 사업을 펼치며 겪은 경험담을 공유했다.

이 대표는 "(AI 면접은) 기업과 조직에서는 공정성 확보를 위해 쓴다. 기업에서 AI 면접을 도입했지만 어떤 알고리즘에 의해 작동됐는지 검토가 안 되다 보니까 사회와 취업 준비생들이 불안해하고 있다"며 "저희보다 큰 기업의 AI를 써본 기관에서 AI라고 썼더니 신뢰할 수 없었다며 (저희들의) AI를 쓰지 않겠다는 사례도 있었다"고 소개했다.

이어 "한국정보통신기술협회(TTA)에서 신뢰할 수 있는 AI 개발 가이드라인을 만들었다. 이것을 도입해서 검증까지 받아 가며 (개발을) 진행했다"며 " 개발 가이드 라인을 따른 덕분에 많은 고객사 및 군에서 (저희 제품을) 쓰고 있다. 어떻게 데이터를 모았는 지, 성능은 어떻게 타당하게 검증할지가 시장의 목소리다"라고 강조했다.

TTA의 AI개발 가이드라인은 인공지능 윤리기준 중 다양성 존중, 책임성, 안전성, 투명성 등을 기반으로 개발자가 참고할 수 있는 기술적 요건이 담겼다. 또 공공사회·의료·자율주행 등 분야별로도 만들어졌다.

이날 간담회에서는 네이버, LG AI연구원, 카카오, KT, 써로마인드, 심심이, 업스테이지, 스캐터랩의 관계자가 참여해 AI의 윤리·신뢰성 확보를 위한 노력을 소개했다.

이활석 업스테이지 최고기술책임자(CTO)는 "저희 회사에서는 서비스 기획자 차원에서 노력하고 있다. 기술로 서비스를 만드는 기획을 할 때 인공지능의 위험성에 대해서 감안해서 생각하고 있다"며 "마지막 품질 평가 단계에서 처음에 고려한 위험성이 나오는지 봐야 한다고 생각한다. 이를 위해서는 기획자가 기술을 잘 알아야해서 AI교육을 많이 하고 있다"고 소개했다.

과거 이루다 1.0, 테이와 같은 대화형 AI 서비스는 출시 후 윤리 문제로 중단되기도 했다. 챗GPT를 개발한 오픈AI도 GPT-4를 내놓으며 윤리성 강화를 개선점의 일부로 소개하기도 했다.

박윤규 과기정통부 제2차관은 "신뢰할 수 있는 AI는 기업의 경쟁력이 될 수 있다. 신뢰할 수 있는 AI를 구현하는 회사야말로 소비자들의 선택을 받고 성장하지 않겠냐고 생각했다"며 "인공지능 윤리·신뢰성 확보와 관련하여 더욱더 많은 노력을 기울일 것"이라고 밝혔다.

박윤규 과학기술정보통신부 제2차관 2023.05.11 ⓒ 뉴스1 김승준 기자

seungjun241@news1.kr