[2024 표준포럼] “AI 안전성 관리에도 표준 적용… 기업도 책임 있는 서비스 개발”

함상범 마이크로소프트(MS) 최고표준임원·전무가 “인공지능(AI)의 안전성 관리 체계에도 ‘표준’이 적용되고 있다”며 “기업들은 이런 표준이 갖고 있는 의미를 통해 책임 있는 AI 서비스를 개발하고 사용할 수 있는 환경을 만들어야 한다”고 말했다.

함 전무는 21일 서울 소공동 웨스틴 조선호텔에서 열린 ‘2024 첨단산업 표준 리더십 포럼 총회’에서 ‘인공지능 안전성과 표준’이란 제목의 발제를 통해 이같이 말했다.

함상범 마이크로소프트(MS) 최고표준임원·전무가 21일 서울 소공동 웨스틴조선호텔에서 열린 '2024 첨단산업 표준 리더십 포럼 총회'에서 강연을 진행하고 있다. /조선비즈DB

함 전무는 알파고와 챗GPT 등의 출현을 상징적 사건으로 들면서 “생성형 AI가 최근 2년 내 보여준 성과를 통해 인류에 앞으로 더 많은 기회와 동력을 제공해줄 것으로 기대하고 있다”고 말했다.

그는 이미 생성형 AI가 전세계 공공 분야에서 활발히 쓰이고 있다고 설명했다. 그는 “힌디어·영어 외에도 100여가지 언어를 사용 중인 인도에서는 언어 소통의 어려움이 심각한 문제로 존재하는데, 인도 정부는 번역기 역할을 하는 챗봇을 개발해 공공 서비스에 적용하고 있다”며 “아마존 열대 우림을 끼고 있는 콜롬비아·브라질에선 불법 수렵에 따른 생태계 변화를 감지하기 위한 관련 기술을 개발 중”이라고 했다.

그러면서 “하지만 사실이 아닌 사실을 믿게 만들거나, 특정 인종·종교에 편향된 정보를 제공하는 등 생성형 AI에 대한 여러 우려사항과 문제점도 함께 논의되고 있다”며 “문제점이 확인되긴 했지만, AI가 여전히 인간의 삶을 이롭게 한다면 ‘안전한 방향’으로 이를 사용하도록 하는 가드레일을 만들어야 한다”고 했다.

그는 이런 기술의 ‘안전성’을 담보하는 것에 ‘표준’이 중요한 역할을 한다고 강조했다. 유럽연합(EU)의 인공지능법이나 영국의 AI 안전 서밋(AI Safety Summit) 등 각국의 이행 상황을 예로 들었다.

함 전무는 “특정 잘못된 학습 내용을 소거시키거나, 지식재산권·개인정보 문제가 생겨 다시 학습을 훈련시킬 때 큰 비용과 시간이 소요된다”면서 “이를 위해 나라간 협력을 통해 기술개발이 이뤄지고 있지만, 서비스를 제공·사용하는 기업들도 충분히 책임 있는 역할을 해야 한다”고 말했다.

그는 “정보통신기술이 너무나 빠르게 변화하는 지금 이에 대처할 유연하고 기민한 정책·전략이 요구되며 여기엔 표준이 필요하다”며 “공적표준화 기구 이외에도 사실표준화(De Facto Standard) 기구, 그리고 표준화 기구는 아니지만 오픈소스 커뮤니티 또한 이런 전체적인 책임감 있는 인공지능, 인공지능의 안정성을 확보하는 데 있어서 서로 다른 역할을 할 수 있을 것”이라고 했다.

올해 처음 열린 ‘첨단산업 표준 리더십 포럼 총회’는 미래 첨단산업의 국제 표준 전략을 공론화하기 위해 조선비즈와 산업통상자원부 국가기술표준원이 공동 주최한 행사다.

- Copyright ⓒ 조선비즈 & Chosun.com -