AI ‘혁신과 안전’ 사이 균형을 이루려면···‘AI글로벌포럼’ 논의

한덕수 국무총리가 22일 오전 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘AI 글로벌 포럼 개회식’ 에서 축사를 하고 있다. 과학기술정보통신부 제공

“인공지능(AI)으로부터 다양한 기회를 구축하는 데 있어 핵심은 ‘기술’과 ‘애플리케이션(응용 서비스)’를 구분하는 것입니다. 애플리케이션은 규제하되, 기술은 규제하지 않아야만 혁신을 촉진할 수 있습니다.”

22일 과학기술정보통신부 주최 ‘AI 글로벌포럼’ 개회식이 열린 서울 한국과학기술연구원 존슨 강당 무대에 ‘AI 4대 천왕’으로 꼽히는 앤드류 응 미국 스탠퍼드대 교수가 올랐다. 응 교수는 전날 한국 음악을 듣고 영감을 얻어 ‘AI 글로벌포럼송’을 만들었다고 했다. 애니메이션 주제가 같은 노래가 흘러나오자 좌중에 웃음이 번졌다. 누구나 손쉽게 음악을 만들 수 있을 정도로 생성형 AI가 다양한 ‘기회’를 만들고 있다는 것을 보여줬지만, 당장 저작권 침해 등 AI ‘안전성’에 대한 여러 우려도 나올 수밖에 없다.

응 교수는 AI 규제의 방향을 ‘전기모터’를 예로 들어 설명했다. 전기모터 기술을 활용한 전기차의 안전성을 높이려는 고민을 해야지, 전기모터 자체의 안전성에 집중하면 기술 발전이 더뎌질 수밖에 없다는 것이다. 그는 “애플리케이션 규제를 통해 위험을 줄이되, 혁신은 느려지지 않도록 하는 정부의 역할이 중요하다”고 밝혔다. 그러면서 투명한 AI 기술을 위한 ‘오픈소스’의 중요성을 강조하고, 기후위기와 같은 전 지구적 이슈 대응에서도 AI 기술이 해법을 찾는 데 기여할 수 있을 것으로 내다봤다.

산업계 차원의 AI 논의를 이어간 이날 포럼에선 오픈AI·구글·마이크로소프트·앤트로픽·IBM·세일즈포스·코히어 등 해외 기업과 네이버·카카오·SK텔레콤·KT·LG AI 연구원·삼성전자 등 국내 기업 총 14곳이 안전한 AI 사용을 위한 ‘서울 기업 서약’을 발표했다.

이종호 과기정통부 장관은 “AI가 생성한 콘텐츠를 워터마크로 식별 조치하고 국제표준 개발을 위한 협력을 강화할 것, AI 지속 가능한 발전과 혁신을 위해 시스템을 개발하는 데 투자하고 전문 인력을 육성할 것, 사회적 취약 계층을 위한 AI 서비스를 출시하고 다양성과 포용성을 장려할 것을 약속했다”고 밝혔다.

안전한 AI 사용을 위한 ‘서울 기업 서약’에 참여한 주요 AI 관련 기업 관계자들이 22일 ‘AI 글로벌 포럼 개회식’에서 박수를 치고 있다. 과학기술정보통신부 제공

국내외 주요 IT 기업과 국제기구 관계자들이 참여한 포럼은 오전 고위급 라운드 테이블과 오후 전문가 세션으로 나뉘어 열렸다. 이날 전문가들은 AI 윤리와 디지털 권리 보장에 대한 구체적 논의를 이어갔다. 기업 측 참석자들은 AI 혁신과 안전 간의 균형을, 국제기구 참석자들은 책임있는 AI의 필요성을 강조했다.

디지털 포용성을 중요 주제로 다룬 이번 포럼에서 ‘젠더 격차’가 다뤄지지 않은 점을 지적하는 목소리도 있었다. 아만다 마냐메 보편적디지털권리연합 고문은 “모든 계층의 다양성 보호를 위해선 기술을 통한 젠더 편향성 철폐도 중요하다”고 지적하면서, 글로벌 빅테크들이 여러 국가에서 현지 법을 피하는 것을 규제하기 위한 국제적 협약의 필요성도 강조했다.

강도현 과기정통부 2차관은 “많은 국가들과 국제기관들이 새로운 규제를 시도하고 있는데 아직 규제 방향이 명확하지 않은 상태여서 표준화된 합의에 도달하는 것이 중요한 상황”이라며 “과거 우려했던 정보 격차보다 AI 격차는 더욱 크게 될 것이기 때문에 국제적 협력이 필요하다”고 말했다.

배문규 기자 sobbell@kyunghyang.com