[기고] AI 윤리, 기업도 '발등의 불'

"내가 언제 저런 말을 했지?" 조 바이든 미국 대통령이 생성형 인공지능(AI) 기술로 합성된 본인 영상을 보고 남긴 농담이었다. 생성형 AI 기술이 선풍적 인기를 끌면서 새로운 차원의 혁신을 이끌 것으로 예견되고 있지만 개인정보나 허위정보 유출 등 안정성 문제, 저작권 침해 등과 같은 이슈 또한 수면 위로 부상하고 있다. 바이든 대통령뿐 아니라 최근 일본 총리도 AI로 조작된 동영상으로 곤욕을 치렀다. 이런 부적절한 사용 사례가 증가함에 따라 윤리적·법적 문제에 대응할 수 있는 AI 규제와 윤리의 필요성 또한 대두되고 있다.

올해 국회입법조사처가 발표한 '인공지능의 FATE(공정성·책임성·투명성·윤리의식)를 위한 입법 논의 동향과 시사점' 보고서에 따르면 AI 관련 사고·논쟁 수는 2012년 10건에서 2021년 260건으로 26배 증가한 것으로 나타났다. 또 전 세계 전문가 2300명을 대상으로 한 세계 정보시스템감사통제협회(ISACA) 조사에서는 생성형 AI 사용이 증가하고 있지만 많은 기업이 대응 정책이나 효과적인 위험관리 방안을 마련하지 않은 것으로 드러났다.

한국을 포함한 세계 각국이 이에 대응하는 다양한 정책을 내놓고 있는 가운데 최근 영국에서 열린 제1회 'AI 안전 정상회의'에서는 기업뿐 아니라 정부와 외부 전문기관이 공동으로 AI 위험성에 대응한다는 '블레츨리 선언'이 발표됐다. 다만 정작 'AI 윤리'를 어떻게 실행해야 하는지, AI 도입을 넘어 안전한 활용에 이르는 구체적인 해결책을 제공하는 기업은 드물다. 이를 해결하기 위해 AI 기업들은 고객이 직접 선별하고 학습시킨 그 기업 고유의 데이터를 사용해 신뢰성·정확성을 제공할 수 있도록 지원하는 것이 필요하다. IBM과 같은 경우 기업용 AI 서비스인 왓슨x 솔루션 중 왓슨x.거버넌스를 통해 각종 팩트와 워크플로가 비즈니스 표준을 준수하도록 자동화하는 등 위기 관리와 규정 준수 기능을 제공하고 있다.

IBM을 비롯한 선도적인 AI 기술 기업들과 함께한 이번 행정명령으로 AI 기반 모델의 안전·위험 관리에 대한 새로운 혁신과 연구가 진행될 것으로 기대된다. 이뿐 아니라 보다 강력해진 오픈소스 생태계의 크리에이터, 개발자, 학자 등의 협력으로 AI 안전의 보다 빠른 발전 역시도 예상된다. 중요한 것은 AI 기술을 안전하게 사용할 수 있는 조직과 직원들의 역량이다. 아무리 많은 AI 정책과 규제가 세워지더라도 기술을 다루는 것은 '인간'이라는 사실을 잊지 말아야 한다. AI 결과물이 도덕적으로, 윤리적으로 적합한지 판단할 수 있는 결정권을 갖고 이에 대해 미리 대응할 수 있는 것은 AI가 아닌 인간이기 때문이다. 결국 AI 윤리는 '인간 윤리'이다.

신뢰할 수 있는 AI를 제공하기 위해서 기업 최고경영자(CEO)는 조직 전반에 걸쳐 투명성과 책임성을 제공하는 정책과 프로세스를 구현해 기술이 어떤 방식으로 사용되는지 이해하고, 데이터 세트의 출처를 명확하게 밝혀야 한다. 무엇보다 AI 윤리에 대한 교육이 기술 교육만큼 우선돼야 하며 조직의 모든 일원이 AI에 대한 책임감을 가져야 한다. AI 기술이 빠르게 진화하는 지금, 이를 잘 관리할 수 있는 기업과 인재가 그 어느 때보다 절실해지고 있다.

[이은주 한국IBM 사장]