브레임 IBM 부사장 “AI 혜택과 위험성 모두 인지해야…기업은 자체 노력 필요”

“인공지능(AI)이 주는 혜택뿐만 아니라 위험성도 함께 인지해야 합니다. 정부 차원의 균형적 정책은 물론 기업 차원의 윤리위원회 운영 등 자체적 노력도 필요합니다.”

스티븐 브레임 IBM 아시아태평양(APAC) 공공정책 총괄 부사장은 지난 22일 정보산업연합회가 주최한 '제 16회 디지털 리더십 포럼 조찬강연회'에서 이같이 밝혔다.

그는 'AI 규제에 대한 글로벌 대응 방식'을 주제로 한 강연에서 미국과 유럽연합(EU), 일본 등 각국이 생성형 AI 기술의 가능성과 위험성을 모두 인지하고 있다고 밝혔다.

조 바이든 미국 대통령은 딥페이크 등 AI 규제 관련 행정명령에 서명했다. EU에서는 세계 최초로 AI 규제법이 유럽 의회를 통과했다. 한국은 현재 'AI 기본법'이 국회 과학기술정보방송통신위원회(과방위)에 계류 중이다.

브레임 부사장은 “AI는 복잡한 만큼 위험성에 기반을 둔 균형적 시각을 가져야 한다”며 “글로벌 규제에 앞서 국가 간 긴밀한 정보 교류와 협력이 중요하다”고 덧붙였다.

브레임 부사장은 “AI 알고리즘에 대한 직접 규제나 인허가 방식은 바람직하지 않다”며 “인허가 방식은 대기업에 유리한 방식으로 가게 할 것이며, AI로 인한 혁신을 저해할 것”이라고 강조했다.

IBM은 일찌감치 'AI 윤리위원회(AI Ethics Board)'를 설립했다. 딥페이크와 같은 AI 오용을 포함해 AI 발전 따른 잠재 위험에 선제 대응하기 위한 노력을 기울이고 있다.

브레임 부사장은 “'AI의 원칙은 신뢰와 투명성'이라는 보편적 가치 아래 IBM은 프로젝트나 제품 개발에서 AI 기술의 오용 문제를 검토한다”며 “법무, 정책, 개발, 서비스 분야 등에서 다양한 사내 구성원이 참여하고 있다”고 설명했다.

IBM AI 윤리위원회는 실제 제품 개발이나 판매에도 영향을 미친다. 얼마 전 동남아시아 기업에서 카메라와 AI 소프트웨어를 연계한 제품 판매 요청이 있었지만 얼굴인식 프라이버시를 비롯해 보안, 인권 문제 등이 제기돼 사업 추진이 중단하기도 했다.

브레임 부사장은 기업이나 개발자, 크리에이터(AI 창작자) 모두 책임의식을 갖고 AI를 활용해야 한다고 밝혔다.

그는 “AI 시스템의 투명성과 설명가능성을 높이는 기술과 방법을 연구·적용해야 한다”며 “AI 개발자, 공급자, 플랫폼까지 잘못된 콘텐츠 생성·확산 가능성에 대한 책임 문제를 고려해야 한다”고 강조했다.

김명희 기자 noprint@etnews.com