IBM “딥페이크 대응 못하는 플랫폼 기업, 법적 책임 물어야”

한국IBM, 여의도 사옥서 간담회 열어
AI 시대 가짜뉴스·대응 방안 등 논의
“AI는 생산성 향상 위한 도구일 뿐”
개발 막지 말고 사용자·관리자 규제 필요
IBM AI, 개방성·투명성·신뢰성·확장성 갖춰

크리스토퍼 패딜라(Christopher Padilla) IBM 대정부·규제 담당 총괄 부사장

IBM이 딥페이크에 대응하지 못하는 빅테크 플랫폼에 대해 법적 책임을 물어야 한다고 강조했다. 인공지능(AI)을 활용한 가짜뉴스가 소셜미디어에 넘쳐나면서 민주주의를 위협하자 적극적인 대응을 촉구한 것이다.

IBM은 20일 서울 여의도에 있는 한국IBM 사옥에서 간담회를 갖고 이 같이 밝혔다. 크리스토퍼 패딜라(Christopher Padilla) IBM 대정부·규제 담당 총괄 부사장은 “딥페이크 콘텐츠를 게시하는 사람들에 대해 우선적으로 책임을 묻는 것이 반드시 필요하다”면서 “이와 더불어 플랫폼이 문제되는 콘텐츠를 빨리 내리는 것이 중요하다”고 설명했다. 그러면서 그는 “많은 플랫폼 기업이 소송을 염려하고 이를 둘러싼 책임 논란이 있다”면서도 “하지만 플랫폼 역시 법적 책임에서 자유로울 수 없다”고 말했다. 패딜라 총괄 부사장은 신문을 예를 들었다. 그는 “신문이 만약 허위 사진을 쓴다면 불법 책임에서 자유롭지 못할 것”이라면서 “온라인 역시 마찬가지로 불법이다”고 말했다. 그러면서 그는 “AI는 컴퓨터와 같은 도구이자 수단”이라면서 “새로운 도구가 출현하면 새 법규가 필요하고 AI 역시 예외는 될 수 없다”고 말했다.

딥페이크 물결이 거세지면서, 오늘날 전 세계 국가는 AI 전면 허용을 놓고 고민하고 있다. 이에 대해 그는 “몇몇 국가는 AI를 구축하는데 있어 라이선스를 부여하는 방안을 도입했다”면서 “하지만 이는 기술 개발에 적합하지 않다”고 말했다. 그가 제시한 해법은 문제가 있는 영역에서 사용 금지다. 예를 들어 AI 편향성 때문에 특정 인종이 AI 대출 심사에서 불리하다면, 해당 영역에서 AI 사용을 금지하는 방안이다.

아울러 패딜라 총괄 부사장은 ‘문화 상대주의’를 인정했다. 오늘날 몇몇 AI는 특정 국가 종교 기업이 갖고 있는 세계관을 보유하고 있다. AI 모델 학습 과정에서 데이터가 편향됐기 때문이다. 이에 그는 “IBM 모델은 사용자한테 포괄적인 관점을 보여준다”면서 “성별, 연령 등에 따라 다른 결과값을 보여주고 이를 사용자가 택할 수 있도록 하고 있다”고 말했다. 아울러 그는 “IBM은 편향성 문제를 해결하는 솔루션을 제공하고 있다”면서 “AI 기술은 소수 국가나 기업이 독점하는 것은 바람직하지 않다”고 설명했다.

“인류 인구 구성 변곡점, AI 통한 자동화 필요”

폴 버튼(Paul Burton) IBM 아시아태평양 총괄 사장

아울러 IBM은 AI라는 기술 흐름을 막을 수 없다고 강조했다. 이날 폴 버튼(Paul Burton) IBM 아시아태평양 총괄 사장은 “아시아 태평양 뿐 아니라, 전 세계적으로 인구 구성에 변곡점을 맞이하고 있다”면서 “고령화에 숙련된 인구가 줄고 있다”고 말했다. 그러면서 그는 “이는 정부와 기업에 있어서 디지털화에 대한 고민을 안기고 있다”고 진단했다. 인터넷이 태동한 이후 인류는 아날로그 세계에서 디지털 세계로 넘어왔는데, 해당 인력이 부족해 질 것이라는 염려다. 이에 대해 버튼 총괄 사장은 “AI를 통한 자동화가 생산성 유지를 위한 유일한 수단”이라고 강조했다.

현재 IBM은 AI 개발을 놓고 개방성, 투명성, 신뢰성, 확장성 등 네가지를 중점 과제로 삼고 있다. 오픈소스 커뮤니티와 교류해 개방성을 확대하고, 편향성 방지를 위해 맞춤형 데이터를 사용하며, 극단적인 투명성을 통해 소비자 신뢰를 얻고, 기업이 어디서든 사용할 수 있도록 연결성을 갖추겠다는 목표다. 그는 “한국 기업 중 AI 필요 없다고 답한 기업은 6%에 그친다”면서 “이들 역시 조만간 생각이 바뀔 것”이라고 말했다. 그는 “AI는 망치나 드라이버와 같은 도구”라면서 “우리한테 중요한 것은 실제 이 기술을 어떻게 비즈니스 환경에 녹여내는지 여부다”고 말했다.