[매경이코노미스트] AI 시대의 기업 거버넌스

챗GPT 등 AI 활용 늘어나며
정보 유출위험에 사용 막기도
산업 생산성 향상시키려면
궤적 활용·보안 방침 세워
기업과 규제당국 모두 대비를

올해 금융시장에서 많은 투자자가 생각지 못한 기회는 바로 AI였다. 이 중 2022년 말 시작된 오픈AI의 챗GPT는 대화에서 빠지지 않는 핫토픽이었다. 오죽하면 대화 중에 챗GPT를 입에 올리면 벌금을 물린다는 우스갯소리가 나올 정도였다. 챗GPT는 역사상 가장 짧은 시간에 가장 많이 사용된 소프트웨어가 됐다.

지난 3월 챗GPT의 데이터가 유출되는 사고로 인해 유료 사용자 1% 정도의 챗GPT 사용 정보가 유출됐다. 기본적으로 사용자가 쓰는 질문과 코멘트를 저장해 답을 만들어내는 원리를 가졌기 때문에 만약 사용자가 기밀에 해당하는 내용을 쓰게 된다면 이는 고스란히 저장되고 다른 사용자에게 유출될 수 있는 위험을 가진다. 더 나아가 사용자가 한번 내용을 쓰고 나면 이는 챗봇 라이브러리에 들어가게 되고, 더 이상 사용자가 어떻게 할 수 있는 방법은 없다.

이런 이유 때문에 JP모건 등 일부 회사는 직원들의 챗GPT 사용을 금지했다. 외국에서만 일어난 일은 아니다. 올해 3월 국내 언론은 삼성전자 반도체 사업장에서 챗GPT 허용 후 정보 유출 사고에 대해 보도했고, 일부 국내 회사 역시 직원들의 챗GPT 사용을 금지했다.

챗GPT를 만든 오픈AI처럼 AI를 이용한 원천기술과 애플리케이션을 만들지 않는다면, 이를 이용해 다른 이노베이션을 만들어내야 한다. 어떻게 생각하면 오리지널을 창조하지 않은 사람들이 오리지널을 창조해낸 사람들보다 훨씬 더 많은 혜택을 받을 수 있는 방법이기도 하다. 그렇다면 오리지널의 예로 들었던 챗GPT 사용을 금지하는 결정은 이상적이지 않은 해결책이다.

최근에 세계에서 가장 큰 국부펀드인 NBIM의 CEO 니콜라이 탕엔은 오픈AI의 CEO 샘 올트먼을 인터뷰했고 이는 유튜브에서 찾아볼 수 있다. 여기서 탕엔은 NBIM 직원들에게 앞으로 12개월 안에 챗GPT를 포함한 AI 도구를 이용해 10%의 생산성 향상을 이루라는 지시를 내렸다고 언급했고, 이에 올트먼은 20%의 생산성 향상을 이룰 수 있다고 단언했다. 10%, 20%의 생산성 향상은 어떤 데이터를 뒤져봐도 듣도 보도 못했던 어쩌면 말도 안 되는 숫자다. 과연 성과를 이룰 수 있을까에 대한 논의는 하지 말도록 하자. 논점은 이런 도구를 이용해 산업 전체가 생산성 향상을 가져와야만 한다는 데 있다.

이제 여기서 앞서 언급한 데이터 유출 등 기업 생존을 위협할 수 있는 위험 요소를 생각하지 않을 수 없다. 사용 금지는 옵션이 아니다. 첫 번째 가장 많이 보이는 대안은 프라이빗 챗GPT를 사용하는 방법이다. 프라이빗 챗GPT는 제한된 환경이나 비공개 환경에서 접근을 제한하고, 사용자를 지정하는 등의 방법을 써 보안을 향상한다.

하지만 이런 인프라를 갖출 수 없는 기업 역시 많이 있을 수 있고 이들이 그저 AI 툴의 사용을 무조건 금지할 수는 없다. 회사 내에는 정보보안법과 관련된 방침이 준비돼 있어야 한다. 여기에는 기밀에 해당하는 내용은 절대로 쓸 수 없고, 이를 어겼을 때는 적절한 조치가 이뤄질 수 있어야 한다. 물론 이 과정에는 기밀에 해당하고 유출되지 않아야 하는 정보에 대한 회사 내의 분류와 규칙 등이 정해져야 하고, 모든 내용을 직원들에게 교육시켜야 한다. 더 나아가 일하는 프로세스에서 어디에 AI 도움을 받았는지, 어떻게 받았고 왜 그런 결과가 나왔는지 설명할 수 있는 메커니즘 또는 프로세스를 정립하고 사용 시 표기해야 하는 정책 역시 필요하다.

이러한 과정들은 기업 거버넌스의 중요한 부분이 돼야 하고, 규제당국도 이러한 변화에 맞춰 나가야 할 것이다.

[영주 닐슨 성균관대 SKK GSB 교수]