[지금만나] "AI 통제권은 안 돼…거버넌스 구축해야"

생성형 AI, 로보어드바이저보다 정교한 자산관리
AI 환각 '할루시네이션' 경고…데이터 품질 중요
오순영 금융AI센터장 "사용 목적부터 정해야"

[아이뉴스24 박은경 기자]매일 무수히 많은 정보가 쏟아집니다. 정보 유통이 빛의 속도로 빨라져 늘 새로운 얘기에 둘러싸입니다. 모두 사람이 하는 일입니다만, 그 안에 어떤 고민과 혜안이 녹아있는지는 제대로 알지 못하는 경우도 많습니다. 그래서 아이뉴스24가 시작합니다. 화제의 인물을 찾아 직접 묻고, 듣겠습니다. 지금 만나러 갑니다. [편집자]

"생성용 AI 기술을 금융권에 적용하기엔 아직 해결해야 할 문제가 많습니다. 완성된 기술이 아니고 진화하고 있어요. 관련 기술을 안정적으로 적용하기 위한 AI 거버넌스 기반을 잘 닦아야 합니다."

오순영 KB국민은행 금융AI센터장은 AI 거버넌스의 중요성을 강조했다. AI가 주는 편리한 만큼 잠재된 위험도 크다. 국민은행이 금융권 최초로 AI 윤리를 제정한 이유다. 오 센터장을 만나 금융권의 AI가 나아갈 방향에 관해 얘기를 나눴다.

오순영 KB국민은행 금융AI센터장(상무)가 지난달 22일 오후 서울 여의도 KB국민은행 여의도 본점에서 기자와 만나 "AI 거버넌스가 중요하다"고 강조했다. [사진=곽영래 기자]

생성형 AI는 질문을 이해하고 질문에 맞는 콘텐츠를 생성해 답변한다는 점에서 기존의 AI와 다르다. 금융권에서 쓰는 AI 기반 서비스들은 대부분 정형 데이터를 활용하고 있다. 비정형데이터도 만족스러운 수준은 아니다.

실제로 고객에게 필요한 건 훨씬 더 방대하다. 다양한 금융 콘텐츠부터 소셜미디어 실시간 정보 데이터까지 활용해야 고객의 입맛에 맞는 답변을 얻을 수 있다. 오 센터장은 "생성형 AI로 오면서 실제로 사람이 서비스를 제공하는 것 같은 수준의 가능성을 봤어요. 과거 로보어드바이저보다 정교한 자산관리가 가능해질 것"이라고 말했다.

하지만 오 센터장은 생성형 AI의 완결성엔 시간이 더 필요하다고 말했다. 가장 큰 문제는 AI의 환각 '할루시네이션(hallucination)'이다. 사람도 간혹 어디서 무엇을 했는지 착각하듯이, AI도 착각한다. 대표적인 사례가 챗 GPT의 '세종대왕이 맥북 프로를 던진 사건'이다. 실제로는 없는 사건이지만, 챗 GPT는 조선왕조실록에 기록된 실제 사례라고 답했다. 데이터가 잘못 섞여서 만들어 낸 오답이다.

"사람이 좋은 콘텐츠의 교재로 학습하고, 그 결과를 통해 정답을 찾아가듯이 AI도 비슷한 방식으로 학습이 필요해요. 이때 무엇보다 중요한 것이 AI 윤리 문제입니다." AI가 특정 영역에 편중된 학습을 통해 위험한 결과를 가져오는 사례도 적지 않다.

실제 2015년 아마존의 AI 채용시스템은 남성 직원이 불균형적으로 많은 회사였고, 이력서에 '여성 체스 동아리', '여성 대학'과 같이 '여성'이 언급된 경우 감점되도록 동작했고, 결국 2018년 아마존은 AI 채용시스템을 폐기했다. 애플카드도 같은 조건인 경우에 남자가 여자보다 10배 대출 한도를 받는다며 오판하기도 했다. 그는 "우리가 AI에 익숙해지면 어느 순간 통제권이 넘어갈 수도 있는데, 이는 상당한 문제가 될 것"이라고 경고했다.

이런 문제로 국민은행은 AI 거버넌스를 강조하고 있다. 재작년 AI 윤리를 제정했고, 올해에는 AI 거버넌스 전문 조직을 만들었다. 빅테크들도 AI 거버넌스 정립에 적극적이다. 그는 "AI 윤리위원회가 있어야 하고 AI 서비스를 어떻게 검증해야 하는지 등 AI 관련 규정과 지침이 필요하다"라고 했다.

금융권에서 AI 거버넌스가 유독 중요한 이유는 고객의 자산을 지켜야 해서다. 내부데이터를 활용하는 것에도 신중하다. 이런 이유로 금융권에선 빠른 속도로 AI 서비스를 출시하기엔 분명히 한계가 있다. 오 센터장은 "고객의 돈을 다루는 데 보수적일 수밖에 없다"며 "IT 회사는 자금이 확보되는 대로 시작한다면 금융회사는 많은 절차를 거친다"라고 설명했다.

생성형 AI를 도입하는 데 있어 핵심은 데이터의 품질이다. 그는 "목적을 정하고 흩어진 내부 데이터를 어떻게 조합할지 고민해야 해요. 데이터를 모으는 것보다 어떤 AI 서비스를 만들고자 하는지 목적 정의가 우선되고, 데이터를 어떻게 준비할지 결정하는 게 순서"라고 제언했다.

데이터를 학습시키는 것도 중요하다. 오 센터장은 "데이터를 금융권에 맞게 질문과 답변을 학습시킨 다음에 써야 해요. 데이터를 잘 학습해야 정보의 오류를 줄일 수가 있다"라고 귀띔했다.

국민은행은 이미 KB 및 금융 데이터를 활용하여 KB-GPT를 만들었다. 지난해 말까지 일부 직원들을 대상으로 한시적으로 운영했는데 직원들 사이에서 반응도 좋았다. 그는 "KB-GPT는 금융 분야에 맞는 금융 데이터 및 KB만의 데이터를 학습해 AI 성능이 좋아지는지 확인하는 과정에 있어요." 이미 버전 1과 2로 1차 검증했고, 올해는 버전 3도 준비 중이다.

오 센터장은 "올해 목표는 어떤 업무에 AI를 효과적으로 적용할 수 있을지 타깃 업무를 정하고, 생성형 AI 적용 시 효과를 정량적인 지표로 증명하는 것"이라고 강조했다.

/박은경 기자(mylife1440@inews24.com)