"AI ‘거버넌스 체계’ 구축돼야 신뢰성·투명성 확보된다" [AI월드 2023]

토크콘서트
하정우 네이버클라우드 AI 이노베이션센터장
오순영 KB국민은행 금융AI센터장
최재식 카이스트 김재철AI대학원 부교수

#1. "내년에는 인공지능(AI) 비서나 AI 에이전트(대리인)가 본격 확대되면서 AI 관련 거버넌스가 더욱 중요해질 것이다."(오순영 KB국민은행 금융AI센터장)

#2. "설명 가능한 AI, 투명한 AI 등 다양한 기술과 표준이 개발되고 있다. 특히 설명 가능한 AI에 있어서는 미국 등 주요국과 우리나라가 어깨를 나란히 하고 있다. 최근 발표된 '디지털 권리장전' 또한 부처 간, 국제적인 기구 간 협업을 통해 구체화하면 보다 발전할 수 있다."(최재식 카이스트 김재철AI대학원 부교수·인이지 대표)

23일 파이낸셜뉴스와 과학기술정보통신부 공동주최로 서울 여의도 콘래드호텔에서 열린 AI월드 2023에서 하정우 네이버클라우드 AI 이노베이션센터장(가운데)이 오순영 KB국민은행 금융AI센터장(왼쪽), 최재식 카이스트 김재철AI대학원 부교수(인이지 대표)와 함께 '초거대 AI의 출현, 세상은 어떻게 변화할 것인가 그리고 우리의 전략'을 주제로 토크콘서트를 진행하고 있다. 사진=서동일 기자

초대규모 AI '하이퍼클로바X'를 연구개발(R&D) 및 상용화하고 있는 네이버클라우드의 하정우 AI이노베이션 센터장은 23일 오순영 KB국민은행 금융AI센터장, 최재식 카이스트 김재철AI대학원 부교수(인이지 대표)와 함께 '초거대 AI의 출현, 세상은 어떻게 변화할 것인가 그리고 우리의 전략'을 주제로 진행된 토크콘서트에서 이 같은 점을 강조했다.

파이낸셜뉴스와 과학기술정보통신부 공동주최로 이날 서울 여의도 콘래드호텔에서 개최된 AI월드 2023은 'AI, 리셋 모멘트(Reset Moment)'를 주제로 진행됐다.

토크콘서트에서 오 센터장은 AI 기술에 대한 금융권의 니즈가 높아지고 있다고 강조했다. 블룸버그, 모건스탠리 등 글로벌 금융사들은 이미 GPT 기술의 중요성을 빠르게 인지하고 있다는 게 그의 설명이다. KB국민은행도 KB AI를 중심으로 각 영역에 특화된 AI 모델을 활용 중이다. 내년엔 생성형 AI 기반 금융 서비스가 보다 적극 확장될 전망이다. 오 센터장은 "빅테크 기업도 금융 쪽에 포커스를 맞추고 있다 보니 다양한 실증(PoC)과 이용 사례가 만들어지고 있다"며 "내년에는 금융사들이 적절한 이용 사례를 발굴한 다음 어떤 성과가 났는지 발표가 나와야 할 것 같다"고 평가했다.

AI가 산업 전반에서 활용성이 높아지는 가운데 AI 거버넌스 체계를 구축하는 것도 주요 과제로 떠오르고 있다. AI의 신뢰성과 투명성을 확보하기 위해서다. 오 센터장은 "영향력이 큰 기술이다 보니 AI 거버넌스 관련 직접적인 투자나 사례들이 확실히 갖춰져야 된다"고 전했다.

실제 AI 생태계를 바라보는 관점은 나라마다 다르다. AI 서비스를 주도하고 있는 미국의 경우 규제를 최소화하기도 하고, 중국은 거대언어모델(LLM)이 정부에 대해 반대하는 말을 하지 못하도록 표준을 만들어서 통제하는 데 집중하고 있다.

최 대표는 "우리나라도 과기정통부에서 기술, 시스템, 윤리 영역 3가지로 나눠 고도화된 기술을 만들고 시스템을 검증하는 체계를 만들고 있다"며 "AI 윤리의 기반이 잘 만들어질 수 있도록 하겠다는 것"이라고 평가했다.

아울러 생성형 AI 산업 생태계 발전을 위해 집중해야 할 부분에 대해 오 센터장은 '규제'와 '데이터'를 꼽았다.

그는 "어떤 규제는 완화가 필요하고 또 다른 규제는 AI 거버넌스처럼 챙길 것은 확실히 챙겨야 한다"며 "AI 학습 활용 데이터도 중요한데 금융권은 금융뿐 아니라 비금융권 데이터가 결합됐을 때 새로운 인사이트가 나오기 때문에 비금융 데이터도 많이 활용될 수 있기를 바란다"고 말했다.

하 센터장은 토크콘서트에서 글로벌 AI 생태계에서 국내 AI 개발사들이 상당한 경쟁력을 확보했다고 평가했다. 그는 "미국과 중국을 빼고 나면 초거대 및 생성형 AI를 제대로 하는 나라가 사실상 우리나라 말고는 없다"면서도 "마라톤으로 따지면 시작은 3등으로 끊었지만 지금 1~2㎞밖에 안 온 것이다. 남은 40㎞가량을 어떻게 잘 갈지는 우리가 풀어야 할 숙제고 성과를 만드는 것이 필요하다"고 조언했다.

특별취재팀 김미희 팀장 김만기 김동호 구자윤 최종근 김준석 김준혁 권준호 임수빈 홍요은 기자

soup@fnnews.com 임수빈 기자