[생생뉴스] AI 속도 조절 논란 속 AI 국제대회 잇단 쾌거…AI 개발 방향은?

[KBS 대전]

■ 프로그램명 : KBS대전 생생뉴스
■ 방송시간: 오전 8시 30분(1Radio 94.7 MHz)
■ 진행 : 조영호 기자
■ 대담 : 김상원 박사 ETRI AI인프라연구실
■ 구성 : 장덕선 작가
■ 기술 : 송환 감독
====================================
■ 유튜브 영상 바로 가기
https://www.youtube.com/watch?v=ghebd29I3BI

▶조영호 기자 (이하 조영호)
AI 인공지능 기술이 빠른 속도로 우리 삶을 바꾸고 있습니다. 어떤 나라가 AI 기술 주도권을 잡느냐에 따라서 국가의 미래도 달라질 텐데요. 최근 AI 속도 조절 논란도 일고 있습니다. 이런 가운데 국내 연구진이 최근 AI City Challenge라는 세계 대회에서 우승을 했습니다. 작년에 이어서 2연속 우승인 데다 올해는 2관왕까지 됐다고 하는데요. 또 로봇 길찾기 AI 챌린지에서도 1위를 차지하는 성과를 거둔 연구팀도 있습니다. 어떤 기술이 세계 최고로 인정을 받았는지 오늘 생생 인터뷰에서 들어보겠습니다. 한국전자통신연구원 AI 인프라 연구실에 김상원 연구원 전화 연결돼 있습니다. 연구원님 안녕하세요.

▷김상원 박사 ETRI AI인프라연구실 (이하 김상원)
안녕하세요. 한국전자통신연구원 김상원입니다.

▶조영호
네, 이른 아침 전화 연결해 주셔서 감사드리고요. 네, 앞서 말씀드렸지만 이번에 AI City Challenge라는 대회에 참가해서 자랑스러운 결과를 얻으셨습니다. 먼저 이 대회가 어떤 대회인지 한번 소개 해주실 수 있을까요?

<사진 출처 : ETRI>

▷김상원
아 네. AI 시티 챌린지는 엔비디아라고 요즘 다들 잘 아실 겁니다. 엔비디아에서 주관하는 국제 AI 경진대회거든요. 이 대회에서는 도시나 교통에서 발생하는 실제 문제를 AI로 푸는 기술을 겨루는 대회입니다. 네, 2017년에 처음 시작이 됐고요. 올해가 10회째를 맞았습니다. 그래서 올해는 모두 8개의 분야로 진행이 됐는데 분야별로는 세계 각국의 7~8팀 정도가 최종 순위에 올라왔습니다. 네, 저희는 그래서 교통사고나 위험 상황을 찾아내고 또 그 원인까지 설명하는 2개 분야에 참가해서 각각 1위와 2위를 했고요. 특히 올해는 AI가 학습할 때 보지 못했던 새로운 카메라나 장소에서도 얼마나 잘 동작하는지를 중요하게 평가했습니다.

▶조영호
다양한 나라에서 내로라하는 AI 연구자들이 겨루었을 그럴 자리라고 생각을 합니다. 이제 1등과 2등 2관왕을 인제 차지하셨다는 말씀을 들었는데 먼저 1등 세계 최고 기술로 인정받는 기술은 좀 어떤 것이었는지요?

▷김상원
감사하게도 저희가 이번에 1위를 한 분야는 차량 블랙박스 영상을 보고 그 화면 속의 보행자가 길을 건너려고 하는지 또 언제 위험해지는지 또 왜 그렇게 판단했는지를 AI가 질문에 답하듯 설명하는 이런 과제였거든요. 예전 AI 기술들이 그냥 단순히 여기에 사람이 있다. 이 정도만 찾아낸 수준이었다면은 이제는 그 사람이 앞으로 어떻게 행동할지까지 읽어내고 또 그 근거까지 설명을 해야 되는 거죠. 예를 들어 보행자가 인도에 서 있다고 해 가지고 또 무조건 길을 건너는 건 아니기 때문에 이 보행자가 고개를 돌리는지 몸의 방향이 바뀌는지 또 뭐 차도 쪽으로 움직이기 시작하는지 같은 여러 가지 정보를 함께 봐야 됩니다. 여기서 저희 기술은 agent AI를 활용을 해 가지고 먼저 영상 전체를 빠르게 훑어보고 또 보행자가 어떻게 행동하는지를 중요하게 중요한 장면만 다시 자세히 분석을 하게 되거든요.
이런 원리가 저희가 운전을 할 때 보면 전체 도로를 넓게 보다가 위험이 보이는 곳만 시선을 집중하곤 하잖아요. 이런 원리와 비슷한데 AI가 답을 만들 때도 이런 실제 위치나 움직임 같은 근거가 있는지를 잘 확인을 해 가지고 없는 내용을 그럴듯하게 지어내는 실수도 크게 줄인 것 같습니다.

▶조영호
지금 연구원님께서 에이전트 AI를 활용한 기술이라고 하셨는데 AI 기술이 쉬운 연구 분야는 아니지 않습니까? 이 agent AI 기술 어떤 걸까요? 쉽게 설명이 가능하실까요?

▷김상원
아 네 그 agent AI를 좀 쉽게 설명을 해보자면은 기존의 AI 기술들은 한 번 묶고 한 번 다 파고 끝나는 이런 주기를 가지거든요. 그런데 Agent AI는 목표를 주면은 스스로 할 일을 나누고 또 필요한 걸 스스로 찾아보고 또 자기가 만든 결과도 다시 점검하는 이런 형태의 AI라고 보시면 되겠고요. 네 여기서 저희 기술도 이런 방식을 차용을 해 가지고 저희 기술 안에서 한 AI 모델이 이 보행자가 길을 건너려고 합니다라고 먼저 판단을 하면 또 성격이 다른 또 다른 AI 모델이 영상에 정말 그런 근거가 있는지를 다시 확인을 하게 되는 거죠. 어찌 보면 한 명이 답하고 끝나는 게 아니라 서로 역할을 나눠서 검토하는 하나의 팀처럼 움직이는 거죠.

▶조영호
그렇다면 이번에 1등을 하신 기술이 이전까지는 없던 새로운 기술이라고 볼 수 있을까요?

▷김상원
어찌 보면 완전히 처음부터 새롭게 나온 기술이라고 보기는 어렵고요. 저희 한국전자통신연구원에서 오랫동안 쌓아왔던 교통영상 분석 기술, 그러니까 사람과 차량을 찾고 움직임을 추적하는 기술이 그 바탕에 있다고 볼 수 있고요. 여기에 영상을 보고 이해한 내용을 말로 설명할 수 있는 Agent AI를 저희는 결합을 한 거거든요. 그래서 이번에 특히 의미가 있었던 게 뭐냐면은 블랙박스 영상이던지 또 어안 렌즈 영상이던지 이런 굉장히 다른 환경에서도 하나의 AI 모델만 사용을 했다는 거거든요. 왜냐하면, 보통 카메라 환경이 달라지게 되면 그 환경에 맞는 별도의 AI를 다시 만드는 경우가 굉장히 많은데 저희는 AI 모델 하나가 서로 다른 환경에서도 얼마나 잘 적응할 수 있는지를 보여주고 싶었습니다. 정리해보자면 기존의 선배 연고자들이 쌓아왔던 기술 위에 최근 그 AI 출원 기술을 한층 더 올렸다 이렇게 생각해 주시면 될 것 같습니다.

▶조영호
아까 말씀을 해 주셨는데 1등만 받으신 게 아니라 또 다른 분야에서 2등상까지 받으셨지 않습니까? 2등상을 받은 기술은 또 어떤 기술인가요?

▷김상원
아 네 감사하게도 저희가 또 2등도 같이 했는데요. 2위를 받은 분야가 뭐냐면은 교차로 있지 않습니까? 교차로에 설치되어 있는 어안 렌즈 카메라가 있습니다. 이 어안렌즈 카메라에서 신호 위반이나 역주행, 무단횡단 같은 이런 교통법규 위반을 찾아내고 설명하는 과제였거든요. 어안렌즈가 조금 생소한 개념이실 텐데 어안이라는 말 그 자체로 물고기 눈이라는 의미거든요. 그래서 물고기 눈처럼 렌즈가 볼록하게 튀어나온 카메라거든요. 이 카메라를 활용하게 되면 교차로에 여러 대의 카메라를 설치하지 않고도 그 넓은 교차로 전체를 다 한 화면에 담을 수 있다는 장점이 있는데, 문제가 뭐냐면 화면 가장자리로 갈수록 자동차나 사람이 심하게 휘어져 보이게 되거든요. 스마트폰으로. 광각 카메라 모드로 넓게 사진을 찍었을 때 가장자리에 있는 사람이 얼굴이 길쭉하게 보인다든지 이런 현상과 비슷한데 그래서 뭐 단순히 차가 있는지를 찾는 것보다도 이 차가 어느 방향으로 움직였는지 누가 먼저 움직였는지 이런 게 훨씬 판단하기가 어렵습니다. 저희는 이런 왜곡된 영상에서도 차량과 보행자를 잘 연결을 해 가지고 상황을 잘 판단하도록 했다라고 이해해 주시면 되겠습니다.

▶조영호
AI로 가능한 것들이 정말 많다. 이런 생각이 드는데 어떤 연구 분야에 대한 성과가 실제 우리 생활에 이렇게 좀 접목되는 게 좀 중요하지 않습니까? 지금 박사님 말씀 들으면은 지금 연구하시는 분야가 차량 자율주행이라든지. 이런 분야에 활용이 될 수 있을 것 같다는 개인적인 생각이 좀 드는데 이번에 수상하신 연구 결과들을 어떤 분야에 어떻게 적용이 될 수 있을까요?

▷김상원
네, 아무래도 저희가 가장 먼저 생각할 수 있는 것은 교통관제 분야라고 생각을 하는데요. 도시에 CCTV가 정말 많잖아요. 그래서 실제 도심 관제센터에서는 관제요원 한 분이 수십 대에서 많게는 수백 대 화면을 계속 보고 있어야 되거든요. 이때 AI 모델이 단순히 위험합니다라고만 알려주는 게 아니라 지금 이 교차로에서 보행자가 차도로 들어왔고 우회전 차량과 충돌할 위험이 있습니다처럼 이런 상황과 이유를 같이 알려주게 되는 거거든요. 예를 들면 관제 화면이 수백 개가 있더라도 사람이 모든 화면을 같은 집중도로 볼 수는 없잖아요. 그래서 AI가 위험한 장면을 먼저 골라주고 또 왜 위험한지까지 같이 알려준다면 관제 요원 입장에서는 정말 필요한 화면에만 먼저 집중을 할 수 있게 될 것 같고요. 두 번째는 아까 말씀해 주신 자율주행 분야라고 생각을 하는데요. 보행자가 지금 어디에 서 있는지도 중요하지만 이 사람이 곧 길을 건너려고 하는지를 미리 알아채는 게 안전과 직결된다고 생각을 합니다.

▶조영호
과학계 종사자가 아닌 많은 일반 시민들에게도 이번에 수상하신 이런 기술들이 과연 상용화가 가능할지 이런 의문도 있을 것 같거든요. 멀지 않은 미래에 우리 실생활에도 도움을 받을 수 있는 상용화 가능할 수 있을까요?

▷김상원
아 네. 기술적으로는 충분히 가능성이 있다고 보고 있고요. 다만 이번 대회처럼 이런 대회들은 정해진 데이터에서 기술을 겨루는 것이고. 실제 도로는 날씨도 다르고 카메라도 다르기 때문에 예상하지 못한 상황이 훨씬 많거든요. 예를 들면 비가 많이 오거나 또 어두운 밤이거나 그리고 카메라에 눈이나 먼지가 묻어있는 이런 상황들처럼 실제 현장에서는 굉장히 다양한 변수 변수가 생기기 마련이고 그래서 실제 이걸 적용하려고 하면 국내 교통 관제나 또 영상 보안 기업들과 함께 현장에서 충분히 검증하는 과정이 필요할 것이라 생각을 합니다.

▶조영호
지금 1등과 2등, 2관왕을 인제 차지하셨는데 수상을 하시게 되면 연구자들에게 어떤 특전이라든지. 연구를 더 가속화할 수 있는 그런 연구 환경이 주어질 수 있는 건가요?

▷김상원
네, 저희가 작년에 참고했을 때는 NVIDIA의 고성능 GPU를 받았었거든요. 그런데 올해는 잭슨이라고 하는 엔비디아의 소형 AI 개발 모드를 소장품으로 받았습니다. 그래서 이런 컴퓨터를 활용을 하면 그 작은 컴퓨터 안에서도 AI를 직접 실행할 수 있는 장비라서 저희처럼 실제 현장 AI를 이런 연구하는 분야에도 충분히 활용을 할 수 있겠고요. 물론 연구자 입장에서는 이런 상품보다는 세계 여러 연구팀과 함께 기술을 검증받았다는 게 더 큰 의미라고 생각을 합니다.

▶조영호
예 이렇게 세계대회에서 수상을 하시게 되면 전자통신연구원 안에서의 위상도 연구팀이 좀 높아지고 관심을 받게 되는 사항도 있을 것 같은데요. 실제로 그럴까요? 어떻습니까?

▷김상원
네, 저희가 작년에도 수상을 했고 또 올해도 수상을 하고 계속 이렇게 좋은 성과를 내다 보니까 예전보다는 관심이 조금 줄어든 것 같기는 한데 그래도 많은 기대를 하고 계신 것 같기는 합니다.

<사진 출처 : 연합뉴스>

▶조영호
세계 AI 대회에서 우리 기술을 인정받으셨지 않습니까? AI 기술의 주도권을 잡는 것이 국가 경쟁력을 결정하게 될 거라 이런 미래 예측도 나오고 있는 상황이고 우리나라의 AI 기술 현재 어느 정도 수준이라고 평가할 수 있을까요?

▷김상원
네, 사실 미국과 중국이 AI의 전체적인 규모면에서는 앞서 있는 게 사실이긴 하거든요. 이런 거대한 AI 모델을 만드는 데 필요한 자본이라든지 데이터 컴퓨팅 자원의 차이가 아무래도 크게 벌어지긴 하는데 그런데 이런 AI 경쟁력이 꼭 모델 크기로만 결정되는 건 아니라고 생각을 합니다. 그래서 이런 대회처럼 교통이나 제조업, 로봇 이런 분야에서 실제 현장의 구체적인 문제를 푸는 분야에서도 국내 연구진들이 충분히 세계 연구진과 경쟁을 잘하고 있고요. 또 이런 실제 이런 AI를 현장에 적용을 하려고 하면 단순히 AI 하나만 잘 만든다고 끝나는 게 아니거든요. 카메라나 센서에 대한 이해도 필요하고 또 실제 산업 환경도 잘 이해를 해야 되고 속도나 비용 같은 현실적인 문제들도 같이 풀어나가야 됩니다. 특히나 우리나라는 유통이나 제조업, 통신 이런 분야에 AI를 실제로 적용해 볼 수 있는 산업 기반이 매우 탄탄하다는 장점이 있거든요. 그래서 이런 거대 모델을 만드는 경쟁도 중요하겠지만, AI를 실제 현장에서 믿고 쓸 수 있게 만드는 분야에서도 우리만의 강점을 키울 수 있지 않나라고 생각을 합니다.

▶조영호
AI 기술의 연구 발전에 많은 노력을 하시고 계신데, 최근에 말이죠. AI 기술의 발전 속도가 너무 빠르다 보니까 우려의 목소리도 나오고 있지 않습니까? 현장에서 연구를 하신 입장에서는 AI 기술 발전에 대해서 느낀 위협이랄까요? 두려움 이런 거 연구하시는 분의 입장에서는 어떠신가요?

▷김상원
예 솔직히 연구하는 저도 요즘 AI 발전 속도를 보면 굉장히 놀랄 때가 많긴 하거든요. 그런데 제가 걱정하는 건 이런 AI가 똑똑해지는 것. 그 자체보다도 AI가 왜 그런 판단을 했는지 우리가 제대로 모른 채 중요한 곳에 쓰게 되는 상황이라고 생각을 하는데 이번 대회를 준비를 하면서도 AI가 영상에 없는 내용을 굉장히 자연스럽게 설명하는 경우가 굉장히 많았거든요. 말은 청산유수인데 실제 근거는 없는 거죠. 그래서 저는 이런 속도를 늦추는 것만이 답이라기보다는 AI의 성능을 높이는 만큼 그 판단을 설명하고 검증하는 기술도 같이 발전해야 되지 않나라고 생각을 합니다. 뭐 자동차로 비유하면 브레이크를 밟을 것이냐, 가속 페달을 밟을 것이냐 이런 걸 따지기 전에 이 자동차가 지금 어디로 가고 있고 얼마나 빠르게 가고 있는지를 보여주는 어떤 계기판 같은 것부터 더 제대로 가셔야 되지 않나 생각을 합니다.

▶조영호
AI 어떤 속도 조절보다는 AI 기술을 안전하게 활용할 수 있는 그런 기술의 동반 발전도 꾀해야 된다. 이런 취지의 말씀으로 이해할 수 있겠죠. 박사님 지금 수상하신 기술 이외에 현재 연구개발 중인 AI 관련 기술이 또 있으신지 그리고 앞으로 관련 AI 기술에 대한 연구개발 방향 어떤 식으로 하실 수 있을까요?

▷김상원
네, 사실 좀 전에 말씀드린 분야랑 굉장히 밀접한 관련이 있는 저는 원래 설명 가능한 AI라는 분야를 주로 연구를 하고 있거든요. 이 설명 가능한 AI라는 걸 좀 쉽게 말씀을 드리면, AI가 답만 내는 게 아니라 너 왜 그렇게 생각했니? 라고 물었을 때 근거까지 투명하게 보여주는 연구 분야거든요. 예를 들면 요즘은 공장에서도 AI 검수를 많이 하고 있는데, 공장에서 AI가 제품 사진을 보고 불량입니다라고 판단을 했다면, 이 결과만 내놓는 게 아니라 이 부분에 긁힌 자국이 있어서 이렇게 판단했습니다라는 식으로 근거를 보여주는 거죠. 이게 왜 중요하냐면 아까 그 부분처럼 AI가 항상 정답만을 맞히는 건 아니기 때문이거든요. 그래서 AI가 틀렸을 때 사람이 왜 틀렸는지를 알 수 있어야 또 고칠 수도 있겠고 또 의료나 교통처럼 중요한 분야에서도 그 판단을 믿어도 되는지 확인할 수 있을 거라고 생각을 하거든요. 저는 계속 이런 연구를 수행을 해오고 있습니다.

▶조영호
오늘 말씀 여기까지 듣겠습니다. 박사님 감사합니다.
지금까지 한국전자통신연구원 AI 인프라 연구실의 김상원 연구원이었습니다.

조영호 기자 (new3014@kbs.co.kr)