"AI는 인간과 소통하고 공감할 수 있어야"

[IITP 발간 AI기술청사진 2030 보고서 요약/④] 사회친화적 AI

(지디넷코리아=정다영 IITP 선임)국내 정보통신(ICT) 연구개발(R&D)을 총괄하는 정보통신기획평가원(IITP)이 지난해말 '인공지능 기술청사진 2030 2차 연도 보고서'를 발표했다. 이 보고서는 인공지능을 21개 소분류로 구분해 기술 및 시장 동향과 프로젝트 현황, R&D 이슈, 기술 완성도 등을 담았다. 지디넷코리아는 이 보고서를 다섯차례 나눠 게재한다. 1회는 기술청사진의 전반적 설명을, 2회는 자연지능과 인공지능 연계 등 지능에 대한 고찰을, 3~4회는 학습지능과 감성지능에 대한 세부 동향을, 5회는 인공지능 기술의 산업적 적용 가능성을 다룬다. 이번 회는 네번째로 '사회 친화적 AI'를 소개한다. <편집자주>

정다영 IITP 선임

최근 국내 스타트업이 개발한 인공지능 챗봇 서비스 ‘이루다’는 이용자가 보낸 문자 메세지에 실제 사람처럼 답변하며 큰 인기를 누렸다. 하지만 편향된 데이터 학습에 따른 성차별·사회적 약자 혐오 발언과 개인정보 유출로 출시 한 달도 안 돼 운영이 중단됐다. 이처럼 우리는 데이터 편향성, 개인정보 유출, 딥페이크 등 인공지능의 문제점에 대한 기사를 종종 접할 수 있고 이것이 인공지능에게 학습지능(IQ)뿐만 아니라 감성지능(EQ)이 필요한 이유다. 이번 기사에서는 인공지능 기술청사진 중 감성지능(EQ)에 대한 세부 동향을 알아보고자 한다.

앞서 연재된 기사에서 알 수 있듯이 인공지능 기술청사진에서는 지능에 대한 고찰을 기반으로 새로운 인공지능 기술분류체계를 수립했고, 이 중 감성지능(EQ)에 대한 대분류를 ‘사회 친화적 인공지능’이라고 명명했다. 이는 인공지능이 단순히 똑똑하기만 한 것이 아니라 인간과 소통하고 공감할 수 있어야 함을 의미한다. 사회 친화적 인공지능은 신뢰성 있는 AI, 소통 감성 AI, 공감하는 AI 등 크게 세 중분류로 나눠진다.

■신뢰성 있는 AI

신뢰성 있는 AI는 인공지능 모델의 판단 결과에 대한 신뢰성 확보를 목표로 한다. 인공지능 기술이 실세계에 적용되기 위한 필수 기술로 평가되며 세부적으로는 ① 판단 결과에 대한 설명 가능성 ② 적대적 공격에 대한 견고성 ③ 성별 및 인종 등 특정 사회적 계층에 편향되지 않는 공정성의 확보가 필요하다.

신뢰성 있는 AI 중 첫 번째 소분류인 설명 가능한 AI는 최근 딥러닝 기술 발전으로 개별 태스크의 성능이 비약적으로 개선되면서 인공지능 모델을 실세계에 적용하기 위해 관련 연구가 급격하게 늘어나는 추세다. 단일 접근방법이 아닌 다양한 유형의 접근방법이 연구되고 있으며 주요 접근방법으로는 입력 요인 분석, 내부 분석, 집중 분석, 대리 모델 분석 등이 있다. 특히 시각 분야에서 가장 활발히 연구되고 있고 2019년 옥스퍼드대학교에서는 이미지 개체와 속성을 연결하는 선형 모델을 제안했다.

■소통감성 AI

소통감성 AI는 주변 환경과 지능을 가진 객체 간, 또는 개체 상호 간의 소통을 위한 인공지능 기술로 ① 시각, 청각, 언어 등 단일감각 단위 지능 고도화 ② 음성, 표정, 동작 등 두 개 이상 복합 모달리티의 통합적 맥락을 인식하고 표현하는 복합대화 처리 기술 ③ 주체적으로 의사결정을 내리는 에이전트들이 같은 환경 내에 존재하는 다른 인공지능을 인지하고 협업하는 기술을 의미한다.

소통감성 AI 중 두 번째 소분류인 복합대화 기술은 몰입감을 높이며 의도를 정확하게 파악하는 대화형 서비스를 위해 복합 모달리티 표현, 복합 인지 및 추론 기술이 요구된다. KETI에서는 2017년부터 영상/음성/자연어 딥러닝 모델이 멀티모달 정보를 추상화해 내용을 파악하고 필요한 정보를 선제적으로 제공하는 자율지능 디지털 동반자 연구를 수행하고 있다. 이외에도 지능형 개인 비서 SARA(CMU), 감정치료용 소셜 로봇 Nadine(난양공대), 토론하는 로봇 소피아(Hanson Robotics) 등 복합대화 기술을 활용한 응용 서비스 연구가 다양히 진행 중이다.

■공감하는 AI

공감하는 AI는 사람과 직간접적으로 교류하며 서로 이해하고 공감할 수 있는 인공지능을 말한다. 인간 중심 AI를 실현하기 위해 반드시 필요한 기술로 ①오감 정보를 종합 처리해 동시다발적 상황을 이해하고 판단하는 다중감각인지 ②사람 언어뿐만 아니라 표정, 제스처 등 비언어적 행위를 감지해 사회적 의미를 이해하고 사람에게 정확한 행동 표현을 생성하는 행동지능 ③사람 감정 상태를 이해하고 적절한 반응을 생성함으로써 사람의 정서적 안정을 증진하는 교감형 AI 기술을 포함한다.

공감하는 AI 중 두 번째 소분류인 행동지능의 요소기술은 포괄적 사회 맥락 인지, 사회적 교류 행위 생성, 사회 친화적 행위 계획, 적응적 행위 최적화가 있다. 이중 사회적 교류 행위 생성은 사람의 비언어적 교류 행위를 학습해 모사하는 것으로 상호 교류를 위한 행동지능의 핵심 요소다. UC버클리와 MIT는 발화 음성을 입력받아 손과 팔 제스처를 생성하는 모델을 발표했고(’19), ETRI는 음성, 발화, 문장, 사용자 신원을 동시에 입력받아 행동의 품질과 다양성을 높이는 멀티모달 입력 기반 행위생성 방법을 제시(’20)하는 등 다양한 연구 성과가 발표되고 있으나 학습 데이터 미비, 생성 결과 표현력 부족, 교류 맥락 반영 방법 부재 등의 연구 이슈가 남아있다. 

아직 인공지능에 대한 막연한 두려움을 가지고 있는 사람들이 있다. 하지만 이러한 두려움 때문에 인공지능을 외면할 수는 없다. 인공지능은 과거 전기가 그러했듯 모든 산업분야에서 활용되며 우리 삶에 새로운 패러다임을 제시하고 있기 때문이다. 따라서 막연한 두려움을 갖기보다는 인간과 인공지능이 공존하는 사회를 만들기 위한 해결책을 마련하는 것이 중요하고 그게 바로 ‘사회 친화적인 인공지능’이라고 생각한다. 신뢰할 수 있고 소통·공감하는 인공지능이 우리가 나아가야 할 방향이다.

정다영 IITP 선임(allzero@iitp.kr)