생활과 산업 곳곳 파고든 AI..'모럴 해저드' 대처 방안은

구글 '알파고' 쇼크 이후 AI 급속 확산
얼굴 사진 보고 정치성향도 알아맞혀
행동패턴 분석, 디지털 치료제 개발도
딥 페이크 성행..'이루다' 혐오 표현
기술 유토피아 위해 인성 포괄해야

[서울경제]

인공지능(AI) 하면 2016년 봄 구글 딥마인드의 바둑 알고리즘인 ‘알파고’와 바둑천재 ‘이세돌 9단’의 대결을 떠올린다. 지금은 AI가 생활이나 산업현장 등에서 쓰이지 않는 곳이 없을 정도이다. 하지만 최근 AI 챗봇 서비스인 ‘이루다’에서 AI 모럴 해저드(도덕적 해이) 현상이 발생하며 사회 문제화 됐다. AI의 원리와 활용처를 알아보고 그에 걸맞는 윤리규범을 고민해보자.

-우선 AI가 무엇인지 개념을 정리하고 넘어가자.

△이세돌 9단이 5년 전 4대1로 알파고에 패하면서 관심이 커졌다. AI는 사람의 지능을 흉내낸 알고리즘 시스템이다. AI는 머신러닝(기계학습), 이 중 요즘은 딥러닝 기법을 많이 쓰는데 많은 데이터를 보여주고 기계가 학습하도록 한다. 예를 들어 다양한 고양이나 개의 사진을 보여주고 기계가 스스로 그 특성을 분류하도록 하는 것이다. 알파고가 기보를 굉장히 많이 보고 스스로 학습한 것과 같은 맥락이다.

-AI가 우리 주위에서 쓰이는 사례를 든다면.

△네이버 등 포털, 카톡 등 메신저, 티맵 등 내비게이션 서비스에서 음성인식을 활용하는 것을 들 수 있다. 사람과의 대화에 응하는 챗봇 서비스는 로봇이나 스피커 형태로 볼 수 있다. 페이스북 등 소셜미디어에서 이용자의 취향과 선호도에 맞춘 게시물 위주로 뜨는 것도 AI가 그렇게 추천하기 때문이다. 요즘은 네이버나 다음 등 포털에서도 여러 언론사의 기사를 이용자의 취향과 선호도에 맞춰 편집이 이뤄지는 경향이 있다. AI는 산업적으로도 활용이 늘어 공장이나 설비에 센서를 붙여 고장 이 언제 날 것인지 여부를 미리 분석해 대비할 수 있도록 하기도 한다. 불량품을 사람 눈으로 검수하는 것보다 아주 정확히 검수한다. 요즘 뜨는 테슬라의 오토파일럿 기능이라든지 앞으로 자율주행차에 AI의 역할은 절대적이라 할 정도로 큰 역할을 하게 된다. 이런 자율주행차는 물론 로봇, 드론 등이 모두 AI가 발전한 형태라고 볼 수 있다. 스마트팜 등의 농업, 교육, 주식추천 등 생활 곳곳에서 AI가 쓰이지 않는 곳이 없을 정도다.

-요즘에는 AI로 얼굴 표정만 보고도 정치성향을 알아맞출 정도라고 하던데.

△얼굴 사진 한 장의 특징을 보고 진보, 중도, 보수성향 여부를 판별하는 것이다. 미국 스탠퍼드대 마이클 코신스키 교수팀이 사람들의 얼굴 사진으로 정치적 성향을 알아맞히는 AI 알고리즘을 개발한 바 있다. 정확도가 72% 정도이다. 이는 100개 항목의 설문지를 통해 정치적 성향을 추측할 때 정확도(66%)보다 6%포인트가량 높다. 사람이 대화를 나누며 얼굴을 보고 판단하는 것(55%)보다는 더 높다. 이렇게 얼굴인식 기술이 발전하며 ‘AI가 관상가냐’는 얘기가 나올 수도 있다.

-어떻게 AI가 사람이 판단하는 것보다 정치적 성향을 더 잘 파악했나.

△스탠퍼드대 연구팀은 미국, 영국, 캐나다 국민 108만5,795명의 데이팅 웹사이트와 페이스북에 있는 얼굴 사진을 얼굴 인식 알고리즘에 입력 2,048개의 데이터 요소로 압축한 뒤 이용자가 연령과 성별, 정치 성향 등을 써놓은 것과 대조했다. 사람 얼굴에는 세월의 흔적이나 건강, 성격 등이 담겨 있다. 설문지나 말로 응답하는 것은 속내를 감추는 경우가 적지 않은데 사진 속의 얼굴 특징을 보고 판단하니 더 정확하다는 것이다.

-그렇다고 얼굴 특성에 따라 정확하게 보수·중도·진보적 성향과 연관성이 있는지 파악하는 것은 아니지 않나.

△그렇다. 이번 AI 알고리즘은 머리의 방향과 얼굴에 나타난 감정 표현에서 단서를 포착했다. 진보 쪽의 얼굴은 많이 웃거나 놀라운 표정을 보이거나 정면을 보고 사진을 찍는 경향이 있다는 식이다. 이번 AI는 극우와 극좌를 잘 구별하고 중도 성향은 상대적으로 구별하는데 애를 먹었다.

-이 AI를 개발한 교수는 얼굴 데이터로 성격을 예측할 수 있다는 연구도 발표한 바 있는데.

△페이스북을 활용해 얼굴 인식 알고리즘을 통해 사람의 감정 상태는 물론 IQ, 정직성, 범죄 가능성 등을 식별할 수 있다고 주장한다. 이렇게 되면 학교에서 학생의 장래 가능성도 판단할 수 있게 되는 셈이다. 이 교수는 지난 2017년 얼굴 데이터에서 개인의 성적 취향을 예측할 수 있다는 연구도 내놓은 바 있다. 얼굴사진을 보고 남성 동성애자는 턱이 좁고 코가 길다는 식으로 특징을 찾아 동성애자 찾기 실험에서 남성 81%, 여성 71%를 각각 맞췄다. 이 교수는 얼굴 인식 AI 알고리즘을 발전시키면 구직자와 직업의 궁합을 분석하거나 선거에서 누구를 뽑을지 결정하는 데 도움을 줄 수 있다고 말한다.

-얼굴 표정을 인식해 공항 등에서 테러 용의자를 포착하는데도 쓰인다고 하던데.

△그렇다. 범죄자의 얼굴 유형을 인식하는 AI 알고리즘이 공항이나 항만 등에 쓰인다. 중국이 세계에서 가장 많은 CCTV가 가동되고 있는데 CCTV에 그런 AI 알고리즘을 넣게 되면 범죄예방에 도움이 될 수 있으나 감시사회가 되는 문제도 있어 명암이 엇갈린다고 볼 수 있다.

-AI와는 좀 다른 얘기지만 진보, 중도, 보수 정치이념 성향에 따라 각각의 뇌 연결망에서 차이가 난다는 연구결과도 있던데.

△지난해 권준수 서울대병원·서울대 뇌인지과학과 교수팀은 성인 106명의 정치 성향과 뇌 기능 네트워크를 분석, 뇌 연결망 차이를 확인했다. 설문조사로 보수, 중도, 진보성향 그룹으로 나눈 뒤 뇌 기능을 살폈더니 심리적 스트레스를 조절하는 뇌 영역들 사이의 신호전달 체계가 정치 성향에 따라 달랐다. 보수 성향은 자기조절능력이나 회복탄력성과 관련된 뇌의 연결성이 진보 성향보다 약 5배 높았다. 보수 성향 뇌의 심리적 안정성이 진보 성향보다 높았다는 뜻이다. 뇌과학적으로 이념적 스펙트럼 다른 이유 있었다는 뜻인데 다만 정치 성향에 따라 뇌 기능의 차이가 생긴 것인지, 뇌 기능 차이로 정치 성향이 달라진 것인지는 알 수 없었다.

앞서 해외 연구도 있는데 영국 엑서터대학교와 미국 샌디에이고 캘리포니아대(UCSD) 연구팀은 미국 민주당원과 공화당원을 대상으로 연구한 결과 보수인 공화당원들에서 위험이 동반된 의사결정을 하는 경우 편도가 과활성화되고 섬피질 활성도가 감소하는 것을 확인했다. 이는 위험 자극에 보수성향 사람의 뇌가 더 민감하게 반응한다는 의미다.

-요즘은 AI로 사람의 행동패턴을 분석해 디지털 치료제도 개발되고 있는데.

△행동을 분석해 모바일 앱이나 게임, 가상현실(VR) 등을 통해 편리하게 다양한 질병을 관리하고 개선하는 데 도움을 줄 수 있다. 이게 디지털 치료제이다. 미국의 경우 디지털 치료제 개발이 한창으로 2017년 중독치료를 위한 앱 형태의 디지털 치료제가 처음으로 식품의약국(FDA)에서 의료기기 허가를 받았고, 지난해에는 ADHD(주의력 결핍 과잉행동 장애)치료를 위한 비디오게임 디지털 치료제가 FDA 승인을 받았다.

-국내에서도 디지털 치료제 연구가 많이 이뤄지고 있는데.

△그렇다. 요즘 코로나19 사태로 인류의 정신건강이 위협받고 있는데 우울증, ADHD, 치매, 불면증, 비만, 당뇨병 등을 치료하기 위한 디지털 치료제 개발이 이어지고 있다. 한양대 디지털헬스케어센터를 한 예로 들 수 있는데 이 연구소는 사람의 감성행동 정보를 수집하고 그 행동을 자극하는 시뮬레이션을 통해 심리상태와 정신건강을 정량화해 코드화한다. 이게 핵심 원천기술인데 여기에 다양한 기업들과 AI로 데이터를 분석해 맞춤형 솔루션을 제공하는 플랫폼을 구축해 ‘디지털 치료’를 위한 국제표준을 선점하려고 한다. 이를 위해 국내외 많은 기업들과 병원들과 협업한다. 센터장인 김형숙 교수는 “우울증, ADHD), 자폐, 치매, 스트레스 등에 관해 어디서든 모바일 앱으로 관리할 수 있도록 하는 게 목표”라며 “킬러콘텐츠만 있으면 수많은 하드웨어와 소프트웨어를 연결하고 융합해 시너지를 낼 수 있다”고 역설한다.

-그동안 AI의 원리와 여러 활용처에 대해 알아봤는데 AI로 특정인의 얼굴과 목소리, 행동까지 재현한 위조 영상물(딥페이크)가 돈다든지 부정적인 면도 나오고 있는데.

△지난해 말 미국 대선 국면에서 소셜미디어에서 딥페이크 기술을 이용한 허위 정보가 사실인 것처럼 떠돌아 논란이 됐다. 문제는 딥페이크를 포함한 각종 위·변조 영상이 사회문제로 대두하고 있으나 위·변조 여부를 직접 확인할 수 있는 객관적인 분석 도구가 없다. 그래서 이것을 해결하기 위한 AI가 개발되고 있다.

-그래서 기술 디스토피아가 아닌 기술 유토피아를 만들기 위해서는 윤리규범을 잘 세워야 한다는 지적도 많다.

△그렇다. 극단적인 예를 든다면 공상과학영화인 터미네이터에 나오는 스카이넷(Skynet)처럼 스스로 학습하고 생각하는 인공지능이 자신의 발전을 인간이 멈추게 하려고 하자 공격하는 것 아니냐는 기술 디스토피아를 떠올릴 수도 있다. 요즘 AI 챗봇 서비스인 ‘이루다’와 AI 학습자료인 ‘모두의 말뭉치’에서도 혐오 표현이 나왔다. 이용자와 채팅을 하는 이루다의 경우 소셜미디어에서 넘쳐나는 약자에 대한 혐오 발언을 학습해 장애인 혐오와 인종차별 발언을 쏟아내 충격을 줬다. 소셜미디어 대화 데이터 100억여건을 학습했는데 바로 그 데이터가 사회통념에 맞지 않는 게 너무 많았다. 국립국어원의 AI 학습자료인 ‘모두의 말뭉치’에도 혐오 차별 표현이 포함돼 문제가 됐다.

-자연스레 AI 윤리 문제가 화두에 오르고 있는데.

△데이터를 놓고 스스로 학습하는 딥러닝 AI 알고리즘이 비윤리적으로 변하지 않도록 AI 개발의 윤리규범을 정립해야 한다는 목소리가 높다. 최근 KAIST가 라파엘 라이프 미국 MIT 총장을 비롯해 노스웨스턴대 총장과 도쿄공대 총장까지 4개국 총장 서밋을 했는데 대학에서 AI를 군사용으로 연구해서는 안되는 지적이 나왔다. 지금도 초소형 공격 드론을 내놓고 전투용 로봇을 개발하고 있는데 나중에 AI가 살상용 무기로 본격적으로 쓰이게 되면 얼마나 끔찍한 상황이 되겠나. 물론 전방에서 날도 추운데 지금 군인들이 보초를 서느라 고생이 많은데 AI CCTV로 대체하면 편할 수는 있다. 하지만 사회에서 AI가 계속 발전하면 사람의 범용 일자리를 속속 대처한다는 문제도 있다. 당장 동네 아이스크림 가게만 해도 무인화된 곳이 적지 않고 심지어 떡볶이가게에서도 키오스크(자동주문기계)로 주문하는 곳이 늘지 않나.

-해외에서는 정부와 기업 차원에서 AI 가이드라인을 어떻게 마련하고 있나.

△유럽연합의 경우 지난해 7월 AI 투명성, 비차별성, 공정성, 책임성, 안정성 등의 평가목록을 발표하고 기업들의 참여를 유도하기 위해 AI 영향평가 실시를 권유하고 있다. AI가 사람들을 부정적으로 차별할 가능성이 있는지, 아동의 권리를 존중하는지, 표현의 자유를 존중하는지 등을 조사하는 것이다. 기업들의 경우 마이크로소프트는 지난해 3월 AI 공정성 체크리스트를 만들었다.

-우리나라는 어떤가.

△과기정통부는 작년 말 ‘국가 인공지능 윤리기준’ 초안을 만들어 의견을 듣고 있다. 방송통신위원회는 작년 말 ‘이용자 중심의 지능정보사회를 위한 원칙’이라는 선언적 규정을 발표하고 이루다 사태를 계기로 AI 교육, 이용자 보호, 컨설팅 방안을 수립하기로 했다. 학교에서 AI 윤리교육을 실시하고 기업의 개발자 교육과 관리를 잘 해야 한다는 의견도 나온다. 기업은 AI 가이드라인이 나오면 그 취지에는 공감하면서도 연구개발이 위축될 수 있지 않을까 염려하는 면도 있다. 그러면서 AI 생태계에서 사용자가 문제를 일으키는 경우도 많다는 점도 유의해야 한다고 지적한다.

-AI 개발도 단순히 과학기술을 넘어 인성(人性)까지 포괄해야 한다는 말씀인데.

△그렇다. 좋은 AI는 좋은 인성을 가진 개발자와 이용자에 의해 만들어진다고 볼 수 있다. 심지어 미국 일론 머스크는 나중에 사람의 뇌를 컴퓨터와 연결해 AI 사람을 만들겠다는 계획도 갖고 있는데, 이런 상황에서 사람과 AI가 조화롭게 공존하는 세상을 만들려면 인문학의 역할이 크다. 과학기술과 인문학의 융합이 중요하다. 4차 산업혁명 시대에 오히려 논어 등 동서양 고전의 가치가 부각되는 것도 이 때문이다.

/고광본 선임기자 kbgo@sedaily.com