"킬러 로봇보다 '무서운 놈' 있다"…카이스트 천재의 경고

━

“머신 바이어스 경계” AI윤리 석학들의 경고

■ 경제+

「 “워크맨을 개발한 소니가 ‘걸으며 음악 듣는 문화’를 만든 것처럼 기술과 인간에 대한 이해를 결합한 새로운 문화를 만들고 싶다.” 2000년 4월, 당시 24세였던 윤송이 엔씨문화재단 이사장은 중앙일보와의 인터뷰에서 ‘꿈이 뭐냐’는 질문에 이같이 답했다. 당시 윤 이사장은 ‘인간처럼 사고할 줄 아는 기계’를 연구하는 미국 MIT대 미디어랩에서 박사 학위를 받고 이제 막 한국에 돌아와 있었다. 국내 최연소 박사이자 드라마 ‘카이스트’ 주인공의 실제 모델로 주목받던 시기였다. 인공지능(AI)이란 말이 공상과학 영화 소재 정도로만 치부됐던 당시부터 그의 관심은 AI였다. 그 후로 20여 년이 지났지만 윤 이사장은 여전히 AI를 연구하고 있다. 그때와 지금 무엇이 달라졌을까?
」

오혜정 디자이너

지난달 28일 서울 종로구 엔씨문화재단에서 윤송이 이사장을 만났다. 인터뷰에는 AI 윤리 분야 석학 아구스틴 라요 MIT 인문예술사회과학대학 학장, 제임스 랜데이 스탠퍼드대 HAI 공동소장, 메흐란 사하미 스탠퍼드대 컴퓨터공학과 교수가 함께 참여했다. 윤 이사장은 “머신 바이어스(machine bias·학습 데이터에 따른 기계의 편향)로 인해 편견이 확산될 위험성이 더 커졌다”고 말했다.

Q : 오랫동안 AI를 연구했다.
A : 윤송이 이사장(이하 윤)=“전자공학을 전공하면서 신호처리 과정에서 이미지를 압축하는 걸 배웠다. 거기서 수학적으로 가장 에러가 적은 기술은 단순히 사람 눈에 좋게 보이는 기술을 뜻하는 게 아니란 걸 알게 됐다. 사람이 어떤 주파수에 민감한지 알고, 그걸 잘 표현하는 기술이 더 좋은 기술이란 얘기다. 간단해 보이는 기술도 만들 땐 사람이 어떻게 생각하고 사람 뇌가 어떻게 동작하는지부터 접근해야 한다는 걸 깨달았다. 그래서 뇌과학 등을 공부했고 AI에 자연스럽게 관심을 갖게 됐다.”

━

AI, 만든 사람 편견 반영…사회적 편향 재생산 우려

Q : 최근엔 AI 윤리에 집중하는것 같다.
A : 윤=“엔씨소프트에서 계기가 있었다. 게임을 보면 남성 이용자들이 많다 보니 히어로 캐릭터도 남자가 많다. 균형 차원에서 별 생각없이 여자 캐릭터를 만들자고 얘기했다. 의외로 사람들이 ‘왜 균형을 맞춰야 하냐’는 질문을 하더라. 그런 가치 판단이 기계를 통해 증폭될 수 있다고 생각했다. 특히 AI는 사람들이 ‘기계가 얘기했으니 당연히 맞겠지’라고 생각하는 경우가 많아 더 위험하다. AI도 만든 사람의 편견이 반영된 머신 바이어스가 생기는데, 이에 대한 경각심을 가져야 한다.”

Q : 그렇다면 AI 개발을 규제해야 하나.
A : 윤=“세상에 정답이 없는 문제가 많다. 히어로 캐릭터 문제도 마찬가지다. 그래서 왜 해야 되느냐는 질문이 당연한 거고. 정답이 없는 문제를 가지고 규제를 할 순 없지 않나. 규제보다 서로 다른 생각을 표현할 수 있게 하고, 내가 하는 작은 의사결정 하나하나가 얼마나 큰 파급력이 있는지 알고 AI를 개발하는 게 필요하다.”

━

통제불가 킬러로봇 우려? 진짜 문제는 기술 불평등

Q : HAI가 말하는 ‘인간중심 AI’라는 게 그런 책임감을 가진 AI 개발을 말하나.
A : 제임스 랜데이 HAI 공동소장(이하 랜데이) =“인간중심 AI라는 건 단지 개발자가 좋은 의도를 가지는 것만으로 충분하진 않다. 개발 단계부터 사용자를 함께 참여시키고 사회에 미칠 부정적인 영향을 모두 다 고려하면서 그걸 바탕으로 디자인해 가는 과정, 그 과정에서 여러 다양한 학문을 가지고 함께 개발해 나가는 걸 말한다.”

박경민 기자

오픈AI, 마이크로소프트(MS), 구글 등 빅테크들은 AI시대 패권을 잡기 위해 불꽃 튀는 개발 경쟁을 벌이고 있다. 업계에선 경쟁에 치중한 나머지 AI 윤리, 안전에 책임을 다하고 있지 않다는 비판이 나온다. 빅테크의 AI 안전에 대한 조치가 충분한지 물었다.

메흐란 사하미 스탠퍼드대 컴퓨터공학과 교수(이하 사하미)=“빅테크들은 윤리적 AI를 만들기 위해 최선을 다하고 있다 주장하는데, 구체적으로 뭘 하는지에 대해선 밝히지 않고 있다. 어떤 절차를 거쳐 모델을 만드는지, 어떤 데이터로 모델을 훈련시켰는지, 편견(bias)이 생기면 없애기 위해 어떻게 조치하는지 등은 다 비공개다.”

Q : 빅테크는 그 부분을 ‘영업비밀’이라 한다.
A : 사하미=“식품 산업 같은 경우 식재료에 대한 자세한 정보를 제공하지 않나. 음식을 어떻게 만들었고, 어떤 재료를 얼마 비율로 썼는지 등등 다 영업비밀일 수 있다. 하지만 그건 소비자들에게 중대한 영향을 미치는 정보이기에 공개한다. 빅테크들이 그들의 권리만을 주장할 수 없는 이유다. 공개해야 신뢰가 형성될 수 있다.”

━

‘AI 문화식민주의’ 올 수도…기술 개발과정 공개해야

박경민 기자

Q : 윤리적 AI가 지금 강조돼야 하는 건 왜인가.
A : 윤=“지금이 변곡점이라서다. 지난 30년을 돌아보면 범용 기술은 산업 질서를 재편해왔다. 현 시점의 빅테크만 봐도 인터넷이라는 범용 기술이 나온 뒤 등장한 회사들이다. AI는 인터넷과 같은 범용 기술로서 우리 사회와 사람들의 생활양식, 사업하는 방법 등에 정말 많은 영향을 미칠 것이다. 앞서 말했듯이 이 시점에 AI가 사회적 편향을 확대재생산할 가능성이 크기 때문에 대비해야 한다.”

Q : 어떻게 해야 하나.
A : 윤=“사회 전반적인 토론이 필요하다. 가드레일을 엔지니어 혼자 결정하지 말고, 개발자·사업가·이용자가 모두 의견을 나누고 사회적 합의를 해야 한다. 유명한 예가 10여 년 전만 해도 구글에서 CEO를 검색하면 백인 남자가 나왔다. 이걸 가지고 AI를 학습시키면 AI는 CEO가 백인 남자처럼 생겨야 한다고 생각할 것이다. 그러면 이걸 남녀 50대 50으로 맞추는 게 맞냐, 실제와 괴리가 있으니 70대 30이 맞냐, 이런 걸 엔지니어 한 명이 결정할 문제는 아니라는 거다.”

Q : AI가 가져올 위험 중 어떤 게 심각하다고 보나. 킬러로봇인가.
A : 랜데이=“킬러로봇이 ‘사람 통제를 받지 않고 난리를 일으키는 완전 자동 로봇’을 의미한다면 그건 소설에나 나오는 환상이다.”

Q : AI가 가져올 진짜 위협은 무엇인가.
A : 랜데이=“나는 ‘3D’라고 생각한다. 첫째는 허위정보(disinformation)다. 둘째는 딥페이크(deepfake·실제 같은 합성 이미지, 영상)다. 셋째는 편향으로 생길 수 있는 차별(discrimination)이다. 요즘엔 네번째 D를 하나 더 추가하고 있는데, 일자리 대체 현상(displacement of jobs)이다. 이 4가지 사항에 대해 분명한 우려가 있는 만큼 어떤 결과를 가져올지 예측하고 대책을 마련하는 게 필요하다.” A : 아구스틴 라요 MIT 인문예술사회과학대학 학장=“난 불평등(inequality) 문제가 심각하다고 본다. 소수가 AI라는 강력한 기술을 독점하고, 이들은 (기술을) 공유해야 할 의무가 없다면 불평등을 심화시키는 방향으로 나아갈 것이다. 대중이 이런 문제 제기를 해야 하고, 정부도 전문적인 역량을 갖춰 정책을 잘 만들어야 한다.”
지난 5월 서울에서는 ‘AI 정상회의’가 열렸다. 여기서 합의한 ‘프런티어 AI 안전 서약’에는 AI의 위험 기준치 수위가 높다고 판단하면 스스로 서비스를 중단하기로 하는 내용이 포함됐다.

윤=“국제사회에서 어떤 기준으로 AI에 대비해 나갈지 생각하는 건 매우 중요하다. 최근 소버린 AI(자국 내 AI 개발) 얘기가 많이 나온다. 미국 중심 데이터로 훈련된 AI가 가질 수 있는 관점으로 인해 ‘문화 식민주의’가 생길 수도 있다.”

■ 미래의 유니콘 궁금하다면? 혁신가의 생각을 들여다봤습니다. 더중플 '팩플 인터뷰'에서 더 앞서 가세요.

「

“킬러 로봇? 더 큰 위협 있다”…‘카이스트 천재’ 윤송이 경고
https://www.joongang.co.kr/article/25260922

美 마약국이 SOS 요청했다, 한국 부부가 만든 ‘100억 앱’
https://www.joongang.co.kr/article/25259181

인터넷 안 터져도 번역된다…미국여행 ‘최강 통역기’ 정체
https://www.joongang.co.kr/article/25261972

요샌 챗GPT 쓰면 하수입니다…‘문송’도 엑셀 천재 만들 조수
https://www.joongang.co.kr/article/25262847

아아 마셨는데 혈당 튀었다, IT 기자의 ‘팔뚝 침’ 실험
https://www.joongang.co.kr/article/25261203
」

박민제·김남영 기자 letmein@joongang.co.kr