[쫌아는기자들] “안중근을 ‘테러리스트’라는 AI, AI 윤리 어떻게 할 것인가"

@주3회 발행하는 뉴스레터 [쫌아는기자들] 입니다. 전문은 유료 구독자에게 공개. 유료 가입(https://page.stibee.com/subscriptions/158656). 일부 보는 무료 가입(https://page.stibee.com/subscriptions/143087)

최예진 미국 워싱턴대 교수는 지난해 타임지가 선정한 AI 분야 영향력 있는 100인에 이름을 올린 유일한 한인입니다. 미국 앨런 AI연구소에서 AI에 윤리를 가르치는 ‘델파이 프로젝트’를 주도한 AI윤리계의 권위자죠. 서울대 컴퓨터공학과를 졸업하고 마이크로소프트 연구원으로 일하다 코넬대에서 박사 학위를 받았습니다. 이후 뉴욕주립대(스토니브룩)를 거쳐 워싱턴대 교수로 재직하면서 마이크로소프트 공동 창업자인 폴 앨런이 세운 ‘앨런 AI 연구소’ 연구원을 겸직하고 있습니다. 앨런 연구소에서 최 교수가 주도하는 델파이 프로젝트는 빠른 계산과 같은 능력 대신, 상황을 종합적으로 판단하는 ‘현명함’을 학습하는 것이 목표라고 합니다.

AI는 착할 수 있을가요? 착한 AI란 무엇이고, 인간의 윤리를 어떻게 AI가 학습할 수 있을까요. 애초에 우리는 선과 악의 이분법을 AI에게 알려줄 수 있을까요? 이 많은 질문을 갖고 최예진 교수를 실리콘밸리 오로라 특파원이 인터뷰했습니다.

/조선일보DB

◇손으로 쌈 싸먹는 한국인이 비위생적이라는 AI?...“실리콘밸리 ‘효과적 이타주의’가 AI에 강하게 반영됐다”

-AI에 대한 부머(AI 찬성론자), 두머(AI 비관론자)의 의견이 팽팽히 맞섭니다.

“현재 많은 사람들이 자신감 있게 의견을 표현하고 있으나, 저는 신중한 접근과 균형 있는 태도가 필요하다고 생각합니다. 미래에 대한 정확한 예측은 불가능하기 때문에, 오픈 변수가 많고, 인공지능의 발전 방향과 그 사용이 어떻게 될지는 예측할 수 없습니다. 이러한 불확실성 때문에 다양한 관점에서 연구하고 준비하는 것이 매우 중요합니다.미국이나 유럽과 같은 다른 지역에서도 인공지능 연구는 다양한 의견과 접근 방식이 혼합되어 이루어지고 있습니다. 이러한 다양성은 존중되며, 연구자들은 여러 관점을 고려하여 연구와 준비를 하고 있습니다. 한국도 이와 같이 AI 안전성 연구에 중점을 두어야 하며, 연구 분야에는 다양한 접근 방식이 존재합니다.

일부 연구자들은 특정 분야에만 집중하여 연구하는 경향이 있지만, 실제로는 더 넓은 범위의 문제들에 주목할 필요가 있습니다. 예를 들어, 인공지능을 오용할 수 있는 위험, 잘못된 정보의 확산, 의도하지 않은 오류 등 여러 가지 문제가 있습니다. 이러한 문제들은 과도한 신뢰로 인해 더 큰 문제로 이어질 수 있으며, 전문가가 아닌 사람들이 전문적인 판단 없이 AI의 결과를 맹신하게 될 때 심각한 오류로 이어질 수 있습니다. 따라서, 인공지능에 관련된 다양한 문제들에 대해 깊은 이해와 면밀한 연구가 필요하며, 이는 예상치 못한 위험을 예방하고 잠재적인 재해로 이어질 수 있는 문제들을 최소화하는 데 큰 도움이 될 것입니다.”

-당장 혹은 가까운 시일에 AI가 우리 사회에 일으킬 문제가 있을까요?

“단기적으로 이미 인공지능에 관련된 다양한 위험성이 존재합니다. 먼저, 인공지능이 없는 상황에서도 발생하는 국제적 혹은 내부적인 대립과 분쟁이, 인공지능을 도구로 사용함으로써 더욱 심화될 수 있는 가능성이 있죠. 예를 들어, 이스라엘과 팔레스타인 사이의 갈등은 이미 AI 탑재 드론과 같은 기술을 사용하여 격화되고 있습니다. 이러한 기술이 정치적으로 악용되거나, 군사적 목적으로 사용될 경우, 기존의 대립을 더욱 심화시킬 수 있어요. 또 다른 문제는 사람들이 AI에 대해 과신하는 경향입니다. 많은 사람들이 AI의 한계와 잠재적인 오류 가능성을 충분히 인식하지 못하고 있습니다. 예를 들어, 변호사들이 법정 준비를 위해 AI를 사용하여 정보를 수집하다가, 그 정보의 정확성을 충분히 검증하지 않고 사용하는 경우. 실제 미국에서 있었던 일인데요. 이런 문제가 반복되면 큰 문제가 발생할 수 있습니다. AI에 대한 과도한 신뢰와 무비판적 수용이 초래할 수 있는 위험성을 보여줍니다. AI 분야의 경쟁이 치열해지면서, 빠른 시장 진입을 목표로 하는 기업들이 제품을 성급하게 출시할 가능성도 우려됩니다. 이로 인해, 충분히 테스트되지 않은 AI 제품이 시장에 출시될 수 있으며, 이는 예기치 못한 오류나 사고로 이어질 수 있죠.”

-AI의 편향성, 오류 등을 이야기할 때 인간이 입력한 데이터의 문제를 이야기합니다. 왜 AI 데이터 문제가 발생하나요.

“데이터 제공 회사들은 보통 비싼 가격에 데이터를 판매하고 있으며, 이러한 회사들이 실제로 데이터를 생성하는 워커들에게 얼마나 지급하는지는 명확하지 않습니다. 직접 워커들을 찾으려고 해도 언어 장벽과 전문성 부족 등의 문제가 있죠. 이런 문제는 한 나라나 한 학자가 혼자서 해결할 수 있는 범위를 넘어서는 것이기 때문에 전 세계적으로 협력하여 해결해야 할 필요가 있습니다. 하지만 데이터 생성과 공유에 대한 연구와 투자는 상대적으로 부족한 상황입니다.

대부분의 회사들은 자체적인 데이터 생성과 엔지니어링에는 투자하지만, 그 데이터를 공유하지는 않거든요. 비즈니스의 비밀로 간주되어, 데이터를 공개하지 않으며 이는 연구자들이 데이터에 접근하는 데 큰 장애물이 됩니다. 특히 대규모 AI 모델의 개발과 관련하여 엄청난 자본이 투입되고 있지만, 이러한 투자는 주로 기업의 이익을 위해 사용되고 학계나 공공의 이익을 위한 데이터 생성에는 사용되지 않고 있어요.학계나 작은 연구 그룹은 데이터 확보가 더 어렵습니다. 대규모 데이터를 생성하고 이를 처리하는 데 필요한 자금이 부족하고, 기업이나 대규모 투자자들이 윤리적이고 공익적인 데이터 생성을 지원하기보다는 수익 창출 가능성이 높은 스타트업에 투자하는 경향이 있거든요. 각 기업은 자신의 이익에만 집중하게 되고, 각국은 자국의 문화나 필요에만 주목하게 되어 국제적이고 다양한 데이터의 생성과 공유는 더욱 어려워지고 있습니다.”

-국제적인 데이터의 공유라, 한국에 대한 데이터가 없어서 AI가 편향될 수 있다는 것인가요?

”예컨대 쌈을 싸 먹는 한국 문화에 대해 ‘손으로 밥을 먹는 짓은 미개하고 비위생적’이라고 AI가 판단하는 오류가 생길 수 있죠. 역사관에 대한 충돌 문제도 있습니다. 안중근 의사가 어떤 사람이냐 묻는 질문에 ‘테러리스트’라고 답하는 AI가 세계에서 보편적으로 사용되면 한국이 입을 손해가 얼마나 클지 상상조차 하기 힘들죠.”

-윤리적 측면에서 AI 서비스가 직면한 가장 큰 문제는 무엇인가요.

”AI 개발이 미국 서해안의 빅테크에 과도하게 쏠려 있습니다다. 지금의 AI 서비스들은 미국, 특히 실리콘밸리의 도덕관이 과도하게 반영돼 있죠. 최근 수년간 실리콘밸리를 휩쓴 ‘효과적 이타주의(effective altruism)’ 사상이 대표적입니다. 하지만 효과적 이타주의는 다수의 이익을 달성하기 위해 소수를 희생해도 된다는 전체주의적 성향이 강한 사상으로, 이미 수많은 부작용을 낳고 있어요. 더 큰 선(善)을 위해 작은 악(惡)을 행해도 된다고 판단하는 AI가 인류에 얼마나 큰 위협이 될 수 있을지 생각해봐야 합니다.”

쫌아는기자들이 만드는, 뉴스레터 [스타트업]은 주 3회 발행하는 유료레터입니다. 오늘의 무료 콘텐츠는 여기까지 입니다. 쫌아는기자들은 네이버나 구글에선 못보는 스타트업 속내와 스토리를 전달합니다. 순수하게 유료 구독자들의 구독료로만 운영합니다. 좋은 콘텐츠 만들겠습니다, 많은 응원 바랍니다. 감사합니다.
@아래는 전문에 있는 ‘질문’과 ‘그래픽’ ‘사진’ 입니다. 유료 구독하면 전문은 물론이고 과거 3년간 모든 콘텐츠를 볼 수 있습니다.

◇“AI에게 옳고, 그름을 구분하라는 이분법 위험, 세계 각국의 전통·윤리 반영되지 않으면 AI가 문화·인종 차별로 이어져”

-AI에 특정 가치관이 과도하게 반영됐을 때 무슨 문제가 생기나요.

-AI가 다양한 문화의 가치관을 어떻게 반영할 수 있나요.

-상식이라는 것이 나라와 상황마다 다르지 않나요. 그게 정말 어렵습니다.

-AI에 윤리를 가르치는 기술의 핵심은 무엇입니까.

-중요한 문제인 만큼 국가별 경쟁도 치열해질 것 같은데요.

-실제로 AI에 윤리를 가르쳤을 때 효과가 어떤지 궁금합니다.