인간 중심 착한 AI… ‘윤리의식’ 심어라 [서울미래컨퍼런스 2023]

뇌과학자·인문학자 등 머리 맞대
알고리즘 설계 단계부터 적용을
공개 후 문제점 개선은 너무 늦어
인간 지성과 AI 차이점은 호기심
미래 생존 위해선 ‘협업’이 중요

25일 서울 중구 웨스틴조선호텔에서 열린 ‘2023 서울미래컨퍼런스’에서 이정혜(왼쪽부터) 서울대 공학전문대학원 교수 사회로 제임스 랜데이 미국 스탠퍼드대 컴퓨터공학과 교수와 정재승 카이스트 뇌인지과학과 교수가 ‘질문하는 인간과 제시하는 AI+’라는 주제로 토론하고 있다. 이날 행사에는 500여명의 청중이 참석해 세계적인 석학들의 인공지능(AI) 미래에 대한 전망과 해법에 귀를 기울였다. 오장환 기자

“챗GPT로 대표되는 인공지능(AI)의 발달은 ‘빠르다’는 말이 부족할 정도다. 그래서 눈부시게 발전하고 있는 AI가 인간의 직업과 삶에 어떤 영향을 미칠지에 관해 관심이 높다. 하지만 AI로 인해 얻을 수 있는 이익만큼이나 AI가 일으킬 윤리적·사회적 문제도 함께 고민해야 한다.”

서울신문이 ‘빅 퀘스천: AI+, 미래, 탐험’이라는 주제로 25일 서울 중구 웨스틴조선호텔에서 개최한 ‘2023 서울미래컨퍼런스’ 첫 번째 연사로 나선 제임스 랜데이(인간중심 AI연구소 부소장) 미국 스탠퍼드대 컴퓨터공학과 교수는 “인간을 위한 AI를 위해서는 알고리즘 설계 단계부터 윤리를 적용하는 것이 필요하다”고 강조했다.

랜데이 교수는 ‘착한 인공지능의 한계: 인간 중심 인공지능을 향하여’라는 제목으로 기조 발표를 하면서 “AI를 인간에게 도움이 되는 선한 방향으로 개발하겠다고 하지만 쉽지 않은 일”이라면서 “AI 알고리즘이 공개된 뒤에 발견된 문제점을 개선하려면 너무 늦다”고 덧붙였다. 개발과 기획 단계에서 발생할 수 있는 부정적 문제를 예방하는 데도 관심을 가져야 한다는 말이다.

이 때문에 AI 개발 모든 단계에서 AI 전문가 이외에 뇌과학자, 사회학자, 인문학자 등 다양한 분야의 연구자가 모여야 한다고 랜데이 교수는 강조했다.

2018년에 이어 5년 만에 서울미래컨퍼런스를 다시 찾은 정재승 카이스트 뇌인지과학과 교수는 두 번째 기조 강연에 나섰다. 정 교수는 강연에 앞서 “서울미래컨퍼런스는 뇌과학과 AI를 연구하는 저로서는 굉장히 애정을 보내는 행사로 이 자리에 다시 서게 돼 기쁘다”고 말해 청중의 호응을 끌어냈다.

정 교수는 “뇌를 연구하는 사람의 입장에서 인간 지성과 AI에는 강력한 차이점이 있다”며 “그동안 창의성을 인간 고유의 것이라고 했지만 실제로 가장 강력한 차이는 호기심”이라고 했다. 이어 “AI는 지식을 활용해 빠르고 효율적이며 예측할 수 있는 수준의 결과를 제공하지만 인간은 스스로 질문을 던지고 그 질문에 답이 무엇일지 탐색하는 행동을 한다”면서 “AI 시대에는 제대로 된 답을 얻기 위해 어떻게 질문을 할 것인가가 점점 중요해진다”고 덧붙였다. 그러면서 “인간 고유의 영역이 위협받고 있지만 여전히 가치판단의 주체로 자리잡고 AI와 협업해 나가는 것이 필요하다”고 주장했다.

이날 산업계와 학계 오피니언 리더들을 포함한 500여명의 청중들은 AI가 가져오는 미래에 대해 세계적 석학들이 제시하는 해법과 전망에 귀를 기울였다.

한덕수 국무총리는 축사를 통해 “지난해 생성형 AI 챗GPT 등장 이후 AI는 더욱 빠르게 발전해 디지털 전환을 가속하면서 경제와 사회 전반을 바꿔 가고 있다”며 “세계는 AI 기술 패권을 두고 치열한 경쟁을 벌이고 있으며 AI 경쟁력이 국가경쟁력이 되는 지금 ‘질문하는 인간, 답하는 AI’라는 이번 서울미래컨퍼런스의 주제는 매우 시의적절하다”고 말했다.

오세훈 서울시장도 축사에서 “챗GPT는 기술 영역에 머물러 있던 AI를 우리 삶 속으로 깊숙이 끌어들여 ‘AI 대중화’라고 하는 새로운 모멘텀을 제시했다”며 “이번 컨퍼런스에서 각계 전문가들이 제시하는 전략과 대안들을 꼼꼼하게 청취하고 행정에 적용할 수 있도록 하겠다”고 밝혔다.

유용하 기자