[K-VIBE] 이은준의 AI 톺아보기...인간에게 사과하는 AI?

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천5백만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 이에 연합뉴스 K컬처 팀은 독자 제위께 새로운 시선의 한국 문화와 K컬처를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재하며 K컬처 팀 영문 한류 뉴스 사이트 K 바이브에서도 영문으로 보실 수 있습니다.]

｜이은준 미디어아티스트, 서울과학종합대학원대학교 교수

전시장 벽면 이은준 교수 제공

미국 샌프란시스코에는 한국계 미국인 오드리 김이 세계 최초로 인공지능의 위험성을 알리고자 설립한 '어긋난 인공지능 박물관'(Misalignment Museum)이 있다. 이 박물관은 2023년 개관 당시 영국 BBC 방송에 소개돼 세계적으로 주목을 받기도 했다.

필자가 방문했을 때도 인공지능(AI)의 잠재적 위험성과 가능성을 탐구하는 주제로 한 전시가 계속 열리고 있었다.

관람한 전시의 주제는 '인간에게 사과하는 인공지능:Apology from AI to Humans'로, 인공지능이 인류를 거의 멸망시킨 후 자신의 실수를 인식하고 남은 인간에게 사과하는 '포스트 아포칼립스 미래'를 상상하는 주제다.

작품은 우리가 일상에서 마주하게 되는 AI 기술이 인간 사회에 미치는 문제를 다방면으로 다루고 있었다. 이는 관람객들에게 앞으로 AI 기술이 가져올 문제들을 상기시키고 그 해결 방안을 고민하게 하는 의도다.

전시장에 들어서면 가장 먼저 벽면에 쓰인 "Sorry for killing most of humanity"라는 문구가 눈에 들어왔다. 이 문구는 전시의 핵심 주제를 명확히 드러낸다. 인공지능이 인류를 멸망 직전까지 몰고 간 후 그것이 나쁜 일이라는 것을 깨닫고 이를 반성하며 남은 인류에게 사과하는 설정이다.

이는 인공 일반 지능(AGI; Artificial General Intelligence)가 인류를 위협할 수 있는 잠재적인 인류의 적이라는 경고 메시지이기도 하다.

전시 작품 중 가장 주요한 작품으로 보이는 'The Pier Group'의 '종이 클립 포옹'(Paperclip Embrace)은 1만 5천여개의 종이 클립으로 만들어져 있는 구조물이다.

이 작품은 스웨덴 철학자 닉 보스트롬(Nick Bostrom)의 2003년 논문 'Ethical Issues in Advanced Artificial Intelligence'에서 나온 '종이 클립 극대화'(Paperclip Maximizer) 실험에서 영감을 받았다고 한다.

이 실험은 AI가 특정 목표(종이 클립 생산 최적화)를 추구하는 과정에서 목표를 달성하기 위해 인류를 파멸시킬 수 있는 가능성을 경고한다.

이러한 경고는 현재 AI를 발전시키는 우리의 태도를 재정립하게 하고 앞으로의 AI 개발 방향성과 이에 대한 규제와 통제를 어떻게 만들 것인지에 대해 심각한 고민을 하게 했다.

종이클립으로 두 인간의 포옹을 형상화한 '종이클립 포옹'(Paperclip Embrace) 이은준 교수 제공

또 하나의 흥미로운 작품으로는 닐 멘도즈(Neil Mendoze)의 '스팸봇'(Spambots)이 있었다.

이 작품은 영국의 작가이며 철학자인 올더스 헉슬리(Aldous Huxley)의 '멋진 신세계'(Brave New World)에서 영감을 받았다고 한다.

소설은 미래의 세계를 그려낸 이야기로, 기술의 발달을 통해서 사회적 안정을 이룰 수 있다는 것을 역설한다. 하지만 이 작품은 기술의 발전에 따라 AI가 생성할 수 있는 허위 정보와 스팸 콘텐츠의 위험성을 나타내며, AI 기술의 부정적 측면을 강조한다.

스팸 통조림을 통해 스팸 콘텐츠의 위험성을 나타내는 작품이 귀여워 보이지만, 이 작품 내면에는 무서운 이면이 있다는 반전이 흥미로웠다.

닐 멘도즈 (Neil Mendoze)의 스팸봇(Spambots) 이은준 교수 제공

알리 니크랑, 시미즈 요코, 아르스 일렉트로니카 퓨쳐랩(Ali Nikrang, Yoko Shimizu, Ars Electronica Futurelab)의 '초음파 합성'(Sonosynthesis)은 AI 기반 공동 작곡 시스템이다. 이 작품의 특이한 점은 생물학적 패턴을 음악 작곡에 활용한다는 점에 있다. DNA 패턴으로 음악을 만들 수 있는 작곡 AI 시스템을 사용해 이로 탄생한 음악의 지식재산권은 인간에게 있을지 AI에 있을지 고민하게 했다.

알리 니크랑, 시미즈 요코, 아르스 일렉트로니카 퓨쳐랩의 'Sonosynthesis' 이은준 교수 제공

에우리페우스(Eurypheus)의 '창세기: 태초에 말씀이 계시니라. / 시작은 단어였다'(Genesis: In the beginning was the word)는 이중적 의미를 가지고 있는 재치 있는 작품이다.

이 작품은 미켈란젤로의 천지창조를 단어로 인식하게 하여 대형 언어 모델(LLM; Large Language Model)이 사용된 컴퓨터가 바라본 그림을 표현한 것이다. 인간이 그림이 보고 아름답다고 느끼는 것과 AI가 바라보는 그림의 관점 차이를 보여준다.

에우리페우스의 Genesis: In the beginning was the word 이은준 교수 제공

'어긋난 인공지능 박물관'은 이처럼 AI 기술이 인류에 미칠 수 있는 부정적 영향을 여러 방면에서 탐구하며 기술 개발의 윤리적 문제를 제기한다.

필자가 본 전시는 AI의 엄청난 가능성을 인식하면서도, 그 위험을 경계하고 안전한 발전을 도모하기 위한 대화의 장을 제공한다.

AI 기술이 계속 발전함에 따라, 우리는 그 윤리적 사용과 사회적 책임에 대해 더 많은 고민과 논의가 필요하다. 전시는 그러한 논의의 출발점으로서 중요한 역할을 하고 있다.

앞서 밝혔듯이 이 전시의 주제는 AI가 인류를 멸망시키고 인간에게 사과하는 것이다. 이는 AI가 단순한 도구를 넘어 자율성을 가진 존재로 발전될 수 있는 가능성을 탐구한다.

여기에는 중요한 철학적 질문이 나온다. AI가 자율성을 가진다면, 그 책임은 누구에게 있는가? AI는 인간처럼 도덕적 책임을 질 수 있는 존재로 간주할 수 있는가?

이러한 질문은 기술의 발전과 함께 발생하는 윤리적 문제를 깊이 있게 성찰하게 만든다.

'AI Taking human jobs'라는 경고 안내판과 빗자루 이은준 교수 제공

우리는 기술에 점점 더 의존하게 되면서 기술이 우리의 일상과 사회 구조에 미치는 영향을 간과하기 쉽다. 본 전시는 AI가 인간의 삶에 미치는 영향을 강조하면서, 우리가 기술을 통제할 수 있는 능력을 갖추고 있는지, 아니면 기술이 우리를 통제하고 있는지를 다시 생각하게 만든다. 이는 기술 의존 사회에서 인간의 위치와 역할을 재고하게 만든다.

또한 AI 기술의 발전은 많은 윤리적 딜레마를 동반한다. 개인정보 유출, 알고리즘 편향성, 자율주행차 사고 등은 단순한 기술적 문제가 아니라 사회적, 윤리적 문제로 다뤄야 한다. 전시는 이러한 문제를 시각적으로 표현하며, 우리가 기술을 개발하고 사용할 때 고려해야 할 윤리적 기준과 사회적 책임을 상기시킨다.

AI가 인간처럼 사과하는 설정은 흥미롭지만, 이는 AI를 과도하게 의인화하는 것일 수 있다. 현재 AI는 결국 인간이 만든 도구에 불과하며, 책임은 결국 인간에게 있다. AI의 의인화는 기술의 문제를 마치 AI 자체의 문제로 전가할 수 있다는 점에서 신중한 접근이 필요하다.

또한 전시는 기술의 문제를 제기하는 데 중점을 두고 있지만, 구체적인 해결 방안에 대해서는 다소 부족하다. 문제를 제기하는 것만으로는 충분하지 않으며, 이를 해결하기 위한 구체적인 논의와 방안 제시가 필요하다. 관람객들에게 문제의식을 심어주는 것뿐만 아니라, 실질적인 해결 방안에 대한 고민을 촉발해야 한다.

따라서 기술의 윤리적 사용에 대한 문제는 단순히 전문가의 논의로 끝나서는 안 되며, 전시를 통한 대중의 참여와 교육이 중요하다. 이러한 상호작용을 바탕으로 더 많은 사람에게 기술의 윤리적 문제를 알리고, 함께 해결책을 모색하는 방향으로 나아가야 한다.

필자는 사람들이 문제의식을 가질 수 있도록 유도하는 이러한 전시, 교육 및 예술 프로그램이 더 많이 필요하다고 강조한다.

<정리 : 이세영·성도현 기자>

▶제보는 카톡 okjebo