20대 영국 AI연구원이 말하는 'AI시대'의 명과 암

[인터뷰] AI가 축복인가, 재앙인가…결국 인간에 달렸다

오늘날 AI(인공지능)은 우리사회 여러 부문에서 도입되어 빠르게 진화하고 있다. 의료보건, 금융재정, 과학기술, 교통, 예술 등 다양한 분야에서 활용되고 있다. 미래의 AI 연구 방향도 윤리적 문제와 더불어 AI에 대한 이해와 해석을 일반인들이 쉽게 할 수 있도록 향상하고 진전시키는 것이다. 진리나 지식, 힘, 권력은 절대 소수의 특정 세력이 전유해선 안 되며, 독점은 곧 위험과 파괴를 초래한다.

AI는 과연 인류에게 축복일까, 아니면 재앙일까? 역사학 전공자로 AI에는 철저한 문외한인 나는 이런 질문과 우려에 대한 답이 너무나 궁금했다. 그래서 지난 며칠간 AI 연구원인 조나단과 장시간 AI를 주제로 다양한 대화를 나누었다. 조나단은 영국 랭카스타 대학과 대학원에서 코로나19, 물리학, 화학, 생물학, 수학 등을 포함한 자연과학을 공부했으며, 지금 런던의 한 AI 연구소에서 3년차 연구원으로 일하고 있다. 이제 AI는 직장에서 그가 매일 다루는 그의 '주요업무'일 뿐 아니라 퇴근 후나 주말에는 그의 '취미'이자 '오락'이다. 즉 그는 AI '환자'이자 동시에 AI에 미쳐있는 젊은이다. 조나단은 필자의 아들이기도 하다.

아래는 대화의 주요 내용을 정리한 것이다.

- 처음 AI를 언제, 어디서, 누가, 어떻게 발명하게 됐나?

"1. 철학적 기반:
지능적인 기계를 창조한다는 생각은 고대문명시대의 인간들이 이미 생각했다. 고대 신화나 설화를 보면 이야기를 보면 당시 사람들은 사색과 상상을 통해 지능적인 기계들이 인간처럼 지성과 의식을 갖고 인간과 함께 존재하는 것으로 묘사한다. 이런 고대문명의 철학은 결국 오늘날 AI 문제의 토대를 만들어 놓았고 기본원리가 됐다.

2. 수학적 그리고 이론적 공헌:
• 영국의 수학자이자 물리학자인 앨런 튜링(Alan Turing, 1912-1954)은 AI 발전에 중추적 인물이었다. 그는 범용 튜링 기계(universal Turing machine)란 개념을 1930년대 만들었는데 이 기계는 다른 기계의 논리를 모의실험(시뮬레이션) 할 수 있었다. 1950년에 그가 소개한 유명한 튜링 테스트는 인간의 지성과 행동을 기계를 통해 인간과 구별할 수 없을 정도로 유사하게 보여줄 수 있는 능력을 갖추도록 설계되었다.
• 공식적인 논리와 알고리듬(일련의 산법): 체코 수학자 커트 고델(Kurt Gödel. 1906-1978)과 미국 수학자 알론조 처치(Alonzo Church, 1903-1995)는 공식적인 논리와 알고리듬 이론을 개발함으로써 컴퓨터 사용을 이해할 수 있도록 이론적 기반을 마련해 주었다.

3. 초기 컴퓨터와 인공두뇌연구:
• 1940년대 미국에서 만들어진 최초의 본격적 컴퓨터 에니악(ENIAC)은 최초의 AI 연구를 위해 꼭 필요한 하드웨어를 제공해 주었다.
• 인공두뇌연구를 학문적으로 처음 연구한 사람은 미국의 컴퓨터 과학자 노버트 위너(Norbert Wiener, 1894-1964)였다. 그는 기계와 생물의 의사소통, 조정, 규정 등에 대해 연구함으로써 초기 AI의 개념을 만드는데 결정적 영향을 미쳤다.

4. 학문으로서 AI의 탄생:
• 처음으로 'AI(Artificial Intelligence)'이란 용어를 만들어 사용한 사람은 미국 컴퓨터 과학자 존 메카시(John McCarthy, 1927-2011)로 1956년 미국 다트머스 대학 콘퍼런스에서였다. 그리고 이때부터 AI는 공식적으로 학문의 한 분야로 인정받기 시작했다. 당시 이 콘퍼런스에서 신경회로망, 컴퓨터사용 이론, 자동화 지능 등의 주제가 본격적인 학문의 연구주제로 부각되었다.

5. 초기 AI 프로그램:
• 1950년대 후반부터 1960년대 초반 초기 AI 프로그램이 개발되었다. 당시 미국 컴퓨터 과학자 알랜 뉴웰(Allen Newell, 1927-1992)은 '논리 이론가' 그리고 미국 정치학자 허버트 사이몬(Herbert A. Simon, 1916-2001)은 '일반 문제 해결사' 또 독일계 미국 컴퓨터 과학자 조셉 위젠바움(Joseph Weizenbaum, 1923-2008)은 원시적 자연 언어 처리 프로그램인 '엘리자(ELIZA)'라는 제목의 논문을 발표했는데 이 논문들이 초기 AI 프로그램으로 평가되고 있다.

6. 불경기의 전조가 되는 벼락경기시대(Boom and Bust Cycles):
• 하지만 그 후 AI 분야는 미국정부와 기업의 연구자금 삭감과 무관심으로 불경기를 겪었다. 그래서 이 시기는 'AI의 겨울(AI Winters)'로도 알려져 있다.

7. 기계 학습과 현대 AI의 상승:
• 최근 몇 십 년 동안 기계 학습, 특별히 심화 학습이 큰 진보를 이루었다. 그 결과 AI의 연구와 적용이 부활하고 재기하는 효과를 초래했다. 그 결과 컴퓨터의 용량도 커졌고 컴퓨터를 통한 대량의 자료검색과 처리가 가능해졌으며, 알고리듬(일정한 계산 기준을 정하기 위한 일련의 규칙)이 크게 개선되었고 이러한 것들은 결국 AI의 역량을 막강하게 증진시켰다."

▲영국의 한 AI연구소에서 연구원으로 일하고 있는 조나단. ⓒ김성수

- 개인적으로는 어떻게 AI에 관심을 갖게 됐나? 동기나 계기가 있었나?

"지난 2022년 말까지, 나는 항상 AI의 진전, 즉 예술창조, 음성복제, 인간과 닮은 대화 등을 그저 먼 미래의 일로 생각했다. 나는 AI가 우리 생활에 적용되기까지는 최소 5-10년은 걸릴 것으로 생각했다. 하지만 나의 이런 예상을 벗어나 지난 1년여 동안 AI는 엄청난 진전을 이루었다. 나는 이제 미래가, 내가 예측했던 몇 년 후 장래가 아닌, 지금 바로 이 순간의 현재에 이루어져가고 있는 것을 실감한다. 나는 지금 이러한 진전을 아주 가까이 따로 가고 있다. 그리고 그런 가까이 다가온 미래와 개인적으로는 물론 AI 연구소의 연구자로서 매일 매일 연구하고 있다."

- 현재 직장에서는 AI와 관련해 어떤 업무를 하고 있나?

"나는 AI를 개인 사생활에서는 물론 직장의 AI 연구원 차원에서 매일매일 사용하고 있다. 일상에서 나는 OpenAI's GPT-4 모델(개방형 AI, Generative Pre-trained Transformer 4)을 이용하여 여러 문서 코드를 검토하고 동시에 문제를 해결하기 위한 대안을 제시한다. 그럼으로써 전에 우리가 인간으로서 인식하지 못했던 문제들을 AI를 활용한 더 효율적인 방법을 활용해 해결하고자 한다.

AI를 활용하면 인간은 엄청난 시간과 자원을 줄일 수 있고 동시에 엄청난 것을 배울 수 있다. 내 직장인 연구소에서 나는 우리 인간생활에 필요한 모든 상품의 모든 면을 알 수 있게 해주는 도구를 만들고 있다. 또한 비전문가인 일반인들도 쉽게 동시다발적으로 여러 일, 즉 한 두 가지의 일이 아니라 20-30가지의 일을 한 번에 할 수 있는 반자동 플랫폼을 만들고 있다."

- AI가 인류에게 가져올 장점과 이익은?

"AI의 가장 큰 이점은 인간이 일상생활의 반복적이고 재미없는 일에서 벗어날 수 있는 것일 것이다. 최소한 내가 일하는 분야에서 인간의 역할은 관현악 편곡자나 건축가 같은 것이 될 것이다. 인간은 전체적인 비전과 목표를 정해주고 AI가 이러한 인간의 비전과 목표를 성취하기 위해 거의 모든 일을 다 해 줄 수 있을 것이다. 그것은 인간이 지루하고 고단한 노동과 가사에서 해방될 수 있음을 의미한다. 그럼 인간은 여가시간에 남을 돕는 의미 있는 일이나 공동체를 위한 봉사활동 등을 통해 좀 더 가치 있는 삶을 추구 할 수 있지 않을까?"

- 그럼 AI가 인류에게 가져올 단점과 문제는?

"단기적으로, 가장 큰 문제는 거의 모든 일이 AI를 통해 자동화됨으로써 현재 직장의 상당수가 사라질 위험에 있다는 것이다. 특별히 언어통역, 회계재정, 작품창작, 광고 분야 등에서 조만간 시작될 것이다. 생성적인 AI가 더욱 향상될수록 현재 직장에서 인간의 역할을 더 대신하게 될 것이다. 중장기적으로, AI 자체가 인간의 도움 없이 스스로도 또 다른 AI를 만드는 것도 충분히 가능하다. 그런 면에서 인류의 미래는 공상과학 영화나 소설에서 보는 인간이 필요 없는 디스토피아 같은 세계가 될 수 있다. 이런 것은 물론 가까운 미래에 인간의 생존 자체를 정말 잠재적으로 크게 위협하는 것이 될 수 있다."

- AI가 가져올 단점과 문제를 예방하고 해결하기 위해 정부 또는 우리는 어떻게 해야 하나?

"개인적으로는 이런 다가올 위험을 예방하는 최고의 해결책이 어디에 있는지 확실하지 않다. AI로 인해 인간이 직업을 잃는 것은 시간 문제다. 이상적인 미래는 인간이 살기 위해, 생존을 위해 일하지 않아도, 수입을 걱정하지 않아도, 살 수 있는 세계일 것이다. 그런 면에서 정부에서 주도하는 보편적 기본소득이 필요할 것이다. 일을 하고 싶어도 직장이 거의 없으므로. 하지만 단기적으로는 AI 때문에 많은 직업이 필요 없게 되지만 또 AI와 관계된 많은 새로운 직장이 생길 것이다.

중장기적으로 피해야 할 상황은 미래에 AI로 생긴 풍요와 이득을 소수의 엘리트가 독점하고 다수의 인간은 그저 쓰레기처럼 처리되는 비극일 것이다. 만약 소수 엘리트만이 AI로 생긴 풍요와 이득을 독점하게 된다면 인류는 미래는 정말 공상과학 영화의 디스토피아처럼 될 것이다. 다행스럽게 현재 미국 AI회사 OpenAI가 '민주화'의 길을 추구하는 것처럼 보인다. 즉 가능한 많은 사람들이 AI를 폭넓게 사용할 수 있도록 하는 길 말이다.

AI가 미래에 '악당'화 되는 것을 막기 위해 인간은 어떤 선택을 해야 할까? 아래 3가지 시나리오를 상상해보자. 첫째, 아무 제약 없이 AI를 발전시키고 무슨 일이 일어나는가 보자는 시나리오. 둘째, 인류가 적절한 대안을 마련 할 때까지 AI 프로그램을 아예 멈추게 하거나 개발 속도를 과감히 늦추는 시나리오. 셋째, 절충 방법으로, AI는 발전시키되 관련 반도체나 하드웨어는 발전의 속도를 과감히 늦추는 시나리오. 셋째 안을 택할 경우 AI가 만약 '악당'화 되더라도 AI를 받쳐 줄 물리적 반도체나 하드웨어가 없거나 부족하니 인간에 대한 피해를 최소화 하거나 통제 할 수 있기 때문이다.

개인적으로 나는 AI의 발전 속도를 멈출 수 없다고 본다. AI를 향한 인간의 호기심, 개발 욕구는 멈출 수 없는 기차와도 같지 않을까? 만약 미국 AI회사 OpenAI가 지금처럼 AI를 더욱 발전시키지 않는다면 다른 누군가는 골방에 몰래 숨어서라도 지금의 AI를 더욱 발전시킬 것이다. 역사의 대세를, 문명의 흐름을 인간이 피할 수 없지 않겠는가?"

- AI를 견제와 균형이 없는 비민주적인 국가, 즉 러시아, 북한, 중국 등에서 사용할 경우 우려가 되는 상황은?

"지금 이 순간에도 나는 중국이나 러시아 등에서 적극적으로 AI 연구에 엄청난 자원과 인력을 투자하고 있다고 확신한다. 다른 연구 분야와 마찬가지로 AI 연구 분야도 비민주적 국가들은 안전과 국제조약을 무시하고 전적으로 개발에 진력할 것이라고 생각한다. 다행히 현재로서는 미국의 OpenAI, Google 그리고 Anthropic 같은 기업들이 경쟁국인 중국이나 러시아보다 AI 개발에 훨씬 앞서있다고 나는 믿는다. 하지만 올해 OpenAI 코드를 전면개방화 할 경우 앞으로의 국제적 판도는 충분히 바뀔 수도 있다고 본다."

- AI가 또 다른 AI를 만들어서 인간을 노예화 할 경우를 예방하기 위해 정부의 어떤 정책이나 노력이 필요하다고 보나?

"가까운 미래에 AI가 또 다른 AI를 인간의 도움이나 지시 없이 또는 인간이 이해할 수 없을 정도의 높은 수준으로 정교하게 독자적으로 향상시키거나 아예 새로 만들 수도 있을 것이다. 심지어 AI가 의도적으로 인간이 모르게 또는 인간의 통제를 아예 벗어나기 위해 일부러 이렇게 할 수도 있을 것이다.

이런 다가올 문제를 인간이 어떻게 해결 할지는 너무나 어려운 주제다. 민주국가에서 이런 점을 우려해서 AI 연구와 개발을 제약하거나 늦추더라도, 비민주국가에서는 과거 냉전시대 미소의 군사경쟁처럼, 잠재적 안전과 우려를 무시하고서라도 무조건 AI 연구와 개발에 전적으로 진력할 것이다. 지금 북한이 국제사회의 압력을 무시하고 핵미사일 연구와 개발에 무조건 진력하는 것과 유사하다 할 것이다.

AI와 경쟁하기 위해 인간두뇌에 아예 AI의 칩을 이식하자는 엘론 머스크의 제안도 그래서 논의의 여지가 많다. '불에는 불'로라는 접근은 파괴적일 수도 있고 동시에 놀라운 접근법일수도 있다. 두뇌가 아닌 인간의 신체에 부분적으로 AI 칩을 이식하자는 그의 제안도 잠재적으로는 소경이 눈을 뜨고, 귀머거리가 들으며, 절름발이가 걷는 '기적'도 불러일으킬 수도 있지 않을까?"

- AI를 통해 가장 많이 배우고 느낀 점은?

"AI에 대한 위험과 염려가 많은 상황에도, 그 덕에 지금은 세상과 새로운 기술을 배우기가 인류역사에서 가장 손쉬운 시대다. 지금도 일상생활에서 우리는 AI의 덕을 이미 많이 본다. 예들 들면, 냉장고 안에 있는 음식을 사진으로 찍은 후 ChatGPT에 냉장고에 있는 음식을 바탕으로 만들 수 있는 메뉴와 조리법을 알려달라고 지시하면 그 답을 곧 얻는다. 200쪽 짜리 피디에프 책의 각 장의 요지를 두 문장으로 정리하라고 지시하면 AI는 금방 해준다. '상대성이론'을 5살짜리가 이해할 수 있도록 한국어 혹은 영어로 설명하라면 금방 해준다. 새로운 언어를 2주안에 배우기 위한 계획서를 만들어 달라면 만들어 준다. 아기들에게 자기 전에 들려주기 위한 동화를 써달라면 금방 써준다.

동시에 아무런 제약 없이 AI는 내가 집에서 폭탄을 어떻게 만들 수 있는지, 무색무취의 독약 등을 어떻게 만들 수 있는지를 알려 달라고 하면 금방 알려준다. 또 유명인의 목소리를 내가 원하는 내용으로 들려 줄 수 있다. 또 유명인 아니 심지어 평범한 내 이웃 사람의 하지 않은 행동을 마치 실제로 그 사람이 한 것처럼 동영상으로 내게 만들어 줄 수도 있다. 그럴 경우 우리는 조작된 목소리와 동영상을 증거물로 법정재판에 제시 할 수도 있다.

스파이더맨 영화의 밴아저씨 말처럼, '큰 힘, 큰 권한은 큰 책임감이 따라야 한다. 아마 AI 덕에 모든 인간들은 조만간 다 큰 힘과 권한을 누릴 수 있을 것이다. 하지만 우리가 이미 알듯이 큰 권한, 큰 힘을 가진 자들이 모두 다 큰 책임의식을 가진 것은 아니다."

ⓒ김성수

ⓒ김성수

▲조나단이 AI를 활용해 그린 '반(半)인간 반AI' ⓒ김성수

[김성수 <함석헌 평전> 저자]