“AI 발달할수록 인간 창의력 부각” “범죄악용 막는‘레드팀’강화를”[AI 스탠더드, 한국이 만들자]

■ AI 스탠더드, 한국이 만들자 - (6) 인류와 AI가 공존하려면
프레이 옥스퍼드대 교수
“AI, 창작보다는 조합에 능숙
결국 기계로 복제할 수 없는
대면관련 기술 더 부각될 듯
콘텐츠 업종 경쟁은 심화돼”
보스트롬 옥스퍼드대 교수
“AI‘초지능’도달은 시간 문제
통제안하면 엄청난 재앙 우려
인간의 윤리 가치 학습시키고
6~12개월 테스트기간 거쳐야”

칼 베네딕트 프레이 옥스퍼드대 마틴 스쿨 교수(왼쪽). 닉 보스트롬 옥스퍼드대 인류미래연구소(FHI) 소장.

런던=이예린 기자 yrl@munhwa.com

“챗GPT가 연애 편지를 잘 쓴다면, 결국 직접 만나서 데이트를 어떻게 하느냐가 훨씬 더 중요해질 겁니다.” 영국 옥스퍼드대에서 인공지능(AI)과 일에 대해 연구하는 칼 베네딕트 프레이 교수는 “AI가 발달할수록 대면 소통 능력이 중요해질 것”이라고 말했다. AI 시대에는 인간의 창의력도 더욱 부각될 전망이다. 챗GPT와 같은 생성형 AI는 최고 수준이 아닌, 온라인 데이터에 기반한 평균적이고 표준적인 콘텐츠를 만들어내기 때문이다. 프레이 교수는 “생성형 AI는 ‘새 작품’을 만들기보다는 기존 아이디어의 ‘새 조합’을 생성하는 데 능숙하다”고 덧붙였다. 석학들은 AI와 함께 잘 살기 위한 몇 가지 조건들을 내걸었다. 옥스퍼드대 인류미래연구소(FHI) 소장인 닉 보스트롬 교수는 “AI는 사이버 범죄는 물론, 생화학 무기 제조에 악용될 수 있다”며 “이를 막기 위해 더 강력한 ‘AI 레드 팀’이 꾸려져야 한다”고 목소리를 높였다. 보스트롬 소장은 “AI 혁신 기술에 대해 6∼12개월의 테스트 기간을 거쳐 출시할 수 있도록 해야 한다”며 “AI가 이처럼 조건부로 발전한다면 인류에 좋은 영향을 가져올 것”이라고 말했다.

지난 10일(현지시간) 옥스퍼드대 마틴 스쿨 회의실에서 만난 프레이 교수는 ‘AI 시대에 인간의 어떤 특성이 경쟁력을 갖느냐’는 질문에 “기계로 복제할 수 없는, 대면 관계에 대한 프리미엄이 더 커질 것”이라며 “인간은 가상보다는 실제 만나서 대화할 때 더 납득하는 경향이 있다”고 답했다.

그는 “실제로 의사가 환자들에게 생명을 구하는 치료를 받게끔 설득할 때 가상보다는 만나서 하는 것이 더 잘 이뤄진다는 연구가 있다”며 “AI 시대엔 그러한 능력이 더욱 귀해질 것”이라고 강조했다.

창의력도 AI와 차별화되는 인간의 경쟁력으로 꼽힌다. 하지만 작가, 유튜버 등 콘텐츠 창작 업종의 경쟁은 더욱 치열해지고 임금은 낮아질 것으로 예상된다. 프레이 교수는 “모두가 생성형 AI를 통해 평균 이상의 창작 능력이 생기기 때문에 경쟁도 심화될 것”이라며 “급증하는 공급을 수요가 뒤받쳐 주지 못해 크리에이터들의 수입은 적어질 전망”이라고 말했다. 그는 “창작자와 콘텐츠가 아무리 많아져도 시청자가 넷플릭스 등 콘텐츠를 소비하는 시간은 한정돼 있기 때문”이라고 덧붙였다.

프레이 교수는 AI 자동화 과정이 비교적 느리게 진행될 것으로 내다봤다.‘병목 현상’(bottleneck effect)이 적용되기 때문이다.

AI가 사회적이거나 창의적인 업무를 완전 자동화하는 시대까지는 아직 한참 멀었다고 프레이 교수는 판단했다. 그는 “웹에서 열악한 AI 제작 콘텐츠가 급증해 훈련 데이터 소스로서 품질이 점차 떨어질 것”이라며 “챗GPT4를 생성하는 데 든다고 추산됐던 1억 달러(약 1350억 원)의 훈련 비용은 에너지값이 오르면서 훨씬 비싸지는데, 기후 문제가 커지면서 이 같은 접근 방식이 계속될 수 있을지 의문”이라고 설명했다.

한편, 스웨덴계 독일 경제학자이자 경제사학자인 프레이 교수는 옥스퍼드대 마틴 스쿨에서 ‘일의 미래’(Future of Work) 프로그램을 담당하고 있다. 그는 2013년 “자동화·로봇 기술의 진전으로 향후 20년 안에 미국의 일자리 중 47%가 사라질 것”이라는 내용을 담은 ‘고용의 미래’ 보고서를 써 세계의 주목을 받았다. 2019년에는 책 ‘테크놀로지의 덫: 자동화 시대의 자본, 노동, 권력’을 출간했으며 이 책은 파이낸셜타임스(FT)에서 ‘올해의 최고 도서’로 선정되기도 했다.

보스트롬 소장은 이날 문화일보와 비대면 인터뷰를 통해, AI가 모든 면에서 인간의 인지 능력을 뛰어넘는 ‘초지능’(Superintelligence)에 도달하는 것은 시간 싸움이라고 강조했다. 그러면서 인류와 AI의 상생을 위해 정확한 규제가 필요하다고 경고했다.

그는 “AI가 인간 수준의 지능에 도달하면 초지능으로 발전하는 것은 예측하기는 어렵지만 시간 문제일 뿐”이라며 “인간이 AI를 정확하게 통제해야 인류와 공존할 수 있다. 그렇지 않으면 엄청난 재앙이 일어날 수 있다”고 우려했다. 대량파괴무기(WMD)에 대한 접근이 모두에게 개방되거나 선전, 감시, 검열을 그 어느 때보다 효과적으로 지원하는 방식으로 AI가 오용될 수 있다고 보스트롬 소장은 전했다.

보스트롬 소장은 AI에 인간의 가치를 학습시킨다면 인류와 건강한 공존이 가능하다고 봤다. 그는 “전문가가 AI에 도덕 규범을 비롯한 인간의 가치 체계를 정확하게 각인시킬 방법을 연구해야 한다”며 “AI를 잘 통제해 인간 친화적으로 발전하도록 연구해야 한다”고 말했다. 그러면서도 보스트롬 소장은 “AI에 어떤 윤리적 가치를 가르쳐야 하는지는 아직 정립되지 않았다”며 “추후 정립될 이 가치를 AI에 가르치고 자가 학습까지 가능하게 해주는 기술도 발달돼 있지 않다”고 했다.

그는 AI 규제가 기업과 정부 차원에서 적극 관리돼야 한다고도 봤다. 혁신 기술 배포 전후에 취약점을 테스트하는 내외부 조직인 레드 팀이 더 강력하게 운영돼야 한다는 설명이다. 실제로 오픈AI, 메타 등 글로벌 AI 기업들은 레드 팀에 많은 공을 들이고 있다.

보스트롬 소장은 ‘AI와 인류가 이상적으로 공존하는 시기는 언제 올 것으로 보느냐’는 질문에는 “내년 봄에 낼 책에서 이 질문을 다루고 있다”고 예고했다. 베스트 셀러로 꼽히는 2014년 작 ‘초지능’ 이후 10년 만의 출간으로, AI 업계와 학계에 큰 파장을 일으킬 것으로 관측된다.

한편, 보스트롬 소장은 철학은 물론 물리학, 전산신경과학, 수리논리학 분야의 전문가로 알려져 있다. 그는 1998년 결성된 ‘세계 트랜스휴머니스트 연합’(WTA)의 공동설립자이기도 하다.

보스트롬 소장이 자신의 책인 ‘초지능’에서 초지능이 인류를 파멸시킬 수 있다는 경고는 일론 머스크 테슬라 CEO, 마크 저커버그 메타 CEO, 빌 게이츠 마이크로소프트 창업자 등의 지지를 받고 있다.

본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.