공존, 발전 다 좋은데, 통제되지 않는다면… AI는 인간에게 흉기[이순녀의 이사람]

AI 전문가 김진형 카이스트 명예교수의 챗GPT 명암
자연어로 대화·문서 요약·질의응답
시·소설 창작에 사업 계획서도 척척
잘못된 정보에 기반한 편견과 차별
그럴듯한 거짓말 믿는 ‘환각’ 우려
한계 공감하고 인간과 팀 이뤄 협업
윤리적 사용에 대한 깊은 성찰 필요

‘챗GPT 시대’라고 해도 과언이 아닐 정도로 일상생활 곳곳에서 챗GPT가 위력을 발휘하고 있다. 미국 스타트업 오픈AI가 지난해 11월 말 세상에 내놓은 지 5개월 만의 일이다. 대화형 인공지능(AI) 챗봇인 챗GPT는 논문을 작성하고 시와 소설을 창작하며 그림을 그릴 뿐 아니라 코딩 등 프로그래밍도 가능한 고도화된 AI다. 누구든 챗GPT를 활용해 어려운 학습 과제를 해결하고 복잡한 사업 계획서를 완성하며 맞춤형 여행 일정을 짤 수 있다. 이는 시작에 불과할 뿐 지금까지와는 차원이 다른 AI가 인류에게 새로운 미래를 열어 줄 가능성은 무궁무진하다.

다른 한편으론 그럴듯한 거짓말을 천연덕스럽게 늘어놓는 ‘할루시네이션’(환각) 현상, 잘못된 정보에 기반한 편견과 차별 확산, 잠재적인 여론 조작 등 AI가 인간에게 치명적인 해악을 끼칠 여지 또한 무수히 많다. 챗GPT 같은 초거대 AI가 일자리를 빼앗고 일상을 통제하는 디스토피아의 도래를 앞당길 수도 있다.

1세대 소프트웨어 개발자이자 AI 전문가인 김진형(74) 카이스트 명예교수는 “챗GPT의 능력과 한계를 잘 알고 사용해야 한다”면서 “인간과 AI가 상호 보완적으로 팀을 이뤄 일하는 것이 바람직하다”고 말했다. “AI 기술의 지속적인 발전을 촉진하되 통제를 놓쳐서는 안 된다”는 조언도 덧붙였다. 1970~1980년대 미국 캘리포니아주립대(UCLA)에서 컴퓨터과학 박사 학위를 받고 휴스연구소에서 AI를 연구한 그는 1985년 카이스트 전산학과 교수로 부임해 인공지능실 등을 이끌며 수많은 인재를 양성했다. 반세기 가까이 AI 연구에 매진해 온 김 교수를 만나 챗GPT 시대의 의미와 명암에 대해 물었다.

김진형 카이스트 명예교수. 도준석 기자

-역대 AI 기술과 비교해 챗GPT의 충격이 엄청나다.

“1997년 IBM의 딥블루가 체스 세계 챔피언을 이긴 뒤 AI 연구가 활발해졌고, 2010년 딥러닝이 나오면서 기술이 점진적으로 발전했다. 2011년 미국 유명 퀴즈쇼 ‘제퍼디’에서 IBM의 왓슨이 우승한 사건은 충격적이었지만 국내에선 상대적으로 관심이 덜했다. 그러다 2016년 프로 바둑기사 이세돌과의 대국에서 알파고가 승리하면서 AI에 대한 대중적 호기심이 증폭됐다. 알파고는 개인이 직접 경험하기 쉽지 않지만 챗GPT는 누구나 쉽게 사용할 수 있어 훨씬 혁명적인 변화로 다가오는 것이다.”

-챗GPT의 장단점을 정확히 알아야 한다고 했는데 잘하는 일부터 설명한다면.

“자연어로 대화하는 능력, 문서 요약과 질의응답, 문장 완성 등에서 수행력이 탁월하다. 2018년 GPT1이 나온 이후 챗GPT에 적용된 GPT3.5까지 획기적인 기술 개선이 있었다. 초기 GPT가 ‘아무 말 대잔치’ 수준이었던 데 비해 챗GPT는 대화 내용을 기억하고 문제 해결 능력을 갖추도록 추가 학습이 이뤄졌다. 딥러닝을 통해 사람이 좋아하는 대화를 연습한 것이다. 이렇게 배울 수 있는 능력 자체가 충격적이다. 창의적 글쓰기나 영어 문장 교정, 공공 문서 작성 등에 활용하면 최적의 성과를 거둘 수 있을 것이다.”

-단점과 한계는.

“사람들은 흔히 AI의 능력을 과대평가하는 경향이 있다. 하나를 잘하면 다른 것도 잘할 것이라고 생각한다. 인간이 하나를 배우면 열을 아는 것은 일반화 능력이 우수해서다. AI는 얼핏 일반화 능력이 있는 것처럼 보이지만 실은 그렇지 않다. 방대한 문장을 학습한 덕에 단어 간 연관 관계를 따져 유창한 말을 만들어 낼 수 있으나 정보의 진실성까지 보장하는 것은 아니다. 챗GPT가 스스로 만든 지식에 과도한 신뢰를 보내는 환각 현상은 매우 위험한 단점이다. 데이터에 내재한 편견과 차별이 알고리즘과 AI 시스템으로 전이돼 불공정한 결과를 일으키는 점도 한계다.”

-챗GPT를 구체적으로 어떻게 활용해야 할까.

“우선 능력과 한계를 잘 이해해야 한다. 사후 검증할 수 있고 위험 요소가 적을 때 사용하는 것이 바람직하다. 가령 글쓰기나 그림, 작곡 등에선 활용도가 매우 높고 의료 분야에서도 의사의 진단을 보조하는 시스템으로 이용할 수 있다. 반면 자율주행 자동차나 자율형 살상 무기 활용은 아직까진 위험하다. 기본적으로 AI는 인간을 위한 도구다. 사람과 AI가 한 팀으로 일하는 것이 바람직하다. 자동화할 수 있는 업무는 AI가 수행하고 인간은 소통과 공감을 바탕으로 종합적인 판단이 필요한 업무에 집중하는 협업이 중요하다.”

-개인정보 보호 우려와 윤리적 문제 등으로 AI 규제법 제정이 논의되고 있는데.

“연구자 입장에선 과도한 걱정이 아닌가 싶다. 섣부른 규제는 AI 기술 발전에 필요한 연구까지 저해할 수 있다. 폐해와 부작용 등에 대해 충분히 분석하고 이를 극복하기 위한 연구를 활성화하는 것이 바람직하다.”

-AI로 인해 일자리에 대변혁이 일어날 것이란 전망이 많다.

“역사적으로 봐도 새 기술이 등장하면 사라지는 일자리가 있고 새롭게 부상하는 일자리가 있기 마련이다. 변화에 맞춰 훈련받고 적응하는 과정이 필요하다. 의사가 AI 때문에 일자리를 잃는 것이 아니라 AI를 잘 아는 의사와의 경쟁에서 밀려 실직하는 것이다. AI 시대에 맞춘 보편적 시민교육이 중요한 이유다.”

-AI 시대의 시민교육은 어떤 것인가.

“AI가 가져오는 변화에 적응할 수 있도록 컴퓨터과학과 AI에 대한 공교육을 충분히 제공해야 한다. 엔지니어가 자동차를 만들지만 운전은 아무나 할 수 있어야 하는 것과 같은 이치다. 세계 각 나라는 초중고 교육에서 컴퓨팅을 정규과목으로 비중 있게 다루고 있다. 우리나라는 2018년 교육과정 개편에서 정보 과목을 초등학교와 중학교 필수과목으로 의무화했지만 상대적으로 소홀한 편이다. 컴퓨팅을 가르칠 수 있는 전공 교사 양성도 시급한 문제다. 무엇보다 암기 위주의 교육에서 벗어나 비판적 사고력, 창의력, 소통 능력, 협동 능력을 배양하는 방향으로 교육 시스템이 바뀌어야 한다.”

-AI 기술 진화의 바람직한 지향점은.

“AI는 인간에게 도움을 주는 이기(利器)도 될 수 있고 흉기(凶器)도 될 수 있다. 사용하기에 달렸다. 인간을 위한 기술로 언제까지나 남아 있도록 노력해야 한다. 특히 기후변화 대응, 전염병 예방, 재난 방지 등 글로벌 난제 해결과 공익적 목적에 적극 활용하는 방안을 모색해야 한다. 그러기 위해선 AI 기술에 대한 통제를 놓쳐선 안 되며 윤리적 사용에 대한 깊은 성찰도 요구된다.”

-1세대 소프트웨어 개발자이자 AI 연구자다. 컴퓨터도 흔치 않은 때였을 텐데 어떻게 전공하게 됐나.

“대학 졸업 후 군에 다녀와서 우연히 컴퓨터를 접했는데 너무 재밌었다. 한국과학기술연구원(KIST)에서 개발자를 뽑는다길래 초창기 멤버로 들어갔다가 공부를 더 하고 싶어 미국 유학을 떠났다. 1981년에 박사 학위를 받고 휴스 인공지능 연구센터에서 4년을 근무하다 귀국했다. 1985년 카이스트 전산학과에 인공지능연구실을 설립하며 국내에서도 AI 연구를 시작했다. 1990년 인공지능연구센터가 설립돼 큰 연구비를 지원받아 휴머노이드 로봇, 문서 인식, 자연어 처리 등의 연구에 집중했다. 지금 전국의 인공지능대학원 등에서 연구를 이끄는 주역 중 상당수가 당시 내 제자들이다. 이후 알파고 등장을 계기로 2016년 대기업 7곳이 공동 투자하고 정부가 연구비를 지원해 지능형 챗봇을 연구하는 주식회사 형태의 인공지능연구원이 출범했지만 정치 상황이 혼란해 연구비 지원이 무산됐다. 개방형 AI 연구를 지향하는 ‘한국형 오픈AI’였던 셈인데 연구를 시작도 하지 못한 채 끝나 아쉽다.”

●김진형 명예교수는

▲1949년생 ▲서울대 공학 학사 ▲미 UCLA 시스템공학 석사·전산학 박사 ▲카이스트 전산학과 교수, 인공지능센터 소장, 소프트웨어정책연구센터 소장 ▲ 한국정보과학회장, 공공데이터전략위원회 초대 위원장, 인공지능연구원 초대원장

이순녀 논설위원

▶ 밀리터리 인사이드 - 저작권자 ⓒ 서울신문사 -