이미 인간 뛰어넘은 AI…"화가·작가·의사, 내일이면 사라질 수도"

디지털 휴이넘이 온다
(1) AI가 주인공이 된 세상
스스로 생각·결정까지 하는 AI
코딩 시간 절반 이하로 줄여주고
임상의보다 진단 정확도도 높아
수십년 안에 '초지능' 진화 전망
극단적인 디스토피아 막으려면
'효율성 극대화'에 초점 맞춘 AI
인권 침해한 결과값 내놓을 수도
인간이 해야할 판단 위탁 말아야

< 'AI가 지도자 된 세상은…' 인공지능이 그린 미래 > 인공지능(AI)이 인류를 뛰어넘어 새로운 지배종이 되는 날이 올 수 있을까. 스페이스 오디세이의 ‘HAL-9000’부터 어벤져스의 ‘울트론’까지 수많은 영화와 소설을 통해 인간들은 이런 미래를 그려왔다. AI는 어떤 미래를 상상할까. 이미지 생성 AI인 미드저니에 ‘AI가 인류의 새로운 지도자가 된 미래를 그려달라’고 주문했다. 인간을 닮았지만 세상 모든 일을 머릿속에 담을 것만 같은 모습의 AI가 나타났다. 미드저니

영국의 수학자 앨런 튜링은 1950년 ‘계산 기계와 지능(Computing Machinery and Intelligence)’이란 기념비적인 논문을 내놨다. 인공지능(AI) 개념을 제시한 이 논문에서 튜링은 ‘튜링 테스트’를 고안했다. 기계가 인간과 비슷하게 대화할 수 있는지 시험해 지능 보유 여부를 판별하는 시험이다.

수십 년간 AI 연구자들에게 이 테스트는 장벽과 같았다. 수많은 연구자가 튜링 테스트를 통과하기 위해 노력했지만 번번이 실패했다. 하지만 최근 학계에선 테스트 통과 여부를 신경 쓰지 않는다. 오픈AI의 GPT, 구글의 제미나이 등 대규모언어모델(LLM)은 이미 인간 못지않은, 혹은 인간 이상의 답변을 제시하고 있다.

 챗GPT 등장에 AI 접근성 높아져

이미 AI는 현실이다. 맥킨지에 따르면 AI를 활용하는 기업 비중은 2017년 20%에서 2022년 50%로 증가했다. 생성 AI의 열풍이 불었던 지난해에는 이 비율이 급격하게 상승했을 것으로 보인다.

챗GPT의 등장은 AI에 대한 접근성을 높였다. 누구나 손쉽게 대화창을 통해 AI를 쓸 수 있게 되면서 AI의 위력을 인지하는 계기가 됐다. 윤송이 엔씨소프트 최고전략책임자(CSO)는 “대화 형태의 사용자 환경(UI)이 사람들의 상상력을 자극하는 측면이 있었던 것 같다”며 “초거대 AI가 새로운 기술은 아니지만 많은 사람이 충격을 받아 AI가 확산할 수 있는 변곡점이었다”고 평가했다.

기업에서는 생성 AI를 업무에 활용하고 나섰다. IBM 조사 결과 정보기술(IT) 전문가의 41%가 “회사에서 생성 AI를 탐색하고 있다”고 답했고, 27%는 “적극적으로 사용하고 있다”고 했다. 마이크로소프트(MS), 구글, 아마존 등 주요 빅테크가 이 시장의 주도권을 잡기 위해 각축전을 벌이고 있다. 발전 속도는 눈부시다. 김유원 네이버클라우드 대표는 “AI를 활용하면 개발자들의 코딩 작업 시간이 절반 이하로 줄어든다”며 “AI업계의 유행어는 ‘지금은 안 되지만, 다음달에는 될 것’이라는 말”이라고 말했다.

이미 AI가 인간을 능가한다는 연구 결과도 나오고 있다. 작년 11월 구글 헬스 AI팀은 ‘LLM을 통한 정확한 감별 진단을 위한 노력’이란 제목의 논문을 공개했다. 임상의와 AI가 같은 케이스를 두고 진단했을 때 어느 쪽이 더 정확했는지 비교하는 내용이다.

결과는 일방적이었다. AI가 혼자 진단했을 때 정확도가 59.1%로 가장 높았다. 임상의가 도움 없이 혼자 진단했을 때는 33.6%에 불과했다. 임상의가 AI의 도움을 받았을 때의 정확도는 51.8%로 AI 단독 진단에 미치지 못했다.

연구팀은 “의료 현장에서 임상의 대신 AI를 써야 한다는 것을 의미하는 것은 아니다”고 선을 그었지만, AI가 발전할수록 인간을 대체하는 현상은 거스르기 어려울 것으로 보인다.

 “AI에 인간 고유 권리 위탁하진 말아야”

AI의 눈부신 발전은 인류에게 큰 도움이 될 전망이다. 하지만 전문가들은 AI에게 인간이 해야 할 판단을 위탁하는 현상을 경계해야 한다는 데 전반적으로 동의하는 분위기다.

김상배 매사추세츠공과대(MIT) 기계공학과 교수는 “AI가 아무리 발전해도 왜 그런 결과가 나왔는지 사람이 이해하지 못하면 안 된다”며 “대다수 사람이 컴퓨터와 같은 단순 프로세서로 전락하는 것을 경계해야 한다”고 지적했다.

AI는 법과 같은 제도보다 사람의 삶을 강력하게 제약할 수 있다. 가령 교통법규를 코드로 만들어 자율주행 차량에 넣으면 신호 위반, 과속과 같은 일은 벌어지지 않는다. 문자로 쓰인 규율을 지키기 위해선 인간의 의지가 필요하지만 코드로 만들어진 규율은 그렇지 않다. 효율을 극대화하는 공학적 관점을 기반으로 만들어진 AI가 인간의 기본 권리인 참정권, 자유권 등에 관련한 선택을 맡으면 인간의 주체성과 책임성을 잃어버리는 결과를 낳을 수 있다. 마이크 예 MS 아시아총괄 사장은 “AI로 인한 고위험 시나리오를 사전에 검토해야 한다”며 “AI 알고리즘이 금융, 대출이나 보건, 건강처럼 사람 인생에 큰 영향을 미치는 결정을 내릴 때 인권 침해 소지가 생길 수 있다”고 말했다.

AI가 인간을 지배하는 ‘디스토피아’를 막기 위해선 AI 발전 속도에 맞춰 이를 어떻게 활용할지 가치 판단이 필요하다는 얘기다. ‘인간 복제’ 기술을 세계 각국이 합의해 불법으로 규정한 것과 같은 맥락이다.

서용석 KAIST 국가미래전략기술 정책연구소장은 “기술은 가치 중립적”이라며 “인간과 규제가 기술 발전을 어떻게 이끄는지가 더욱 중요하다”고 강조했다.

■ 디지털 휴이넘

휴이넘은 조너선 스위프트의 소설 <걸리버 여행기>에 등장하는 말을 닮은 종족이다. 고도화된 언어와 문화를 갖췄고 예의 바르고 평화롭기까지 하다. 인간을 닮은 종족 ‘야후’는 이들을 섬긴다. 현재와 같은 디지털 기술의 발전이 이어지면 인공지능(AI)은 인간을 지배할 ‘디지털 휴이넘’이 될 수 있다. 서울대 국가미래전략원의 '미래 세대 토론회' 프로젝트에서 공민우(서울대 인문대학 서양사학과), 김정훈(서울대 경제학부), 김태윤(서울대 인류학과), 박정훈(서울대 공과대 협동과정) 학생으로 구성된 디지털 휴이넘 팀이 제시한 개념이다. 미래 세대 토론회를 정리한 도서 <미래 관찰자의 살아있는 아이디어>에 수록됐다.

이승우 기자 leeswoo@hankyung.com

▶ 클래식과 미술의 모든 것 '아르떼'에서 확인하세요
▶ 한경 창간 60주년 구독신청 사은품 보기