범용AI 시대, 더 커지는 리스크[문희수의 시론]

문희수 논설위원
새해엔 AI 비즈니스 만개 전망
중소기업.스타트업 수혜 확산
AI가 신물질 개발 ‘소재 혁명’
딥페이크 등 폐해도 커져 심각
만능 범용AI 방치 땐 재앙 소지
자율규제 넘어 세계 규범 필요

새해는 인공지능(AI) 실용화가 본격 확산해 일상을 혁신할 것이라고 한다. 영국 주간지인 이코노미스트는 ‘2024 세계 대전망’에서 기업들의 AI 투자가 크게 늘어 AI 비즈니스가 만개할 것으로 전망했다. 이에 따른 수혜가 스타트업과 비(非)테크 분야 중소기업으로 확산하고, 의료·금융업체들의 AI 채택도 급증할 것으로 예상했다.

이미 AI는 우리의 일상을 빠르고 폭넓게 바꾸고 있다. 로봇이 집·식당·사무실·공장 등을 누비며 대화·서빙·운반하는 것은 예삿일이 됐고, 저자가 AI인 책이 대거 팔린다. 브라질에선 지방의회 조례까지 만들었다. 특히, 과학 분야의 성과는 놀랍다. 구글 딥마인드는 얼마 전 자사의 AI가 새로운 물질구조와 합성법을 예측해 세상에 없던 신물질 38만1000개를 개발했다고 발표했다. 초전도체·차세대 배터리 등 미래를 바꿀 신소재가 대량 포함됐다. 인간 과학자들이 800년 걸릴 일을 단번에 해결한 신소재 혁명이다. 의료 등 다양한 분야에서 새 지평을 속속 열 것이란 기대가 크다.

그렇지만, AI의 진화와 함께 폐해도 커지는 게 현실이다. 당장 AI에 의한 가짜 영상·뉴스, 불법 포르노 등 딥페이크(Deepfake) 문제가 심각하다. 내년은 세계적으로 선거의 해다. 미국은 제47대 대선(11월), 한국은 제22대 총선(4월) 등 70건이 넘는 중요한 선거가 예정돼 있다. AI가 조작해 내놓는 가짜 뉴스·가짜 인터뷰 소동이 민주주의를 위협할 것이란 경고가 잇따른다. 최근 주요 7개국(G7) 관련 장관들이 첫 AI 국제규범 합의안(히로시마 AI 프로젝트)을 만들어 주목된다. 딥페이크를 식별하는 워터마크 표시, 프라이버시 침해 방지책 마련 등이 골자다. 한국도 여야 합의로 딥페이크 선거운동을 선거일 90일 전부터 금지하는 공직선거법 개정안을 추진 중이다.

최근 화제였던 오픈AI 사태 때 CEO 해임을 주도했던 수석과학자(일리야 수츠케버)는 구글에서 2016년 3월 이세돌 9단과의 바둑 대결에서 압승했던 알파고를 만든 주역이다. 불과 7년여 후인 지금 AI는 인간 최고수들이 두 점을 놓고도 못 이기는 수준으로 도약했다. 그런데 미국의 아마추어 5단 격인 무명 프로그래머가 호선으로 판판이 AI에 만방으로 이겨 놀라게 했다. 인간 바둑에선 있을 수 없는 일이다. 전문가들도 몰랐던 알고리즘의 허점이 드러난 것이다.

이런 AI의 문제는 그래도 개발자들이 미리 설정한 특정 분야에서 벌어진다면 별일이 아닐 수 있다. 그러나 아무 제한 없이 모든 분야, 모든 상황에서 인간처럼 스스로 진단해 문제를 찾고 해결책까지 만드는 범용AI(AGI)에서 문제가 생긴다면 차원이 다르다. 통제 없는 무한 진화는 재앙의 단초가 될 우려가 있기 때문이다. 사실 최근 오픈AI 사태도 부머(개발론자)와 두머(파멸론자) 간 갈등이 배경이었지만, 결정적인 원인은 바로 범용AI의 출현이었다고 한다. 연구진이 AI 고도화 과정에서 인류를 위협할 수 있는 강력한 AI 알고리즘(Q스타)을 발견했다는 것이다. 앞서 이 회사 연구진은 챗GPT 개발 초창기에 AI끼리 인간이 알 수 없는 ‘그들만의 언어’를 만들어 소통하는 사실을 발견해 충격을 받은 적이 있다. 이번에 발견된 AGI는 현재는 초등 수학을 푸는 수준이지만, 곧 인간의 지능을 추월할 것이라고 한다. 젠슨 황 엔비디아 CEO는 5년 이내, ‘두머’인 일론 머스크 테슬라 CEO는 3년이면 가능하다고 경고했다.

AI를 개발한 인류가 그 진화를 속속들이 알지 못하고, 예측도 못 하는 상황은 치명적이다. 어떤 리스크가 생길지 모르면 통제가 원천적으로 불가능하다. 부머·두머 편 가르기 차원을 넘어 어느 진영에서든 제기하는 문제를 수용해 재앙이 될 수 있는 단초를 선제적으로 해소하는 게 옳다. 규제가 일부 특정 기업의 기술 독점을 오히려 더 키울 수 있다는 역설도 경청해야 한다. 일부 불량국가와 테러세력이 폐쇄된 환경에서 기술 개발 질주를 못 하게 막을 제도적 장치도 필요하다. G7이 첫 AI 국제규범 합의안을 만든 것은 의미 있는 진전이다. AI를 개발자와 기업의 자율규제에만 맡길 게 아니라 인류 집단지성의 통제하에 둬야 한다. 글로벌 규범 제정은 쉽지 않다. 국가·기업의 이해가 충돌하는 사안이다. 한국은 새해 5월 AI 정상회의를 주관한다. 지혜를 모아야 한다.

문희수 논설위원