[세상보기] AI 비서와 함께 사는 세상, 나의 사생활은 안녕할까

여상수 목원대학교 교무처장

미래 사회는 인공지능(AI)과 함께하는 세상이 될 것으로 예상된다. ChatGPT, 구글 제미나이 같은 생성형 AI를 통해 그 가능성은 이미 현실화되고 있다. 불과 몇 년 전만 해도 공상과학 영화 속 이야기 같았던 일들이 이제 우리 삶의 일부가 되어가고 있다. ChatGPT를 서비스하는 OpenAI는 AI 발전 단계를 5단계로 나누어 제시했는데, 1단계는 익숙한 챗봇 같은 대화형 AI, 2단계는 인간 수준으로 추론하는 AI다. 그리고 곧 우리 생활에 큰 변화를 가져올 3단계, 그것이 바로 '에이전트(Agent) AI'다.

에이전트 AI는 단순히 명령에 답하는 것을 넘어, 거대한 언어 모델(LLM)을 두뇌 삼아 스스로 계획을 세우고 외부 도구와 연결해 자율적으로 과업을 수행하는 지능형 시스템을 의미한다. 세계 최초의 AI 소프트웨어 엔지니어라 불리는 '데빈(Devin)'이 대표적이다. 데빈은 스스로 코드를 짜고, 버그를 찾아 수정하며, 심지어는 문서를 읽고 새로운 기술을 학습해 웹사이트 전체를 구축하기도 한다. 또 다른 에이전트 AI는 사용자를 대신해 웹사이트를 돌아다니며 항공권을 예약하거나 음식을 주문한다. 이제 전문 분야든, 일상생활의 소소한 영역이든 에이전트 AI가 자율적으로 도와주는 시대가 성큼 다가온 것이다.

아마 높은 확률로 에이전트 AI는 나의 삶을 더욱 편리하고 풍요롭게 만들어 줄 것 같다. 나의 건강 상태를 파악해 맞춤형 식단을 짜주고, 복잡한 금융 상품을 분석해 최적의 투자 포트폴리오를 제안하는 개인 비서를 둘 수 있게 되는 것이다. 하지만 에이전트 AI가 일상에 편리함으로 자리 잡을수록, 프라이버시 문제는 더욱 중요하게 다루어져야 한다. 사실 에이전트 AI는 이 모든 '맞춤형' 서비스를 위해 방대한 사용자 데이터를 실시간으로 수집하고 분석해야 하기 때문이다.

이러한 과정에서 민감한 개인 정보가 무방비로 노출되거나 오남용될 위험이 도사린다. 쇼핑을 돕는 에이전트가 나의 핸드폰 화면이나 PC를 들여다보며 인터넷 활동 기록, 가족과의 이메일이나 대화 내용, 과거 쇼핑 정보까지 분석한 후에야 비로소 편리함을 누릴 수 있다는 뜻이다. 이것은 단순히 정보 유출의 문제를 넘어, 나의 생각과 생활방식이 보이지 않는 알고리즘에 의해 끊임없이 분석되고 평가받는 세상에 살게 됨을 의미한다. 편리함을 위해 에이전트에게 자율권을 넘겨주는 순간, 우리는 서서히 자신의 정보에 대한 통제권을 잃어버리게 될지도 모른다.

그저 '깨어있는 시민'이 되어야 한다고 말하는 것은 너무 상투적일 수 있다. 하지만 기술 발전의 이면을 계속 언급하고 사회적 논의를 이끌어내는 것은 시민의 중요한 역할이기에, 다시 한번 깨어있는 시민이 되어야 한다고 강조하고 싶다. 다행히 이러한 노력은 이미 세계적인 흐름이 되고 있다. 유럽연합(EU)은 세계 최초의 포괄적 AI 규제법인 'AI Act'를 통해 시스템의 위험 등급별로 규제를 차등 적용하는 선도적 모델을 제시했다. 우리나라 역시 '인공지능 기본법' 제정을 통해 산업을 육성하면서도 안전과 신뢰를 확보하려는 노력을 하고 있다. 이러한 법과 제도가 기업의 윤리적 책임을 유도하고 정부의 역할을 명확히 하는 뼈대가 될 것이다.

결국 AI가 인간을 위한 도구로 남을지, 우리를 통제하는 시스템이 될지는 우리의 선택에 달려있다. 에이전트 AI 시대가 주는 편리함으로 인해 자칫 간과되기 쉬운 프라이버시 문제에 대해, 자신의 정보 주권을 지키는 현명한 주체가 되어 사회의 발전에 조금 더 관심을 가져보길 제안한다.