인간의 사고를 앞지른 AI, 우리는 어떻게 따라잡을까 [고평석의 인사이드아웃AI]

“AI를 움직이는 건 맥락…AI 작동 환경을 설계해야”
프롬프트 엔지니어링을 넘어 ‘컨텍스트 엔지니어링’으로

(시사저널=고평석 (주)엑셈 대표)

최근 2~3년 사이 AI의 발전 속도는 그야말로 숨 가쁘다. 업계 전문가조차 따라가기 힘들 정도다. 이전의 어떤 기술도 이렇게 짧은 기간 안에 빠르게 발전하고 대중에게 받아들여진 적은 없었다. 그 배경에는 경제·기술·사회·정치라는 네 가지 축이 서로 촉매 역할을 하며 속도를 끌어올린 측면이 있다. AI는 자본이 몰리고, 기술이 뒷받침되며, 사회가 필요로 하고, 국가가 지원하는, 이 네 가지 힘이 동시에 맞물린 유례없는 기술 분야이기에 발전 속도가 남다를 수밖에 없다.

ⓒChatGPT 생성이미지

유례없는 AI 발전 속도의 배경

먼저 경제적 측면을 보자. 기업 활동에서 발생하는 방대한 데이터가 AI 학습의 원료가 됐다. 데이터가 성능을 높이고, 이것이 수익으로 이어지는 선순환이 만들어졌다. 성능이 조금만 개선돼도 추천, 검색, 광고, 자동화 효율이 곧바로 올라가니 자연스레 자본이 몰릴 수밖에 없다. 최근 소프트뱅크, 오라클, 오픈AI가 주도하는 5000억 달러 규모의 초대형 인프라 투자 프로젝트 '스타게이트'는 이 같은 흐름을 보여준 상징적인 사례다.

기술적으로는 GPU 및 TPU 기반 병렬 컴퓨팅 확장성과 트랜스포머, 디퓨전 같은 모델 아키텍처 혁신이 결합하며 계산과 학습 효율이 비약적으로 향상됐다. 여기에 오픈소스 협업 문화가 기하급수적인 속도 향상을 가져왔다. 허깅페이스 같은 커뮤니티에서 개발자들이 사전 학습된 모델과 데이터셋을 자유롭게 공유하고 조정하다 보니 혼자서 처음부터 개발할 필요가 없어졌다. 전 세계에서 수많은 개발자가 동시에 성능을 개선하니 발전 속도가 가속화될 수밖에 없는 셈이다.

사회적으로는 AI 서비스에 대한 대중의 체감도가 이전의 여타 기술과 달랐다. 문서 요약, 번역, 이미지 생성 등 직접 써보면서 "쓸 만하다"는 인식이 급속히 퍼졌다. 의료, 바이오, 기후, 에너지 같은 난제를 푸는 도구로 주목받으면서 신뢰도도 높아졌다. 심지어 AI 연구자들이 노벨 과학상을 수상하면서 AI는 더 이상 실험실 기술이 아니라 인류 발전의 필수 기술로 자리매김했다.

정치적으로 AI는 국가 경쟁력의 핵심이 됐다. 미국과 중국은 반도체 전쟁, 인재 전쟁, 보조금 경쟁에 이르기까지 전방위적으로 AI 패권을 두고 각축을 벌이고 있다. 군사적으로도 AI가 전략 기술로 부상하면서 각국은 총력전을 펼치고 있다. 한국 역시 'AI 3강'을 표방하며 국가적 역량을 집중하고 있다.

챗GPT 등장 이후 빠른 발전을 입증하듯 수많은 AI 모델이 쏟아져 나왔다. 자연스럽게 "AI를 어떻게 더 잘 쓰느냐"가 화두가 됐다. 그 답으로 떠오른 것이 프롬프트 엔지니어링이다. 누가 더 정교하게 질문을 던지느냐에 따라 AI의 답변 품질과 생산성이 달라졌기 때문이다. 프롬프트는 지시와 질문의 기술이었다. 2년 전에 프롬프트 엔지니어 몸값이 천정부지로 오른다는 기사도 나왔다.

그러나 AI가 고도화되면서 단순한 프롬프트보다 더 중요한 개념이 떠올랐다. 바로 컨텍스트 엔지니어링이다. 이는 AI 모델이 문제 해결에 참고할 모든 환경을 설계하는 일이다. 검색 결과(RAG), 정책 및 규칙, 예외 상황, API 접근, 세션과 사용자 메모리 등 필요한 맥락을 미리 조립해 놓는 것이다. 쉽게 말해 AI 모델이 단순히 질문 하나만 듣고 유사한 답을 찾아본 후 대답하는 것이 아니라 배경과 전제, 도구까지 모두 갖춘 상태에서 더욱 정밀하게 답할 수 있는 환경을 조성해 주는 과정이다.

여기에 지식의 지도로 불리는 '온톨로지'가 결합되면 정확성은 더욱 높아진다. 온톨로지는 개념과 관계, 계층을 명확히 정의해 서로 무관한 것들이 억지로 연결돼 나오는 '환각'을 줄여준다. AI가 추론할 때 기반이 탄탄해지고 결과도 더 논리적으로 이어지게 된다. 따라서 프롬프트는 출발점이지만, 컨텍스트와 온톨로지가 더해져야 비로소 신뢰할 수 있는 AI 활용이 가능해진다. 당분간 AI의 책임성과 정확도를 보장하는 핵심은 바로 이 '맥락 설계'에 달려있다.

인간에게도 맥락을 읽는 사고 훈련 절실해져

AI는 맥락 설계를 통해 지금보다 더욱 정확하고 정교해질 것이다. 맥락을 읽어야 하는 미션이 단지 AI에게만 주어진 것일까? 결코 그렇지 않다. 우리 인간에게도 AI 시대의 맥락을 읽는 훈련이 절실히 필요하다. 대부분은 새로운 기술이 등장했을 때 단순히 "어떻게 쓰는가"를 특정 직군이나 세대만 익히면 됐다. AI는 몇몇 한정된 직군, 세대에만 해당되는 기술이 아니다. 따라서 왜 AI 기술이 지금 필요한지, 어떤 배경과 흐름 속에서 나왔는지를 읽어야 한다. 그래야 기술을 도구로 활용하는 수준을 넘어, 미래를 설계하는 통찰로 연결할 수 있다.

수많은 기업과 개인들은 지금 혼란한 상태다. AI 기술을 빨리 익혀야 하는데 어디까지 익혀야 할지, 그러다 다른 이에게 뒤처지지 않을지, 전문 분야가 AI에게 잠식되지 않을지 등이 뜨거운 주제다.  단순히 효율 향상이나 유행을 좇는 느낌으로 AI를 받아들여선 안 된다. 기업이라면 비즈니스 구조에 어떤 영향을 미칠지 고민하며 투자와 혁신의 방향까지 도출해야 한다. 개인이라면 진로와 역량 개발의 방향을 정해야 한다.  

가장 좋은 것은 AI 모델에게 컨텍스트 엔지니어링을 통해 맥락을 이해시키고 환경을 설계해 성능을 향상시키듯이, 인간도 단편적인 사실과 사건을 하나의 흐름으로 엮어 해석하는 사고 훈련을 거쳐야 한다. 이제는 AI 기술의 배경과 파급 효과를 통합적으로 보는 능력이 곧 경쟁력이기 때문이다. 

AI가 맥락 이해를 위해 검색 결과(RAG)·정책·예외·API·메모리를 설계하듯, 인간도 정보 탐색·원칙 수립·위기 대응·관계망·경험 관리의 다섯 개 축을 갖춰야 한다. 정보 탐색은 신뢰할 만한 지식 네트워크와 해석 능력이며, 원칙 수립은 윤리와 전략을 균형 있게 세우는 일이다. 위기 대응은 불확실성에 대한 감지력과 적응력, 관계망은 사회적 API라 할 수 있는 협업 자본이다. 경험 관리는 학습을 구조화하고 성찰하는 힘이다. 이 다섯 가지가 인간 버전의 컨텍스트 엔지니어링이며, 숨 가쁘게 발전하는 AI 시대를 따라잡는 방법이 될 것이다. 이것을 차례대로 준비해 보면 어떨까? 

고평석 (주)엑셈 대표