박승룡 프리랜서 작가
질문은 새로운 추론의 형식이다
프롬프트(Prompt)는 질문이다. 그러나 단순한 질문이 아니다. 생성형 인공지능(Generative AI)과 대화할 때, 우리는 단지 궁금한 것을 묻는 것이 아니라, 그 대답이 어떤 형태로 돌아오길 기대하는지, 어떤 논리로 결론에 도달하길 원하는지를 함께 설계하고 있는 셈이다. 따라서 프롬프트는 단순한 입력 문장이 아니라, 사고의 구조를 담아낸 지시이자, 하나의 의도된 설계다. 그리고 이 설계 과정을 들여다보면, 셜록 홈즈가 사용한 논리적 추론법과 놀랍도록 닮아 있다는 사실을 발견하게 된다.
셜록 홈즈는 추리의 천재로 알려져 있지만, 그의 진짜 능력은 날카로운 직감이나 초인적인 기억력에 있지 않았다. 그는 언제나 질문을 통해 생각을 시작했다. “왜 저 사람의 신발은 한쪽만 심하게 닳았을까?”, “창문이 잠겨 있었는데 도둑은 어떻게 침입했을까?”, “편지는 왜 손글씨와 인쇄 활자를 함께 사용했을까?” 이런 질문은 사건의 단서가 아니라, 그 단서를 해석하기 위한 출발점이었다.
홈즈는 단서의 의미를 따지기 전에, 먼저 그 단서가 왜 존재하는지를 묻는 방식으로 접근했다. 그는 사실을 먼저 모으기보다, 올바른 질문을 먼저 던짐으로써 해답에 다가가는 탐정이었다.
생성형 인공지능을 활용하는 것도 본질적으로 다르지 않다. AI는 스스로 사고하거나 문제를 정의하지 않는다. 다만, 주어진 입력에 따라 통계적으로 가장 그럴듯한 출력을 예측할 뿐이다. 따라서 어떤 입력, 어떤 프롬프트를 주느냐가 AI의 ‘지능’ 수준을 결정하게 된다. 프롬프트가 모호하면 답도 흐릿하고, 조건이 지나치게 단순하면 결과도 평이할 뿐이다. 반대로 논리적 흐름과 구조가 잘 설계된 프롬프트는, AI로부터 더 정교하고 설득력 있는 답을 끌어낼 수 있다.
마치 홈즈가 복잡한 사건 속에서 가장 단순하고 명쾌한 질문으로 본질을 꿰뚫어 보듯이…
오늘날 프롬프트 엔지니어링(Prompt Engineering)이라 불리는 이 작업은 단순한 기술이 아니라 사고의 방식이다. 정보의 양이나 연산 속도가 아닌, 질문의 질이 AI의 성능을 좌우하는 시대에 우리는 다시금 ‘어떻게 묻는가’를 중심에 놓고 생각해야 한다. 홈즈가 했던 것처럼. 질문을 바꾸면 해답이 달라지고, 사고의 틀을 설계하면 결과의 방향이 달라진다.
이어지는 글에서는 셜록 홈즈가 사용했던 여섯 가지 추론법을 중심으로, 각각이 어떻게 현대의 프롬프트 설계 전략으로 이어질 수 있는지를 살펴볼 것이다. 연역법, 귀납법, 가설-연역법, 가추법, 귀추법, 그리고 제거법—이 각각의 추론 방식은 단지 고전 추리소설 속 도구가 아니라, 오늘날 생성형 AI와 소통하기 위한 정교한 질문 전략으로 되살아날 수 있다. 질문은 추리의 또 다른 이름이다. 그리고 지금, 그 추리는 프롬프트라는 형식을 통해 다시 태어나고 있다.

연역법: 조건이 주어졌을 때 답을 좁혀라
연역법(deductive reasoning)은 이미 알고 있는 일반적인 원칙이나 규칙을 바탕으로, 특정 상황에 적용 가능한 결론을 이끌어내는 추론 방식이다. 셜록 홈즈는 이 연역적 추론의 귀재였다. 그는 사건 현장에서 얻은 단편적인 정보만으로도 놀라운 속도로 조건을 조합해 결론을 좁혀나갔다.
예를 들어, 《주홍색 연구》에서 홈즈는 피해자의 시신 옆에 남겨진 발자국과 벽에 피로 쓴 글자를 분석하면서 “이 범인의 키는 6피트 이상일 것이다”라고 단정한다. 그 근거는 간단하다. 발자국의 간격이 보통 사람보다 훨씬 넓었고, 벽 위의 글자 높이가 6피트 이상이었기 때문이다. 즉, 그는 “발걸음이 넓으면 키가 크다”, “보통 사람은 자기 눈높이 정도에 글자를 쓴다”라는 일반적 전제를 바탕으로, 이 사건의 특정 조건에 연역적으로 결론을 도출해 낸 것이다.
프롬프트 설계에 이 연역적 사고를 적용하면, “조건을 명확히 제시해 AI가 그에 맞는 답을 도출하도록 유도”하는 방식이 된다. 단순히 정보나 조언을 요청하는 질문이 아니라, ‘
이 조건에서만 성립할 수 있는 답’을 제한적으로 끌어내는 구조다. 조건이 많을수록 답은 좁아지고, 답이 구체적일수록 AI의 응답도 명확해진다.
프롬프트 전략: 논리적 조건을 미리 깔아주기
좋은 연역형 프롬프트는 질문을 시작하기 전에 다음과 같은 구조를 따른다:
1. 일반 원칙 또는 배경 정보 제시
2. 구체적인 조건 명시
3. 이 조건들이 모두 성립할 때 가능한 결론을 요청
이 방식은 특히 아래와 같은 상황에서 유용하다:
• 복잡한 선택지를 좁히고 싶을 때
• 다단계 조건이 얽힌 문제를 풀고 싶을 때
• 어떤 기준을 충족하는 대상만 걸러내고 싶을 때
• 정책, 논리, 법칙, 규칙 기반으로 판단을 요청할 때

프롬프트 예시(*실제로 이렇게 프롬프트를 넣어 AI에게 질문해보시면 재밌는 결과가 나옵니다.-편집자주)
① 진로 추천: "내가 찾는 직업은 다음 조건을 모두 만족해야 해.
Ⓐ 사람들과 직접 대면하지 않아도 되고,
Ⓑ 창의적인 작업을 많이 할 수 있어야 하며,
Ⓒ 일정한 수입이 보장되는 정규직이었으면 좋겠어.
이 조건을 만족하는 직업 5가지를 구체적인 이유와 함께 추천해 줘.”
→ 이 프롬프트는 3개의 조건을 논리적으로 구성하여, AI가 무작위로 직업을 나열하는 것을 방지한다. 각 조건을 검토하면서 소거법과 연역법적 판단을 통해 AI는 답을 좁혀 나가게 된다.
② 역사적 인물 추천: "다음 조건을 만족하는 역사적 인물을 찾아줘.
Ⓐ 20세기에 활동했고,
Ⓑ 기술 분야에서 혁신을 일으켰으며,
Ⓒ 동시에 정치적 발언이나 행동으로 논란을 일으킨 적이 있는 인물이어야 해.
해당 인물을 한 명 제시하고, 그 이유를 3 문단으로 설명해 줘."
→ 단순히 ‘유명한 과학자’나 ‘논란이 된 인물’을 묻는 질문이 아니라, 서로 다른 조건의 교차점을 찾도록 유도한다.
③ 문장 생성 테스트: "다음 세 가지 조건을 모두 포함하는 한 문장을 만들어줘.
Ⓐ 질문문 형태여야 하고,
Ⓑ 그 안에 ‘시간’이라는 단어가 반드시 들어가야 하며,
Ⓒ 전체 문장은 15 단어를 넘기지 말 것."
→ 문장 생성이라는 창의적 작업에서도, 조건을 분명히 설정해 주면 AI의 결과물은 훨씬 더 명확해진다. 단순 창작이 아닌, 제한된 틀 안에서의 추론적 구성 요청이다.
④ 사건 재구성: "사건 현장에서 발견된 증거는 다음과 같다:
Ⓐ 맨발로 찍힌 발자국
Ⓑ 깨진 유리
Ⓒ 창문이 안에서 잠겨 있었음.
이 조건이 모두 충족될 경우, 가장 가능성 높은 침입 경로를 논리적으로 설명해 줘."
→ 홈즈의 추리와 유사한 설정이다. 이 프롬프트는 AI로 하여금 ‘모든 조건을 만족하는 시나리오만 추론’ 하도록 요구한다. 조건 하나하나가 ‘논리적 필터’ 역할을 한다.
연역적 프롬프트는 답을 좁히는 기술이다
연역법은 선택지를 무한히 늘리는 방식이 아니라, 조건을 명확히 함으로써 가능한 답의 수를 점점 줄여가는 사고법이다. 프롬프트 설계에서도 마찬가지다. 모호한 질문은 결과도 모호하지만, 조건을 명확히 제시하면 AI는 그 안에서 논리적으로 정제된 답을 생성한다.
홈즈는 말하곤 했다. “사실(fact)은 풍부하지만, 진실(truth)은 드물다.” 그에게 진실은 정교하게 설정된 조건을 통과해 살아남은 결론이었다. 프롬프트도 마찬가지다. 질문이 논리적이면, AI의 답도 그만큼 진실에 가까워진다.
※ 박승룡은 언론사, 홍보대행사, 대통령비서실, 콘텐츠 진흥기관 등에서 일하면서 논리적이고 통찰력 있는 사고(思考)에 깊은 관심을 가져왔다. 셜록 홈즈 추론 방식이 생성형 인공지능 시대에 꼭 필요한 ‘생각하는 힘’을 기르는 데 큰 도움이 될 것이라 확신하고 정년퇴직 후 'Sherlockian Way of Thinking'을 전파하기 위해 노력하고 있다.