전문가 시스템의 지식베이스에서 해답을 도출하던 규칙 기반 논리 연역기에서부터, 거대 언어 모델(LLM)의 추론 시간 연산(Inference-Time Compute), 사고의 연쇄(Chain-of-Thought), 그리고 복합 AI 시스템(Compound AI)의 자율 추론 엔진으로 진화한 인공지능의 두뇌 메커니즘을 규명합니다.
💡 "지식과 제어로직의 엄격한 분리"에서 "신경망 가중치 속 암묵적 추론과 System 2 심층 탐색의 융합"으로의 패러다임 전회
전문가시스템 (Expert System)을 구축하는 도구(Shell)에서 추론엔진 (Inference Engine)은 지식베이스에서 답을 찾아내는 핵심 역할을 합니다. 즉, 지식베이스의 정보에 대해 추론하고 결론을 형식화하는 방법론을 제공하는 것으로서 전문가시스템의 '두뇌'에 해당합니다.
기본적인 규칙을 적용하여 선택된 의제 항목(Agenda Item)을 실제로 실행하고 연역합니다.
우선순위에 따라 추론 규칙을 적용한 효과를 추정하여 아젠다에서 제어 흐름을 유지하거나 다른 영역의 탐색을 지시합니다.
도출된 중간 결론이나 최종 해(Solution) 간에 모순이 발생하지 않도록 표현의 일관성과 정합성을 유지합니다.
규칙기반 시스템의 추론엔진은 작업기억의 사실이 변하지 않거나 목표가 달성될 때까지 다음 3단계를 끝없이 반복 수행합니다.
새로운 사실(Fact)이 입력된 작업기억 (Working Memory)과 규칙들이 모여 있는 프로덕션 메모리(Production Memory) 간의 조건을 대조하여, 조건이 만족되는 후보 규칙들을 찾아냅니다. (예: Rete 알고리즘 활용)
패턴 매칭 결과 복수 개의 규칙이 동시에 활성화(Trigger)되어 경합 집합(Conflict Set)이 형성되었을 때, 특수성, 최신성, 우선순위 등의 전략을 적용하여 단 하나의 최적 규칙을 선택합니다.
선택된 규칙의 결론(Action/RHS)을 실행하고, 새로이 얻은 사실(New Facts)을 작업기억에 즉각 반영하여 새로운 패턴매칭 사이클을 다시 시작합니다.
우리는 주어진 상황에 대한 지식을 가지고 새로운 사실을 유도하는 데 익숙해 있습니다. 실제 우리가 알고 있는 모든 과학적 사실들이 일정한 추론의 틀에서 비롯되었다고 하여도 과언이 아닙니다. 추론 (Reasoning)이란 이미 알고 있는 명제를 기초로 하여 새로운 명제를 유도하는 과정으로 전제와 결론 간의 논리적 관계를 다룹니다.
A → B (A를 알면 B를 안다)
주전제 : IF X = 어머니 THEN X = 여자
부전제 : 영자는 어머니이다
결론 : 따라서 영자는 여자다
결과는 항상 True입니다. 연역에 의한 추론은 항상 옳으며 이를 추론의 건전성(Soundness)이라 합니다. 프로덕션 규칙, 시맨틱 넷, 술어 논리 모두 연역법에 기초합니다.
A → B 에서 B를 알면 A를 안다
주전제 : IF X = 어머니 THEN X = 여자
부전제 : 영자는 여자다
Abduction : 영자는 어머니이다 (추측)
결과는 False일 수 있습니다. Abduction은 규칙의 조건을 추측해 내는 유사 추론(Plausible Inference)입니다. 엄밀한 논리 형태는 아니지만 유용한 가설(Heuristic)을 세우고 문제 해결의 출발점을 제시합니다.
개별 인스턴스로부터 일반 규칙 유도
사례 1 : 은행나무는 낙엽이 진다.
사례 2 : 단풍나무는 낙엽이 진다.
귀납 결론 : 모든 나무는 낙엽이 진다 (False: 상록수 반례)
결과는 False일 수 있습니다. 소수의 인스턴스가 모든 경우를 대변할 수 없기 때문입니다. 새로운 사실이 밝혀지면 결론이 수정될 수 있는 비단조 추론의 성격을 갖습니다.
A → B 구조에서, 조건 A가 작업기억에 존재하면 결론 B를 도출하여 실행합니다. 사실(Fact)로부터 출발하여 새로운 결론으로 전진하므로 엄격한 연역법(Deduction)에 속하며, 데이터 주도적(Data-driven) 모니터링 및 실시간 제어에 주로 활용됩니다.
IF A THEN B 에서 최종 목표 B가 주어져 있을 때, "B를 증명하기 위해 선행 조건 A가 참인가?"를 거꾸로 거슬러 올라가며 검증하는 목표 주도적(Goal-driven) 기법입니다. 수많은 무관한 규칙을 실행하지 않고 필요한 규칙만 역추적하므로 진단(Diagnosis)과 디버깅에 매우 효율적입니다.
⚠️ 주의: 후방 방향의 탐색 과정은 겉보기에 Abduction과 유사해 보이지만, Abduction이 "B로부터 A를 추측"하는 반면, Backward Chaining은 "B를 증명하기 위해 A가 참임을 검증"하는 엄격한 연역(Deduction)의 한 형태입니다.
규칙을 기계적으로 해석하던 이산적 연역기에서, 확률적 트랜스포머 어텐션과 System 2 '추론 시간 연산(Inference-Time Compute)'으로의 진화
고전 전문가 시스템의 가장 위대한 아키텍처 혁신은 지식베이스(What to know)와 추론엔진(How to reason)의 완전한 분리였습니다. 지식이 바뀌어도 추론 알고리즘은 수정할 필요가 없었습니다.
반면 바닐라 LLM(트랜스포머)에서는 지식(가중치 파라미터)과 추론(어텐션 순방향 전파)이 단 하나의 거대한 신경망 매트릭스 속에 완전히 결합되어 있습니다. 토큰이 레이어를 통과하는 과정 자체가 암묵적 패턴 매칭이자 연속적인 추론 연산입니다.
초기 LLM의 텍스트 생성은 다음 토큰을 즉시 뱉어내는 다니엘 카너먼의 'System 1(빠르고 직관적인 사고)'에 가까웠기 때문에, 복잡한 다단계 논리 문제에서 어처구니없는 오류를 범했습니다.
💡 추론 시간 연산 (Inference-Time Compute Scaling): 최신 추론 모델(OpenAI o1/o3, DeepSeek-R1)은 질문을 받자마자 답을 내지 않고, 생각의 사슬(Chain-of-Thought), 몬테카를로 트리 탐색(MCTS), 자가 검증(Self-Correction), 백트래킹(Backtracking)을 수행합니다.
즉, 과거 전문가 시스템 추론엔진이 하던 '목표 지향적 탐색과 대안 평가(System 2)'가 LLM의 추론 시간에 스스로 토큰을 생성하며 사고하는 형태로 부활한 것입니다.
UC 버클리(Matei Zaharia et al.)의 연구가 강조하듯, 현대 최첨단 인공지능은 LLM 단일 모델에만 의존하지 않고 복합 AI 시스템(Compound AI System)으로 발전하고 있습니다.
LLM은 유연한 자연어 인터페이스 및 가설 생성기(Abductive Reasoner) 역할을 맡고, 100%의 정확성과 연역적 건전성이 요구되는 수학·논리·제약 조건 문제는 외부의 정밀 기호 추론기(Z3 SMT Solver, Prolog, SQL, Python 인터프리터)에 위임하여 해결하는 뉴로-심볼릭 하이브리드 추론 엔진이 현대 AI의 최종 종착지입니다.
| 비교 항목 | 과거 전문가시스템 추론엔진 (Rule-Based Engine) | 최신 LLM 추론 메커니즘 (Transformer & Reasoning Models) |
|---|---|---|
| 지식과 추론 구조 | 엄격히 분리됨 (지식베이스와 추론엔진의 독립) | 가중치에 결합됨 (트랜스포머 어텐션 연산 속 암묵적 추론) |
| 연산 메커니즘 | 이산적 패턴 매칭 (Rete 알고리즘, IF-THEN 연역) | 고차원 연속 벡터 공간의 확률적 토큰 예측 + MCTS 탐색 |
| 추론 전략 (Strategy) | Forward Chaining (전방) / Backward Chaining (후방) | Chain-of-Thought (사고 연쇄), Tree-of-Thought, 자가 반성 |
| 설명 가능성 (Explainability) | 100% 명확 (발화된 규칙의 경로를 그대로 역추적 가능) | 자연어 사고 과정(CoT)으로 사후 설명하나 내부 가중치는 블랙박스 |
| 상식 및 유연성 | 전무함 (정의되지 않은 예외 상황에서 추론 마비) | 탁월함 (인류의 상식과 문맥을 기반으로 유연한 유추 가능) |
고전 추론 엔진의 원리와 최신 LLM이 추론 시간 연산(System 2 Reasoning)을 통해 복잡한 문제를 해결하는 원리를 확인해 보세요.
작업기억과 규칙 간의 패턴 매칭, 경합 해소 및 전방/후방 연쇄 추론 알고리즘의 동작 원리.
트랜스포머가 추론 시간에 사고의 연쇄(CoT)를 확장하여 고난도 논리와 수학을 해결하는 혁신적 추론 패러다임.