IF-THEN 규칙을 통해 인간 전문가의 지식을 논리적으로 기계화하려 했던 1980년대 인공지능의 황금기. 그 위대한 성취와 몰락의 근본 원인을 해부하고, 오늘날 거대 언어 모델(LLM)과 가드레일(Guardrails)에서 규칙이 갖는 현대적 의미를 조망합니다.
💡 "수작업 코딩된 규칙의 조합 폭발과 붕괴"에서 "LLM 확률적 유연성과 엄격한 규칙 가드레일의 뉴로-심볼릭 결합"으로
규칙(Rule)으로 표현되는 생성시스템 (Production System)은 인간의 인지 구조를 모델링하여 다음과 같은 세 가지 핵심 요소로 구성됩니다.
전문가의 도메인 규칙(IF-THEN Rules)들을 보관하고 있는 장기기억 저장소로, 컴퓨터의 하드디스크나 데이터베이스에 해당합니다.
추론 과정 중에 시스템에 입력된 현재의 사실(Facts)들과 중간에 추론된 새로운 사실들을 일시적으로 기억하는 메인 메모리(RAM)에 해당합니다.
작업기억의 사실과 생성기억의 규칙 간의 패턴 매칭, 경합 해소(Conflict Resolution), 규칙 발화(Execution) 등 추론 과정 전반을 제어하고 총괄합니다.
| Rules | Post Production Rules (전제조건과 결론으로 구성된 생산 규칙) |
| Inference Engine |
1. 효율적인 패턴 매칭 (Efficient Pattern Matching) : Rete Algorithm <-- Markov Algorithm 3. 규칙 후건의 실행 (Execution of RHS of Rules) |
| Facts | 작업기억에 적재되는 검증된 관측 데이터 및 초기 명제 |
| The use of general knowledge | 책에 묘사되어 있는 것과 완전히 똑같지 않은 환자를 다뤄야 할 경우에 아무리 잘 정리된 책이라도 비전문가가 사용하기는 어려울 수 있다. 따라서 일반적 지식(General Knowledge)을 사용하여 비전문가도 이해하기 쉽게 상담한다. |
| The use of judgmental knowledge | 희귀한 질병을 가진 소규모 환자의 경우 아직 이용할 만한 통계적 데이터가 충분치 않다. 이때 전문가의 경험적 판단 지식(Judgmental Knowledge, 휴리스틱)을 활용해 신속히 진단한다. |
| Ease of modification | 규칙들은 서로 간에 복잡한 하드웨어 와이어링이 되어 있지 않고 사전에 고정된 의사결정 트리가 필요 없으므로, 규칙의 추가와 수정이 독립적으로 이루어질 수 있다고 보았다. (초기 모듈성 가설) |
| Facilitated search for inconsistencies | 지식이 IF-THEN 단위의 독립된 패킷(Packet)으로 명확하게 저장되므로 지식베이스 내의 잠재적 모순(Contradiction)을 비교적 용이하게 탐색하고 검증할 수 있다. |
| Straightforward explaining mechanisms | 설명 가능성(Explainability): 결론에 도달하기까지 발화된 관련 규칙 체인을 역추적하여 "왜(Why)" 이 질문을 하며, "어떻게(How)" 이 결론이 도출되었는지를 사용자에게 투명하게 설명한다. |
| An augmented instructional capability | 시스템 사용자는 의사결정 과정 중 혼란스러운 부분만을 선택적으로 검사하며 전문가의 논리 체계를 학습할 수 있는 교육적 효과를 얻는다. |
| 전문가로부터 지식획득의 어려움 | 규칙이 전문가의 실제 사고 체계와 달라 문제해결 지식을 온전히 반영하지 못한다. 전문가의 지식은 책의 공식이 아닌 수많은 경험 사례에서 우러나온 것인데, 경험적 지식을 IF-THEN 규칙으로 쪼개어 표현하는 데 극심한 난항을 겪는다. 지식의 기본 단위는 규칙이 아닌 '사례'인 것이다. (해결책: 사례기반추론 Case-Based Reasoning, 인공신경망) |
| 과거의 결과를 기억하지 못함 | 동일한 문제를 해결할 때마다 수백 개의 규칙을 똑같이 처음부터 적용해야 하므로 계산 효율성이 떨어진다. 규칙을 사람이 직접 수정하지 않는 한 동일한 실수를 무한히 반복하며 스스로 학습하여 개선되지 못한다. |
| 불확실한 자료와 유사성(Similarity) 처리 불가 | 규칙의 조건과 100% 일치하지 않고 조금이라도 다른 유사한 문제에 직면하면 아무런 답을 내지 못한다. 인간 의사는 과거의 유사 사례에서 유추(Analogy)하여 새로운 처방을 내리지만 규칙 시스템은 유연성이 전혀 없다. (퍼지 이론이나 확률 모델이 요구됨) |
| 지식의 수정 및 추가의 극심한 어려움 | 지식이 늘어날수록 규칙들 간의 간섭과 충돌로 인해 지식 적용과 통제가 기하급수적으로 어려워져 사실상 시스템을 재개발해야 한다. 인간은 지식이 많아질수록 더 빠르고 직관적으로 판단하지만, 규칙 시스템은 규칙이 1,000개를 넘어가면 붕괴한다. |
출처: 강은혜 (1993)
1980년대 상업적 절정에 달했던 규칙 기반 전문가 시스템이 왜 산업 현장에서 확장에 실패하고 제2차 AI 겨울을 맞이했는가?
인간 전문가의 직관과 암묵지는 IF-THEN 규칙으로 환원될 수 없음. 인터뷰를 통해 규칙 하나를 추출하는 데 막대한 비용과 시간 소모.
규칙이 수천 개를 넘어가자 규칙 간의 상충, 모순, 예외를 관리할 수 없게 됨. DEC의 XCON 시스템은 매년 수백 명의 엔지니어가 규칙을 수정하느라 유지비가 시스템 가치를 초과함.
사전에 정의된 좁은 도메인 범위를 단 1밀리미터만 벗어나거나 규칙에 없는 오타·예외가 발생하면 유연한 유추 없이 시스템 전체가 완전히 마비됨.
동일한 오류를 저질러도 스스로 학습하지 못하고 사람이 규칙을 고쳐주기 전까지 실수를 무한히 반복. 환경 변화에 자율 적응 불가.
인간 10세 아동도 아는 보편적 상식이 전혀 없어 엉뚱한 결론을 도출. 또한 고가의 Lisp 머신 등 전용 하드웨어 시장이 범용 PC 및 마이크로프로세서의 급속한 발전으로 경쟁력을 상실하고 몰락함.
하드코딩된 규칙의 몰락 이후, LLM의 확률적 유연성과 엄격한 규칙 가드레일이 결합한 '뉴로-심볼릭 AI'로의 화려한 부활
과거 전문가 시스템이 1,000개의 규칙을 일일이 수작업 코딩했다면, 오늘날 거대 언어 모델(LLM)은 웹 스케일 빅데이터로부터 인간의 언어 규칙, 과학적 인과성, 문법, 사회적 상식을 수천억 개의 연속 벡터 파라미터(가중치) 속에 '소프트 규칙(Soft Rules)'의 형태로 자동 학습했습니다.
💡 이를 통해 과거 규칙 기반 시스템이 겪었던 유사성(Similarity) 처리 불가 문제와 극단적 취약성(Brittleness)이 완전히 해결되었습니다.
그러나 LLM은 본질적으로 확률적 텍스트 예측기이므로, 거짓을 사실처럼 말하는 환각(Hallucination)과 비결정론적(Non-deterministic) 오작동을 일으킵니다. 금융, 의료, 법률, 원자력 등 단 1%의 실수도 용납되지 않는 엔터프라이즈 환경에서 순수 LLM만을 신뢰할 수는 없습니다.
📌 규칙 기반 가드레일 (Guardrails): 엔비디아의 NeMo Guardrails나 메타의 Llama Guard처럼, LLM의 입력과 출력 단계에 엄격한 기호적 규칙(Regex, JSON Schema 제약, 정책 룰)을 배치하여 AI의 탈옥을 방지하고 정확성을 강제합니다.
📌 시스템 프롬프트 = 현대판 메타 규칙: 개발자가 모델에 내리는 System Instructions는 과거 전문가 시스템 추론엔진의 메타 규칙(Meta-Rules)과 완벽히 동일한 제어 역할을 수행합니다.
최신 AI 아키텍처의 정점은 신경망(LLM)과 규칙 엔진(Rule Engine)의 공존입니다.
자연어의 모호한 이해, 상식 유추, 비정형 데이터 분석은 LLM이 담당하고, 복잡한 세법 계산, 보험 심사 약관, 의료 보험 청구 기준 같은 100%의 무결성이 필요한 핵심 비즈니스 로직은 기존의 고전 규칙 엔진(Drools, Blaze Advisor 등)이 실행하도록 결합하는 복합 AI 시스템(Compound AI)이 산업계를 지배하고 있습니다.
| 비교 항목 | 과거 규칙기반 시스템 (Rule-Based Expert System) | 최신 거대 언어 모델 (LLM & Neuro-Symbolic) |
|---|---|---|
| 지식 구축 방식 | 인간 전문가 인터뷰를 통한 수작업 하드코딩 | 웹 스케일 빅데이터 비지도 사전학습 + RLHF 정렬 |
| 지식 표현 구조 | 이산적(Discrete) IF-THEN 프로덕션 규칙 | 연속적(Continuous) 수천억 개 가중치 파라미터 벡터 |
| 확장성 한계 | 규칙 1,000개 초과 시 충돌과 조합 폭발로 붕괴 | 수조 토큰과 수천억 파라미터로 무한 확장 가능 |
| 유연성 및 상식 | 전무함 (정의되지 않은 입력에 극단적 취약성 노출) | 매우 뛰어남 (보편적 상식 및 유사성 기반 유추 탁월) |
| 결정론적 정확성 | 100% 결정론적 (규칙에 따라 동일 입력 시 동일 출력) | 확률적 생성 (환각 발생 가능, 가드레일 규칙 필수) |
| 현대적 위상 | 단독 AI로는 몰락, 기업 비즈니스 규칙 엔진으로 축소 | 생성형 AI 코어 + 규칙 가드레일 결합 (뉴로-심볼릭 복합 AI) |
규칙 기반 전문가 시스템이 겪었던 한계와, 현대 LLM에서 신뢰성과 안전성을 보장하기 위해 규칙 가드레일이 어떻게 적용되는지 살펴보세요.
IF-THEN 규칙과 작업기억, 추론엔진의 결합 구조와 초기 인공지능 상업화의 궤적.
거대 언어 모델의 환각과 안전성 결함을 제어하기 위해 프로그램 규칙을 적용하는 최첨단 가드레일 기술.
저자: Edward H. Shortliffe, Bruce Buchanan (Stanford University)