🏛️ MIT AI Lab (1970) · Patrick H. Winston · Symbolic AI · Concept Learning
홈 aistudy 메인

구조 기술 학습 (Structural Description Learning : 개념 형성 알고리즘)

📖 원전 정초 : Patrick H. Winston (1970), "Learning Structural Descriptions from Examples", MIT Project MAC AI-TR-231 (Ph.D. Thesis) · 지도교수 : Marvin Minsky
컴퓨터가 복잡한 대상의 공간적·논리적 구조를 의미망(Semantic Network)으로 표상하고, 긍정 사례(Positive Examples)의 일반화(Generalization)와 정밀한 근접 반례(Near-miss)의 특수화(Specialization)를 통해 스스로 개념의 필수 조건과 금지 조건을 귀납적으로 정립하는 고전 기호주의 인공지능(Symbolic AI)의 기념비적 기계학습 방법론
💡

1. 구조 기술 학습(Structural Description Learning)의 기본 개념과 배경

Winston [70] 이 제기한 사례로부터의 학습방법론은 인공지능과 기계학습 역사에서 선구적 위치를 점하고 있다. 사례는 하나씩 주어지는 조건에서 주어진 사례에 대한 개념설명을 의미망 형태로 구성한다. 사례가 들어올 때마다 지금까지 작성한 개념기술이 제대로 이루어지고 있는지가 검토되며, 긍정사례라면 이 사례를 포함시키도록 개념기술이 보다 일반화되고 부정사례라면 이 부정사례를 포함시키지 않도록 개념기술에 조건들이 붙게 된다. 이러한 학습방법론은 집짓기 블록에 적용되었는데 "아치" 의 개념설명을 학습하는 예를 통해 전형적으로 설명된다.

🔍 속성 기반 학습(Attribute-based)과 구조 기술 학습(Structural Description)의 결정적 차이

기존의 단순한 통계적·수치적 기계학습은 대상을 고정된 차원의 속성 벡터(Feature Vector, 예: [길이, 너비, 무게, 색상])로만 바라보았습니다. 그러나 3차원 공간 구조물(예: 아치, 집, 다리)이나 복합 관계는 부품들의 정적 속성만으로는 결코 정의될 수 없습니다. '어떤 부품이 다른 부품을 받치고 있는가(SUPPORTED-BY)', '두 기둥이 서로 떨어져 있는가(NOT-ABUT)'와 같은 부품들 간의 구조적 관계(Structural Relations)가 본질이기 때문입니다. 윈스턴은 대상을 구성 요소(Parts)와 구성 요소 간의 2항·다항 관계(Relations)로 구성된 방향성 그래프인 '의미망(Semantic Network)'으로 표상함으로써 기계가 구조적 개념을 학습할 수 있는 길을 열었습니다.

🧱 블록 세계(Blocks World) 패러다임

1960~70년대 MIT 인공지능 연구소(Marvin Minsky 지도)의 표준 가상 실험실로서, 기둥, 직육면체, 쐐기(삼각기둥) 등 다양한 기하학적 블록들이 중력과 공간 관계 속에서 조립되는 마이크로월드 환경입니다.

👁️ 비전과 상징적 인지의 통합

컴퓨터 비전을 통해 2차원 선 그림(Line Drawing)을 입력받아 꼭짓점과 모서리를 해석(Guzman 프로그램 활용)한 뒤, 고차원적 인과·공간 관계망으로 자동 변환하여 학습 알고리즘에 전달합니다.

📈 점진적 개념 형성 (Incremental Learning)

수천 개의 데이터를 한꺼번에 배치(Batch) 처리하는 것이 아니라, 인간 아이가 블록을 하나씩 관찰하며 배우듯 사례를 한 번에 하나씩 받아들여 기존 가설을 정교하게 다듬어 나갑니다.

📐

2. 아치(Arch) 모델과 의미망(Semantic Network) 및 술어 논리 표상

먼저 "아치" 를 구성하고 있는 사례에 대해 이를 선으로 그린 그림이 컴퓨터에 주어지면 해석기관에서는 이를 의미망 형태로 변형시켜 저장하게 된다. 그림 5 는 "아치" 의 예의 선 그림과 이의 의미망이다.

그림 5 : 아치에 관한 의미망
그림 5  아치에 관한 의미망 (Semantic Network for an Arch)
선 그림으로 입력된 아치 구조물(두 개의 수직 기둥 b, c와 상단의 수평 상판 a)이 노드(물체)와 링크(관계)로 구성된 방향성 그래프(Semantic Network)로 정밀하게 변환된 모습입니다. 상판 a는 기둥 b와 c에 의해 지지되며(SUPPORTED-BY), 기둥 b와 c는 서로 맞닿아서는 안 됩니다(MUST-NOT-ABUT).

이 의미망의 내용의 이해를 위해 다음과 같은 술어해석의 표현으로 옮겨 볼 수 있다.

ONE-PART-IS(arch, a) ∧ ONE-PART-IS(arch, b) ∧ ONE-PART-IS(arch, c) ∧
HAS-PROPERTY-OF(a, lying) ∧ A-KIND-OF(a, object) ∧ MUST-BE-SUPPORTED-BY(a, b) ∧
MUST-BE-SUPPORTED-BY(a, c) ∧ MUST-NOT-ABUT(b, c) ∧ MUST-NOT-ABUT(c, b) ∧
LEFT-OF(b, c) ∧ RIGHT-OF(c, b) ∧ HAS-PROPERTY-OF(b, standing) ∧
HAS-PROPERTY-OF(c, standing) ∧ A-KIND-OF(b, brick) ∧ A-KIND-OF(c, brick)

📋 의미망 술어 논리식의 구성 요소 상세 분해

술어 표현 (Predicate) 분류 유형 구조적 의미 및 개념 형성 역할
ONE-PART-IS(arch, x) 부분-전체 관계 (Part-Whole) 아치라는 복합 구조물이 세 개의 개별 객체 a, b, c로 조립되어 있음을 선언
A-KIND-OF(x, category) 개념 계층 (ISA Taxonomy) b와 c는 벽돌(brick)이며, 상판 a는 보다 상위 개념인 일반 물체(object)임을 나타냄
HAS-PROPERTY-OF(x, state) 개별 속성 (Property) 상판 a는 수평으로 누워 있고(lying), 기둥 b와 c는 수직으로 서 있음(standing)을 표현
MUST-BE-SUPPORTED-BY(a, b/c) 필수 지지 관계 (Essential Link) 상판 a가 반드시 두 기둥 b와 c 양쪽 모두에 의해 물리적으로 지지되어야 한다는 절대 조건
MUST-NOT-ABUT(b, c) 필수 금지 조건 (Negative Link) 두 기둥 b와 c는 서로 닿아서는 안 됨(통로/문과 같은 빈 공간이 형성되어야 아치가 성립됨)
LEFT-OF(b, c) / RIGHT-OF(c, b) 상대적 공간 위치 (Spatial Relation) b가 c의 왼쪽에 존재한다는 부차적 공간 관계 (추후 일반화 과정에서 대칭화 또는 삭제 대상)
⚙️

3. 윈스턴의 점진적 개념 학습 알고리즘 (Winston's Learning Algorithm)

Winston 의 학습알고리즘은 다음과 같이 3단계 루프를 통해 체계적으로 진행된다.

1
단계 1. 초기 개념 가설(H0)의 생성

첫 번째 긍정 사례가 주어지면, 선 그림과 의미망 해석 과정을 거쳐 이 첫 번째 사례의 의미망 구조를 그대로 초기 개념설명 가설 $H$로 작성한다.

2
단계 2. 새로운 사례와의 구조적 비교 매칭 (Difference Identification)

새로운 사례에 대한 의미망이 입력되면, 기존의 가설 $H$와 그래프 매칭을 수행하여 일치하는 공통 부분을 찾고 서로 일치하지 않는 차이점 부분(Difference)에 대해 정밀하게 표시(Marking)를 한다.

3
단계 3. 차이점 분석에 따른 가설 수정 (Generalization vs Specialization)

표시된 차이점이 어떻게 수정되어야 할지를 사례의 성격에 따라 결정한다 :

  • 새로운 사례가 긍정사례(Positive Example)인 경우 : 이 사례를 $H$가 포함할 수 있도록 $H$를 가능한 한 일반화(Generalization)시킨다. 일반화의 방법은 링크나 노드를 떨어뜨리거나, 노드를 보다 일반적인 상위 개념 노드로 대체한다. 여러 방법 중 가장 적게 일반화시키는 방법(최소 일반화)을 선택하고 다른 대안들은 나중을 위해 저장한다.
  • 새로운 사례가 반대사례(Negative Example / Near-miss)인 경우 : 이 반례를 배제하기 위해 필요조건(필수 링크 MUST-BE, 금지 링크 MUST-NOT)을 $H$에 추가한다. 만약 여러 후보 조건이 있다면 그중 가장 유력한 하나를 선택하고 나머지는 보류한다.
🔁 알고리즘 반복과 수렴 :

훈련자가 새로운 사례 제시를 중단하거나, 가설 $H$가 더 이상의 수정 없이 모든 긍정사례를 포함하고 모든 부정사례를 배제할 때까지 단계 2 와 단계 3 을 지속적으로 반복합니다.

🔄

4. 일반화(Generalization)와 특수화(Specialization)의 조작 연산자

윈스턴의 개념 학습 프로그램은 의미망 그래프를 변형하기 위해 엄밀하게 정의된 기호적 휴리스틱 연산자 규칙들을 사용합니다.

🟢 일반화 규칙 (Generalization Rules)

긍정 사례를 만났을 때 가설 $H$의 제약을 완화하는 규칙 :

  • 링크 제거 (Drop-Link) : 두 사례 간에 일치하지 않는 부차적인 링크(예: 특정 색상, 크기, 방향)를 제거하여 가설을 포괄적으로 만듦.
  • 상위 개념 승격 (Climb Tree) : 부품이 '벽돌(Brick)'에서 '쐐기(Wedge)'로 바뀐 긍정 사례를 보면 상위 개념인 '프리즘(Prism)' 또는 '물체(Object)'로 대체.
  • 대칭성 적용 (Enforce Symmetry) : `LEFT-OF`와 같은 편향적 방향 링크를 상호 교환 가능한 대칭적 관계로 승격.
  • 최소 일반화 원칙 (Minimal Generalization) : 과도한 일반화로 인한 오류를 방지하기 위해 가능한 한 가장 작은 폭으로 가설을 확장.
🔴 특수화 규칙 (Specialization Rules)

반대 사례(Near-miss)를 만났을 때 가설 $H$의 제약을 강화하는 규칙 :

  • 필수 링크 부여 (Require-Link / Must-Be) : 반례에서 결여된 중요한 관계(예: 상판이 기둥을 누르지 못함)를 확인하고 `MUST-BE-SUPPORTED-BY`를 강제.
  • 금지 링크 부여 (Forbid-Link / Must-Not) : 반례에서 발생한 치명적인 오류(예: 기둥끼리 서로 닿음)를 확인하고 `MUST-NOT-ABUT`를 강제.
  • 속성 한정 (Restrict Attribute) : 허용되는 부품의 유형이나 배치 형태의 허용 범위를 좁힘.
  • 신용 할당 (Credit Assignment) : 실패를 유발한 유일한 차이점에만 정확히 비난(Blame)을 가하여 조건을 추가.
🎯

5. 핵심 발견: 근접 반례(Near-miss)와 백트래킹(Backtracking)

Winston 은 이러한 학습알고리즘이 성공적으로 수행되기 위해서는 적절한 사례의 준비가 중요하다는 것을 강조하였다. 각각의 사례가 어느 한 점을 강조하도록 주어져야 하며, 반대사례는 너무 급격한 차이가 나는 반대사례가 아니라 거의 긍정사례와 같으나 약간의 차이로 인해 반대사례가 된 것들 (Near-miss : 근접 반례) 만을 제시하는 것으로 가정했다.

그림 6 : 아치에 대한 반대사례
그림 6  아치에 대한 반대사례 (Near-miss)
기둥 두 개가 서로 빈틈없이 맞닿아 있는(Abutting) 반대사례입니다. 아치로서의 통로 공간이 없으므로 '기둥이 맞닿아서는 안 된다(MUST-NOT-ABUT)'는 핵심 금지 조건을 학습시키는 결정적 근접 반례입니다.
그림 7 : 아치에 대한 긍정사례
그림 7  아치에 대한 긍정사례 (Positive Example)
지붕(상판)이 직육면체 벽돌이 아닌 삼각기둥(쐐기 모양)으로 되어 있음에도 여전히 훌륭한 아치입니다. 상판의 형태를 특정 벽돌에서 일반적인 다면체로 상위 개념화(Generalize Node)하는 계기가 됩니다.

⚠️ 잘못된 가설 선택과 백트래킹(Backtracking)의 복구 과정

단계 3 에서 적절치 못한 필요조건을 선택할 수도 있다. 예를 들어 그림 6 과 같은 아치의 반대사례가 있을 때 이 원인을 두 개의 기둥이 서로 붙어 있다는 것에 두지 않고 삼각형의 지붕을 하고 있다고 했다면 그림 7 이 긍정사례로 주어졌을 때 모순이 발생한다. 왜냐하면 그림 7 은 지붕이 삼각형임에도 아치이기 때문이다.

💡 모순 해결을 위한 백트래킹 메커니즘 :

이러한 모순이 발견되면 프로그램은 즉시 최근의 잘못된 가설 분기로 되돌아가는 백트래킹(Backtracking)을 수행합니다. 즉, 이전에 보류해 두었던 대안 가설을 다시 불러와 "지붕의 모양 때문이 아니라 기둥이 서로 붙어 있기 때문" 이었음을 깨닫고, 최종적으로 "기둥이 서로 붙어 있지 말 것 (MUST-NOT-ABUT)" 이라는 정확한 필요조건을 가설에 추가하게 됩니다.

🚀

6. AI 와 기계학습(Machine Learning) 발전에 미친 역사적 기여

패트릭 윈스턴의 1970년 구조 기술 학습 연구는 단순한 블록 쌓기 실험을 넘어, 인공지능 역사상 가장 영향력 있는 기념비적 이정표 중 하나로 평가받습니다.

1️⃣ 기호주의 기계학습과 개념 학습의 창시

퍼셉트론과 같은 초기 연결주의의 침체기 속에서, 기계가 구조화된 기호 표현(Symbolic Representation)을 통해 인간처럼 고차원적 개념을 학습할 수 있음을 최초로 증명했습니다. 톰 미첼(Tom Mitchell)의 버전 공간(Version Space)과 후보 제거(Candidate Elimination) 알고리즘의 직접적인 모태가 되었습니다.

2️⃣ 귀납 논리 프로그래밍(ILP)과 관계적 학습의 효시

객체 간의 관계를 1차 술어 논리(First-Order Logic)로 표현하고 귀납적으로 학습하는 현대 관계적 기계학습(Relational Learning) 및 귀납 논리 프로그래밍(ILP: FOIL, GOLEM, Progol)의 철학적·알고리즘적 기초를 마련했습니다.

3️⃣ 설명 가능한 AI (XAI)의 고전적 전형

현대 딥러닝과 달리 윈스턴의 모델은 완전한 화이트박스(White-box) 시스템입니다. "왜 이것이 아치인가?", "왜 저것은 아치가 아닌가?"라는 질문에 대해 컴퓨터가 학습한 의미망의 필수 링크(`MUST-BE-SUPPORTED-BY`)와 금지 링크(`MUST-NOT-ABUT`)를 통해 100% 명확한 논리적 근거를 제시할 수 있습니다.

4️⃣ 능동적 교육 환경(Felicity Conditions)의 중요성 발견

무작위 데이터의 단순 주입보다, 교사가 의도적으로 핵심 차이만을 부각시킨 '근접 반례(Near-miss)'를 순차적으로 제시할 때 기계의 학습 효율이 극대화된다는 '교육 조건(Felicity Conditions)' 개념을 정립하여 커리큘럼 러닝(Curriculum Learning)의 선구가 되었습니다.

5️⃣ 지식 그래프와 그래프 신경망(GNN)의 선구

엔티티와 관계를 노드와 엣지로 표상하는 현대 시맨틱 웹, RDF 온톨로지, 지식 그래프(Knowledge Graph) 및 분자 구조 등을 학습하는 그래프 신경망(Graph Neural Networks)의 근본적인 관계 표상 아이디어를 선취했습니다.

6️⃣ 시각 인식과 인지 추론의 수직적 통합

저수준(Low-level) 영상 처리(엣지 및 선분 추출)에서 고수준(High-level) 의미론적 인과 추론으로 이어지는 수직적 인공지능 파이프라인의 전형적인 구현 사례를 제공했습니다.

⚠️

7. 한계점과 현대 신경기호 인공지능(Neuro-Symbolic AI)으로의 부활

구조 기술 학습은 기호주의 인공지능의 황금기를 열었으나, 실세계의 복잡하고 노이즈가 많은 비정형 데이터에 적용될 때 다음과 같은 현실적 한계에 부딪혔습니다.

한계 항목 고전적 구조 기술 학습의 취약점 현대 인공지능(신경기호 AI / 딥러닝)의 해결책
노이즈(Noise) 민감성 단 하나의 잘못된 라벨링이나 왜곡된 반례가 유입되면 가설 전체가 파괴되거나 치명적인 오류 발생 확률적 그래피컬 모델(PGM)과 딥러닝의 소프트 마진(Soft-margin) 손실 함수를 통한 통계적 견고성 확보
사례 순서 및 교사 의존성 교사가 완벽한 Near-miss를 정교한 순서대로 제시하지 않으면 상태 공간 탐색 폭발로 학습 실패 대규모 자가 지도 학습(Self-Supervised Learning) 및 강화학습(RL)을 통한 능동적 탐색
지식 표현 병목 (Bottleneck) 영상에서 선 그림을 추출하고 의미망으로 기호화하는 전처리 과정이 극도로 불안정하고 수작업 의존 CNN/비전 트랜스포머(ViT)가 엔드투엔드로 시각 특징을 자동 추출하고 씬 그래프(Scene Graph) 생성
계산 복잡도 복잡한 그래프 간의 동형성(Graph Isomorphism) 매칭 검사는 NP-완전 문제로서 부품 수가 늘어나면 급격히 지연 그래프 신경망(GNN)의 노드 임베딩 및 메시지 패싱(Message Passing)을 통한 고속 근사 연산
🌟 신경기호 인공지능(Neuro-Symbolic AI)으로의 화려한 부활 :

오늘날 인공지능 학계는 딥러닝의 뛰어난 시각 지각(Perception) 능력과 윈스턴식 기호주의의 논리적 관계 추론(Reasoning) 및 설명 가능성(Explainability)을 결합한 신경기호 인공지능(Neuro-Symbolic AI)에 주목하고 있습니다. 비전 모델이 장면의 물체들을 감지하면, 이를 윈스턴식 의미망이나 지식 그래프로 변환하여 인간이 이해할 수 있는 인과적 상식 추론을 수행하는 하이브리드 아키텍처가 차세대 AI의 핵심 연구 방향으로 자리잡고 있습니다.

🎬

8. Patrick H. Winston 교수 MIT 명강의 (Learning: Winston's Program & Near Misses)

구조 기술 학습의 창시자인 고(故) 패트릭 윈스턴(Patrick H. Winston) 교수가 직접 MIT 6.034 강의실에서 '아치(Arch)' 예제와 '근접 반례(Near Misses)'를 칠판에 그리며 알고리즘의 원리를 명쾌하게 해설하는 전설적인 MIT OpenCourseWare 명강의입니다.

🎓

MIT 6.034 Artificial Intelligence - Learning: Identification Trees, Winston's Learning Program, Near Misses

💡 영상 안내 : 윈스턴 교수가 직접 아치의 선 그림, 의미망 변환 과정, 근접 반례(Near-miss)가 어떻게 필수 조건(`MUST-BE`)과 금지 조건(`MUST-NOT`)을 만들어내는지를 생생한 제스처와 명쾌한 논리로 강연합니다. (강의자: Prof. Patrick H. Winston, MIT 인공지능 연구소 소장 역임)

📁

9. 기계학습 · 개념학습 관련 지식 아카이브

구조 기술 학습과 함께 발전해 온 기계학습, 개념 형성, 의사결정 알고리즘의 핵심 문서들을 함께 탐구해 보세요.