▪ 경험론(Empiricism)의 기원과 본질
Francis Bacon (프랜시스 베이컨)의 《신기관 (Novum Organum)》(아리스토텔레스의 《오르가논(Organon)》, 즉 고전적 생각의 도구를 새롭게 업데이트한 명저)에서 출발한 경험론 (Empiricism) 운동은 John Locke (존 로크)의 다음과 같은 유명한 금언으로 특징지을 수 있습니다:
"먼저 감각 (sense) 되지 않는 것은 어떤 것도 이해 (Understanding) 되지 않는다."
(Nihil est in intellectu quod non sit prius in sensu — John Locke)
철학에서 경험론(Empiricism)이란 인간의 모든 지식이 이성이나 선천적인 생득관념(Innate Ideas)이 아니라, 감각적 경험(Sensory Experience)을 통해 획득된 증거와 관찰로부터 비롯된다는 인식론 이론입니다. 경험론은 관념의 형성 과정에서 사변적인 선험적 공리나 전통적 관습보다 경험과 데이터, 특히 외부 자극에 대한 감각과 지각을 절대적으로 강조합니다. (위키백과: 경험론)
▪ [Infographic] 합리론(Rationalism) vs 경험론(Empiricism)의 AI 패러다임 대전환
지난 70년의 인공지능 역사는 데카르트·촘스키의 '합리론(규칙 주입)'과 로크·베이컨의 '경험론(데이터 학습)' 간의 치열한 패러다임 경쟁이었습니다. 현대 AI 혁명은 경험론의 역사적이고 완전한 승리로 귀결되었습니다.
"지능은 타고난 본유관념과 논리 규칙이다"
- 대표 철학자: 데카르트, 라이프니츠, 노암 촘스키(Noam Chomsky)
- AI 구현 방식: 인간 전문가가 사전에 수작업으로 입력한 IF-THEN 규칙, 1차 술어 논리, Cyc 온톨로지
- 언어관: 인간 뇌에 타고난 보편문법(Universal Grammar)과 언어습득장치(LAD)가 존재함
- 역사적 한계: 상식의 예외와 방대한 현실 세계를 규칙으로 다 기술할 수 없는 지식 획득 병목(Bottleneck)과 AI 겨울 초래
"지능은 빈 서판(백지)에 새겨진 방대한 데이터 경험이다"
- 대표 철학자: 베이컨, 로크, 흄, 토머스 베이즈(Bayes)
- AI 구현 방식: 무작위 가중치(Tabula Rasa) 상태의 신경망에 페타바이트급 데이터를 학습시켜 가중치를 스스로 최적화
- 언어관: 문법을 주입하지 않아도 텍스트의 확률적 공기 패턴(분포 가설)만으로 언어를 완벽 구사
- 역사적 승리: 사전 규칙 제로 상태에서 데이터와 컴퓨팅 스케일링을 통해 지능과 추론 능력이 창발(Emergence)
▪ [Deep Research] 경험론이 최신 인공지능과 LLM을 지배하게 된 4대 메커니즘
📝 1. 존 로크의 백지설(Tabula Rasa) ↔ 인공신경망의 가중치 무작위 초기화(Random Initialization)
존 로크는 인간의 마음이 태어날 때 아무것도 쓰여 있지 않은 백지(Tabula Rasa)와 같다고 선언했습니다. 현대의 최첨단 LLM(GPT, LLaMA, Gemini) 역시 아키텍처 내부에 단 하나의 단어 뜻이나 문법 규칙도 사전에 새겨넣지 않습니다. 신경망은 가우스 분포에 따라 완전히 무작위인 난수(Random Numbers) 가중치로 초기화되며, 이는 철학적 '백지' 상태의 수학적 구현체입니다. 수조 개의 토큰 경험(Experience)을 거치면서 비로소 지식과 논리가 백지 위에 스스로 각인됩니다.
💥 2. 강화학습의 거장 리처드 서튼(Richard Sutton)의 《쓰라린 교훈 (The Bitter Lesson, 2019)》
컴퓨터 과학계에서 경험론의 승리를 가장 명쾌하게 증명한 문헌은 리처드 서튼 교수의 에세이입니다. 서튼은 지난 70년간 AI 연구의 가장 큰 교훈은 "인간이 사전에 고안한 규칙과 구조(합리론적 지식)를 집어넣으려는 모든 시도가 결국 무위로 돌아갔으며, 오직 대규모 계산(Compute)을 활용해 일반적인 학습과 탐색(경험론적 접근)을 수행한 방법만이 최종적으로 승리했다"고 선언했습니다. 인간의 어설픈 사전 지식을 버리고 데이터 경험에 맡겼을 때 인공지능은 비로소 인간을 뛰어넘었습니다.
🗣️ 3. 촘스키의 '자극의 빈곤 가설' 격파 ↔ 자기지도학습(Self-Supervised Learning)의 승리
노암 촘스키는 아이들이 듣는 언어 데이터가 불완전하고 오류투성이임에도 유창한 문법을 구사하는 현상을 들어 "환경의 자극만으로는 언어를 배울 수 없으며(자극의 빈곤), 타고난 유전적 문법 장치가 필수적이다"라는 합리론적 주장을 수십 년간 고수했습니다. 그러나 트랜스포머 기반의 LLM은 어떠한 생득적 문법 장치 없이 오직 "다음에 올 단어를 맞히는 통계적 자기지도 경험(Next-Token Prediction)"만으로 지구상의 수많은 자연어 문법을 완벽히 정복함으로써 촘스키의 가설을 정면으로 반증했습니다.
🔗 4. 데이비드 흄의 연합주의(Associationism) ↔ 트랜스포머의 셀프 어텐션(Self-Attention)
데이비드 흄은 인간 마음의 복합 관념이 단순 인상들의 시공간적 인접성, 유사성, 인과적 연합(Association)에 의해 형성된다고 보았습니다. 트랜스포머 아키텍처의 셀프 어텐션 메커니즘은 문장 내의 모든 단어 쌍 간의 연관성 점수를 행렬 곱(Q·K)으로 계산하여 맥락상 관련된 관념들을 동적으로 결합합니다. 이는 흄이 통찰했던 '인상들의 연합 법칙'이 수십억 차원의 벡터 공간에서 수학적으로 구현된 결과입니다.
▪ [Infographic] 백지(Tabula Rasa)에서 초거대 지능으로: 지식 획득의 4단계 아키텍처
로크가 제시한 인간 정신의 지식 획득 4단계와 최신 초거대 언어모델(LLM)의 훈련 파이프라인의 놀라운 구조적 일치를 시각화합니다.
빈 서판 (Tabula Rasa)
로크: 무기록 마음사전 규칙과 편견이 배제된 상태. 무작위 가중치(Random Weights)로 초기화된 텅 빈 신경망.
감각적 경험 (Sensation)
로크: 외부 자극 유입인터넷 웹 텍스트, 학술 논문, 백과사전, 멀티모달 센서 등 수조 개의 토큰 스트림 투입.
연합과 반성 (Reflection)
흄: 인상들의 통계적 연합Self-Attention & 오차역전파를 통해 단어 간의 통계적 상관성과 인과적 맥락을 가중치에 압축.
복합 관념 & 이해 창발
로크: 고차 지식의 성립언어 이해, 코딩, 복합 추론(CoT), 창의적 문제해결 능력이 스스로 창발(Emergence)하여 발현.
▪ 경험론 4대 철학자의 핵심 명제와 현대 AI 기술의 대응
| 철학자 | 핵심 철학 명제 · 저작 | 경험론적 통찰 | 최신 AI · LLM 기술의 대응 |
|---|---|---|---|
| 프랜시스 베이컨 (Francis Bacon) |
《신기관 (Novum Organum)》 "아는 것이 힘이다" |
사변적 삼단논법 거부, 체계적 관찰과 실험에 기반한 귀납법 제창 | 빅데이터 기반의 귀납적 딥러닝 훈련, 데이터 드리븐 머신러닝 패러다임 |
| 존 로크 (John Locke) |
《인간지성론》 백지설 (Tabula Rasa) |
생득관념을 부정하고, 모든 지식은 오직 감각과 경험을 통해 기록됨 | 사전 규칙 없는 신경망 무작위 초기화(Zero-priors) 및 대규모 사전학습 |
| 데이비드 흄 (David Hume) |
《인간오성고찰》 연합주의 · 귀납의 회의 |
관념은 인상들의 유사성·인접성 연합이며, 인과는 경험적 습관 | 트랜스포머 셀프 어텐션(Self-Attention)의 맥락 연합 가중치 연산 |
| 토머스 베이즈 (Thomas Bayes) |
베이즈 정리 (Bayes' Theorem) 경험적 확률 갱신 |
새로운 경험적 증거가 축적될 때마다 기존 믿음(사전확률)을 갱신 | 베이지안 머신러닝, 프롬프트 맥락 내 학습(In-Context Learning), RLHF |
▪ 관련 핵심 학술 개념 및 세부 연구 분야
경험론적 인식론과 인공지능 연구에서 상호 참조되는 주요 학술 개념들입니다. 각 링크를 클릭하면 상세 페이지로 이동합니다.