인공지능의 역사는 눈부신 기술적 낙관론과 그것을 근본에서 해체하려는 철학적 비판의 치열한 변증법이었습니다. 1960~70년대 Allen Newell, Herbert Simon, Marvin Minsky가 이끈 기호주의 AI(GOFAI)의 장밋빛 예측에 맞서, 철학자 휴버트 드레이퍼스(Hubert Dreyfus)는 하이데거와 메를로퐁티의 현상학에 기대어 '신체화(Embodiment)와 인간 상식의 비명제성'을 들어 기계의 근본적 한계를 논증했습니다. 그리고 반세기가 흐른 2022년, ChatGPT와 초거대 언어 모델(LLM)의 출현은 드레이퍼스의 고전적 비판을 시험대에 올리는 동시에, '확률적 앵무새(Stochastic Parrots)', '인과 추론의 결여', '환각(Hallucination)'이라는 전혀 새로운 차원의 AI 비판 패러다임을 열어젖혔습니다.
초기 인공지능 낙관론의 좌절과 비판의 태동
인공지능은 Allen Newell과 Herbert Simon이 인간의 기호 조작 형식을 모방하는 컴퓨터 프로그램을 제시함으로써 본격화되었습니다. 1970년대에 이르러 제한된 소규모 세계(Micro-worlds)에 관한 연구들이 어느 정도 성공하자, 박사학위 논문과 학술 심포지엄이 급증했고 Marvin Minsky와 같은 개척자들은 인공지능(Artificial Intelligence)을 창조하는 문제가 한 세대(약 25년) 안에 완전히 해결될 것이라는 극단적인 낙관론을 펼쳤습니다.
⚠️ 기호주의 AI가 직면한 3대 난관 (이초식 1993 / Hubert Dreyfus)
그러나 실제 인공지능 연구자들은 '어린아이의 이야기 이해 프로그램', '상식적 지식(Common Sense)의 정식화', '인간 이해에 있어서 이미지와 프로토타입' 등의 문제에서 예상했던 것보다 훨씬 더 파멸적인 난관에 봉착했습니다. 기호 규칙을 아무리 복잡하게 쌓아 올려도 현실 세계의 무한한 맥락을 프로그램할 수 없었던 것입니다.
Margaret Boden은 AI 분야의 급격한 성장이 상업적·정치적 요인과 매스컴의 과대선전에 의한 것일 뿐, 이것이 결코 과학적·지적 발전(Intelligent Development)을 함축하지 않는다고 비판했습니다. 대부분은 협소한 기술적 유용성일 뿐 인간 지능의 본질 규명과는 거리가 멀었습니다.
초기 자연어 이해 시스템(SHRDLU)을 개발했던 Terry Winograd조차 기존 기호 패러다임의 한계를 인정했습니다. 그는 하드웨어의 발전이 경제적 효용성만 강조할 뿐, 이론적 토대의 진보가 멈추고 고도의 사변적 직관에만 매달리는 현실에 깊은 회의를 표명했습니다.
LLM 시대 이전: 휴버트 드레이퍼스(Hubert Dreyfus)의 현상학적 AI 비판론
버클리 대학교의 철학자 휴버트 드레이퍼스(Hubert Dreyfus)는 1965년 RAND 연구소 보고서 Alchemy and Artificial Intelligence(연금술과 인공지능)와 1972년 저서 What Computers Can't Do: A Critique of Artificial Reason(컴퓨터가 할 수 없는 것: 인공 이성 비판)을 통해 기호주의 AI(GOFAI)의 전제를 근본에서 논박했습니다.
🏛️ 드레이퍼스가 폭로한 인공지능의 4대 허구적 가정 (Four Dogmas of AI)
인간 두뇌의 정보처리가 컴퓨터 칩처럼 디지털 온/오프(0과 1) 스위치 형태의 불연속적 물리 상태로 작동한다는 그릇된 믿음.
인간의 마음이 형식 기호(Symbol)를 계산 규칙에 따라 조작함으로써 작동하는 정보처리 장치라는 착각.
인간의 모든 지식과 지적 행동이 명제(Propositions)와 명시적 규칙(Explicit Rules)으로 완전히 부호화될 수 있다는 착각.
세계 자체가 컴퓨터 데이터베이스처럼 서로 분리된 원자적 사실(Discrete Facts)과 독립된 데이터 요소들로 구성되어 있다는 형이상학적 망상.
🔍 드레이퍼스의 핵심 개념: 기계가 결코 복제할 수 없는 인간 지능의 특성
1. 신체화(Embodiment)와 살아있는 몸: 지능의 필수 전제
드레이퍼스는 모리스 메를로퐁티(Maurice Merleau-Ponty)의 신체 현상학을 수용하여, 인간의 지능은 '진공 속의 두뇌(Brain in a vat)'가 아니라 살과 피를 가진 신체(Body)를 통해 세계와 물리적으로 상호작용할 때만 성립한다고 보았습니다. 신체가 없는 순수 디지털 컴퓨터는 현실 세계의 감각-운동적 의미를 원천적으로 획득할 수 없습니다.
2. 배경 지식(Background)과 지평: 명제화 불가능한 삶의 맥락
하이데거(Martin Heidegger)의 '세계-내-존재(Being-in-the-world)' 개념을 적용하여, 인간의 배경 지식은 컴퓨터의 사전이나 지식 베이스 같은 '규칙과 사실들의 목록'이 아닙니다. 그것은 명문화될 수 없는 '세계에 대한 관심(Sorge/Care)'과 실천적 삶의 형식입니다. AI가 상식을 명제화하려 할 때 필연적으로 계산 폭발과 '프레임 문제(Frame Problem)'에 부딪히는 이유가 여기에 있습니다.
3. 암묵적 지식(Tacit Knowledge)과 Dreyfus 5단계 기술 습득 모델
마이클 폴라니의 명제처럼 "우리는 말로 표현할 수 있는 것보다 훨씬 더 많이 알고 있습니다." 드레이퍼스는 인간의 숙련도를 초보자 → 상급 초보자 → 중급자 → 숙련자 → 전문가의 5단계로 구분했습니다. 초보자만이 형식적 규칙(if-then)에 의존하며, 진정한 전문가는 규칙을 초월하여 직관적·상황적으로 즉각 반응합니다. 컴퓨터는 기껏해야 영원한 '초보자'에 머물 뿐입니다.
"인간은 기계인가?" — 기계론적 환원주의에 대한 철학적 저항
서구 근대 사상은 기계론적 삼단논법을 발전시켜 왔습니다: "인간은 동물이다(Charles Darwin) → 동물은 기계이다(René Descartes) → 그러므로 인간은 기계이다(La Mettrie)."
💔 도스토예프스키적 자유와 인간 실존의 가치 (Philip N. Johnson-Laird 1988)
"사람들은 자유의지를 가지고, 도덕적이고 정신적인 가치를 가진다. 인간은 기계가 아니다! 만약 사람이 기계라면, 우리는 사람이 어떻게 작용하는지를 완전히 이해할 수 있을 것이다. 그러나 여러분이 어떤 사람을 사랑하는 이유를 이해하는 것은 여러분의 사랑을 파괴시킬 것이다. 여러분의 상상을 이해하는 것은 상상을 소멸시킬 것이다."
도스토예프스키가 말했듯 만약 인간이 기계라면 개인의 행동을 완전히 예측할 수 있고, 그것은 자유의 상실이자 끔찍한 악몽입니다. 그러나 인간은 언제나 자신에 대한 기계적 예측을 반박하는 행동을 할 수 있는 실존적 존재입니다.
ELIZA의 창시자인 Joseph Weizenbaum은 저서 Computer Power and Human Reason에서 인간의 무의식적인 마음(Mind), 직관, 공감은 결코 '정보 처리적(Information Processing)' 용어로 환원될 수 없으며, 컴퓨터에게 도덕적·인간적 결정을 맡기는 것은 사회적 재앙이라고 강력히 경고했습니다.
John Searle은 중국어방 논변을 통해 컴퓨터가 조작하는 이진 기호들은 인간 사용자가 부여한 해석 외에 기계 자체에는 어떠한 의미론(Semantics)도 없으며, 컴퓨터의 '이해'는 정확히 제로(0)라고 반박했습니다.
2022년 ChatGPT & LLM 등장 이후 AI 비판론의 대전환
2022년 말 ChatGPT(GPT-3.5/GPT-4, Claude, Gemini)의 등장은 지난 50년간 인공지능 비판론의 토대를 이루었던 전제들을 송두리째 뒤흔들었습니다. 드레이퍼스가 "컴퓨터는 규칙에 갇혀 결코 인간의 맥락, 은유, 유머, 상식을 이해할 수 없다"고 단언했던 영역들을 초거대 언어 모델(LLM)이 놀라운 유창함으로 해내기 시작했기 때문입니다. 이에 따라 현대 AI 비판론은 '규칙의 불가능성 비판'에서 '통계적 유창함의 기만성과 인과적·실존적 결여 비판'으로 근본적인 축 이동을 단행했습니다.
1. 확률적 앵무새론 (Stochastic Parrots)
대표 학자: Emily Bender, Timnit Gebru (2021)
LLM은 인터넷의 방대한 언어적 형태(Form)에서 단어 간의 통계적 상관관계만을 학습했을 뿐, 언어가 가리키는 실제 세계의 의미(Meaning)와 접지(Grounding)를 결여하고 있습니다. 기계는 자신이 산출하는 문장의 진실성이나 도덕적 함의를 전혀 알지 못하는 거대한 확률적 모방기에 불과합니다.
2. 인과 설명의 결여 (Noam Chomsky의 비판)
대표 학자: Noam Chomsky, Ian Roberts (2023 NYT 기고)
촘스키는 ChatGPT를 "표면적 통계 정합의 사기극"이라고 규정했습니다. 참된 인간 지능의 핵심은 '가능한 것과 불가능한 것'을 구별하고 원인을 규명하는 인과적 설명(Explanation)인데, LLM은 방대한 데이터 속에서 진실과 거짓, 도덕과 부도덕을 무차별적으로 뒤섞어 그럴듯하게 흉내 낼 뿐입니다.
3. 환각(Hallucination)과 Bullshit 생성기
철학적 토대: Harry Frankfurt의 'On Bullshit' 이론
철학자 프랑크푸르트의 정의에 따르면 거짓말쟁이는 진실을 알면서 왜곡하지만, 'Bullshit'을 하는 자는 진실 자체에 아무런 관심이 없습니다. LLM의 환각(Hallucination)은 단순한 기술적 버그가 아니라, 사실에 대한 내적 지향성(Intentionality) 없이 그럴듯한 토큰만 나열하는 자동회귀 모델의 본질적 한계입니다.
4. 물리적 접지 부재와 드레이퍼스 신체화의 부활
대표 학자: Yann LeCun, Rodney Brooks
얀 르쿤(Yann LeCun)은 텍스트만 학습한 LLM이 고양이 한 마리 수준의 물리적 상식(물체가 떨어지면 깨진다, 가려진 물체는 뒤에 존재한다)조차 이해하지 못한다고 지적합니다. 감각-운동 루프(Sensorimotor Loop)를 통한 물리 세계와의 접촉이 없다는 점에서, 드레이퍼스의 '신체화(Embodiment)' 비판은 LLM 시대에 새롭게 부활했습니다.
📊 AI 비판론의 시대별 패러다임 비교표: Pre-LLM vs Post-LLM
| 비교 항목 | Pre-LLM 시대 (Dreyfus 고전 비판: 1965~2021) | Post-LLM 시대 (현대 AI 비판: 2022~현재) |
|---|---|---|
| 주요 비판 대상 | 기호주의 AI (GOFAI, 전문가 시스템, 규칙 기반 if-then) | 초거대 언어 모델 (LLM, 트랜스포머, 확산 모델) |
| 비판의 핵심 명제 | "인간의 상식과 맥락은 명시적 규칙으로 환원될 수 없다" | "통계적 언어 유창함이 인과 추론과 진정한 이해를 뜻하지 않는다" |
| 핵심 철학적 무기 | 현상학(하이데거, 메를로퐁티), 신체화(Embodiment) | 인과 철학(Causality), 언어철학(의미론적 접지), 인지과학 |
| 대표 비판 학자 | Hubert Dreyfus, John Searle, Joseph Weizenbaum | Noam Chomsky, Emily Bender, Gary Marcus, Yann LeCun |
| 기술적 한계 증거 | 취약한 상식, 조합 폭발, 좁은 영역(마이크로 월드) 고착 | 환각(Hallucination), 인과 오류, 추상적 추론의 급작스러운 붕괴 |
| 사회가 직면한 위험 | 기술적 정체, 과장된 사기, 연구비 낭비(AI 겨울) | 대규모 허위정보, 문화적 사유 외주화, 지적 오염, 실존적 통제 상실 |
💡 결론적 성찰: 드레이퍼스가 예측했던 "규칙 기반 기계의 한계"는 연결주의 딥러닝에 의해 기술적으로 돌파된 것처럼 보이지만, 그가 제기했던 더 깊은 질문인 "인간의 삶과 신체적 실존에 뿌리박히지 않은 지능이 과연 지능인가?"라는 물음은 2022년 이후 LLM의 환각과 통계적 앵무새 논쟁을 통해 인류 지성사에서 가장 긴급하고 심오한 질문으로 다시 돌아왔습니다.
글로벌 석학 강연 & AI 비판 영상 아카이브 (Video Archive)
휴버트 드레이퍼스의 현상학 강의, 조셉 바이젠바움의 컴퓨터 권력 비판 다큐멘터리, 현대 생성형 AI 비판 논쟁 영상입니다.
추천 논문 & 핵심 고전 비판 학술 아카이브 (Paper Archive)
인공지능의 본성과 한계를 정밀하게 논증한 국내외 원전 및 석학 비판 논문입니다.
AIStudy 핵심 연관 개념망 & 지식 포털 (Term Archive)
인공지능 비판론을 매개로 연결되는 인지과학, 심리학, 컴퓨터공학의 핵심 주제망입니다.