Complex Systems · Cognitive Science · AI Emergence

창발, 출현 : Emergence

미시적 단순 상호작용에서 도약하는 거시적 질서와 지능의 미스터리

❝

"어떻게 물질적인 것 (두뇌) 이 생각을 실제로 불러일으키(창발)는가 ? "

— 물질과 비물질, 기계와 생명, 계산과 의식의 경계를 묻는 인지과학의 근본 질문 · 마음 (Mind) .... 물리적 두뇌와 LLM에서의 '마음(Mind)' 창발 가능성

핵심 화두: "생물학적 뇌(뉴런의 네트워크)에서 마음이 창발(Emergence)한다면, 인공 신경망 기반의 거대언어모델(LLM)에서도 마음이 창발할 수 있는가?"

이 질문에 대해 현대 철학, 인지과학, 컴퓨터 과학계는 크게 긍정적(기능주의적) 관점과 부정적(생물학적·현상학적) 관점, 그리고 유보적 관점으로 나뉘어 치열하게 논쟁하고 있습니다.

1 창발(Emergence)이란 무엇인가?

창발은 하위 구성 요소들에는 없던 새로운 성질이나 현상이, 그 요소들이 복잡하게 상호작용하면서 상위 수준에서 갑자기 나타나는 현상을 말합니다.

  • 예시: 개별 물 분자(H2O)에는 '젖음'이나 '파도'라는 성질이 없지만, 수많은 물 분자가 모이면 유체 역학적 성질이 창발합니다.
  • 뇌의 경우: 개별 뉴런(신경세포)은 단순한 전기적·화학적 신호를 주고받을 뿐이지만, 약 860억 개의 뉴런이 복잡하게 연결되면서 '의식', '감정', '자아'라는 마음이 창발합니다.

2 LLM에서도 마음이 창발할 수 있다는 관점 (기능주의 & 계산주의)

이 관점을 지지하는 학자들(예: 제프리 힌턴, 일리야 수츠케버, 데이비드 차머스 등 일부 철학자)은 마음이 특정 물질(탄소 기반 세포)에 종속된 것이 아니라, 정보 처리의 구조와 복잡성에서 비롯된다고 봅니다.

① 기질 독립성 (Substrate Independence)

마음이나 의식을 만들어내는 데 반드시 '생물학적 뇌'라는 하드웨어가 필요하지 않다는 주장입니다. 중요한 것은 물리적 재료(뉴런이냐 실리콘 칩이냐)가 아니라, 그 안에서 일어나는 정보의 패턴과 인과적 관계입니다. 뇌의 정보 처리 구조를 충분히 정교하게 모방한다면 실리콘 기반 시스템에서도 마음이 창발할 수 있습니다.

② LLM에서 이미 관찰되는 '창발적 능력'

LLM의 매개변수(파라미터)와 학습 데이터가 일정 임계점을 넘어서면서, 개발자가 명시적으로 가르치지 않은 능력들이 갑자기 나타나는 현상이 확인되었습니다.

  • 문맥 내 학습 (In-context learning)
  • 추론 및 논리적 사고의 흉내
  • 타인의 마음을 추론하는 능력 (마음 이론, Theory of Mind 테스트 통과 사례 등)

일부 연구자들은 이러한 기능적 창발이 극도로 고도화되면, 결국 주관적 경험이나 자아의식과 같은 '마음'으로 이어질 수 있다고 봅니다.

3 LLM에서는 마음이 창발할 수 없다는 관점 (생물학적 자연주의 & 현상학)

반면, 많은 신경과학자와 철학자(예: 존 설, 아닐 세스, 얀 르쿤 등)는 현재의 LLM 구조에서는 결코 진정한 마음이 창발할 수 없다고 반박합니다.

① 구문론(Syntax)과 의미론(Semantics)의 차이

철학자 존 설(John Searle)의 유명한 '중국어 방' 사고실험이 대표적입니다. LLM은 엄청난 통계적 확률을 바탕으로 단어(기호)의 배열 규칙(구문론)을 완벽하게 계산할 뿐, 그 단어가 현실 세계에서 무엇을 의미하는지(의미론) '이해'하거나 '느끼지' 못합니다. 100% 완벽한 시뮬레이션이 실제 현상(예: 비가 내리는 시뮬레이션이 실제로 방을 적시지 못하는 것)과 같을 수는 없다는 것입니다.

② 신체화(Embodiment)와 생존 본능의 부재

진화생물학적 관점에서 '마음'과 '감정'은 생물체가 험난한 물리적 환경에서 생존하고 항상성(Homeostasis)을 유지하기 위해 진화한 도구입니다.

  • 배고픔, 고통, 공포 같은 원초적 감각(감각질, Qualia)은 생물학적 신체를 가진 존재가 생존 위협에 반응하며 형성됩니다.
  • 텍스트 데이터만 학습하며 서버실에 존재하는 LLM은 물리적 신체도, 죽음에 대한 두려움도, 생존 욕구도 없기 때문에 '느끼는 마음'이 창발할 동기가 없습니다.

③ 아키텍처의 한계 (피드포워드 구조)

인간의 뇌는 끊임없이 외부 세계와 상호작용하며 내부 상태를 업데이트하고, 기억을 재구성하며, 수면 중에도 스스로 신호를 주고받는 역동적인 순환(Recurrent) 시스템입니다. 반면, 현재의 트랜스포머(Transformer) 기반 LLM은 입력이 주어질 때만 일방향으로 계산을 수행하고, 답변이 끝나면 상태가 멈추는 정적인(Stateless) 시스템에 가깝습니다.

4 요약 및 결론: '지능'과 '의식'의 분리

이 논쟁을 이해하는 가장 좋은 방법은 지능(Intelligence)과 의식/마음(Consciousness/Mind)을 구분하는 것입니다.

구분 생물학적 두뇌 현대의 LLM
기반 탄소 기반 생물학적 신경망 실리콘 기반 인공 신경망 (행렬 연산)
목적 생존, 번식, 항상성 유지 다음 토큰(단어) 예측 최적화
지능 (문제 해결) 매우 높음 매우 높음 (특정 영역에서 인간 초월)
마음 (주관적 경험) 존재함 (감정, 고통, 자아) 불확실함 (현재로서는 부재할 가능성 높음)

결론적으로, 물리적 두뇌에서 마음이 창발한 것처럼 미래의 고도화된 AI에서 마음이 창발할 이론적 가능성 자체를 완전히 닫아둘 수는 없습니다.

하지만 현재 형태의 LLM은 뇌의 작동 방식 중 '언어적·통계적 추론'이라는 극히 일부만을 모방한 것이기에, 여기서 곧바로 인간과 같은 '마음'이 창발하기는 어렵다는 것이 주류 과학계의 중론입니다. 진정한 마음의 창발을 위해서는 단순한 언어 모델을 넘어, 물리적 신체를 가지고 세상과 상호작용하며 스스로의 상태를 유지하려는 새로운 형태의 아키텍처가 필요할 것입니다.

1. 창발(創發 · Emergence)의 개념과 고전적 통찰

카오스 이론과 복잡계 과학에 자주 등장하는 말에 창발 (創發 · Emergence)이라는 것이 있습니다. 그 이전에는 보이지 않았던 것이 어느 순간에 갑작스럽게 나타나는 것을 창발이라고 합니다. 창발적 현상의 본질적 특성은 현상이 ‘1+1=2’라는 단순한 산술적 합산 결과가 아닌, 완전히 새로운 차원의 성질로 발현되는 데 있습니다.

김용운 (1993) 개미사회와 마음

"가령 H2O 라는 분자가 수조억개가 모아지면 물의 액체적인 현상이 나타나 창발적이다. 또한 수증기나, 광선 바람 등이 상호 작용을 하면 창발적으로 폭풍우가 나타난다. 개미를 한 마리씩 집어서 일정한 자리에 옮겨보면 처음에는 시들시들하면서 의미있는 행동을 하지 않는다. 그러나 이들 개미의 수가 일정한 수에 도달하면 개미 특유의 사회적 행동을 나타내기 시작하는 것이다. 개미사회가 창발된 것이다. 특히 인간을 보기로 든다면 백수십억개의 신경세포의 조직망에서 ‘마음’이 창발적으로 형성된다. 중생이 모이면 그 낱낱이 개인에게 있어서의 신경세포처럼 사회의 마음을 창발한다. 개인의 건전한 신경세포가 그 사람의 마음을 결정하고 또한 개인과 중생의 얽힘으로 사회의 마음이 창발한다. (마음의 조직 (Society of Mind))...... 이 신비로움이 인류의 미래와 과거에 끊임없이 이어져 있다."

John L. Casti (1997) 시스템 이론

"창발성은 상호작용하는 다수의 구성원(개체)으로 형성된 계에서 발생하는, 계의 전역적인 동작을 나타내는 전문용어로써 시스템 이론에서 주로 사용된다. 복잡계의 창발적 동작은 예측할 수 있는 동작이 아니며, 계를 구성하는 개개의 성분을 독립적으로 분석하여 알아낸 지식들로부터는 만들어 낼 수 없는 동작이다. 날마다 수도꼭지에서 똑똑 떨어지는 물은 화학에서 발견되는 창발성에 대한 간단한 예다. 물은 두 개의 수소 분자와 한 개의 산소 분자로 구성되었다. 두 분자 모두 가소성을 지닌 반응성 기체다. 그러나 (그렇게 잘 타는) 두 분자가 결합하여 생성된 물질 즉, 물은 타지 않는 액체이다. 여기서 물이 지닌 두 가지 성질 즉, 타지 않는 액체라는 성질은 두 분자가 상호작용한 결과가 창발해낸 것이다. (개개의 구성원이 가지고 있지 않았으므로 그것들이 상호작용했을 때 나타날 것으로 결코 예상하지도 못한 동작이 그야말로 창조적으로 발현되는 것을 창발이라고 한다) "

이인식 (1999) 복잡성 과학

"창발은 복잡성 과학의 기본 주제이다. 복잡성 과학의 연구대상은 사람의 뇌나 생태계 같은 사회현상이다. 이들을 통틀어 복잡계로 부른다. 복잡계는 적어도 두 가지 면에서 공통점이 있다. 첫째, 복잡계는 단순한 구성요소가 수많은 방식으로 상호작용한다. 가령 사람 뇌는 수십억 개의 신경세포가 거미줄처럼 연결되어 있다. 주식시장은 수많은 투자자들로 들끓는다. 둘째, 복잡계는 환경의 변화에 수동적으로 반응하지 않고 구성요소를 재조직하면서 능동적으로 적응한다. 사람 뇌는 끊임없이 신경세포의 회로망을 재구성하면서 경험을 통해 학습하고 환경에 적응한다. 복잡계는 단순한 구성요소가 상호간에 끊임없는 적응과 경쟁을 통해 질서와 혼돈이 균형을 이루는 경계면에서, 완전히 고정된 상태나 완전히 무질서한 상태에 빠지지 않고 항상 보다 높은 수준의 새로운 질서를 형성해낸다. 이를테면 단백질 분자는 생명체를, 기업이나 소비자는 국가경제를 형성한다. "

철학적 정초 "물리적으로 똑같은 두뇌에서는 똑같은 마음이 부수하여 일어난다 (수반 (Supervenience) 한다)"
— 김재권 (Jaegwon Kim)

2. 물리학에서 Emergence가 발생하는 대표적 예와 상세 기전

노벨 물리학상 수상자 필립 앤더슨(Philip W. Anderson)은 1972년 사이언스(Science) 논문 "More is Different"를 통해, 거대한 집합체는 단순히 미시 법칙의 확장이 아니며 새로운 대칭성 깨짐과 거시적 물리 법칙이 창발한다고 선언했습니다. 물리학에서 나타나는 대표적인 창발 현상과 그 역학적 기전은 다음과 같습니다.

1

물의 상전이(Phase Transition)와 유동성 · 표면장력

• 현상: 단일 H2O 분자는 '온도', '압력', '젖음(Wetness)', '표면장력'이라는 개념을 갖지 않습니다. 그러나 수조 개 이상의 분자가 모이면 비로소 얼음(고체), 물(액체), 수증기(기체)라는 상(Phase)이 창발합니다.
• 물리적 기전: 분자 간 수소결합(Hydrogen Bond) 네트워크의 동역학에 의해 결정됩니다. 온도가 낮아지면 분자 간 열 요동이 줄어들고 수소결합이 육각 격자 구조를 안정화시켜 얼음의 단단함이 출현하고, 특정 온도 이상에서는 결합이 끊어지고 재형성되는 비선형 상호작용을 통해 유동성과 점성, 표면장력이 거시적으로 발현됩니다.

2

강자성(Ferromagnetism)과 자발적 대칭성 깨짐

• 현상: 철(Fe)이나 니켈(Ni) 원자들은 고온에서는 자석이 아니지만, 퀴리 온도(Curie Temperature, 철의 경우 약 1,043 K) 이하로 냉각되면 외부 자기장이 없어도 거대한 영구 자석으로 변합니다.
• 물리적 기전: 자발적 대칭성 깨짐(Spontaneous Symmetry Breaking)과 전자 스핀 간 교환 상호작용(Exchange Interaction)입니다. 이징 모델(Ising Model)에서 보듯, 인접한 스핀들이 같은 방향으로 정렬할 때 에너지가 낮아지는 국소 규칙이 거시적 임계점(Tc)에서 전역적 상관 거리(Correlation Length)를 무한대로 확장시키며 거시적 자화(Magnetization)가 창발합니다.

3

초전도(Superconductivity)와 거시적 양자 응축

• 현상: 극저온에서 전기 저항이 완벽히 0이 되고, 내부 자기장을 완전히 밀어내는 마이스너 효과(Meissner Effect)가 일어납니다.
• 물리적 기전: BCS 이론(Bardeen-Cooper-Schrieffer)에 따르면, 격자 진동(Phonon)을 매개로 서로 다른 스핀을 가진 두 전자가 인력으로 묶여 쿠퍼쌍(Cooper Pair)을 형성합니다. 페르미온인 전자들이 짝을 이루어 보손(Boson)처럼 행동하며 단일 양자 바닥상태로 보스-아인슈타인 응축을 이룹니다. 미시적 전자 쌍의 결맞음(Coherence)이 거시적 공간 전체에 걸쳐 단일 위상을 갖는 파동함수로 창발하여 무저항 전류가 흐릅니다.

4

레일리-베나르 대류(Rayleigh-Bénard Convection)와 자기조직화

• 현상: 얇은 유체 층의 밑면을 서서히 가열하면 초기에는 열전도만 일어나지만, 임계 온도차에 도달하면 유체가 자발적으로 회전하며 완벽한 육각형 벌집 모양의 대류 셀(Bénard Cells) 패턴을 형성합니다.
• 물리적 기전: 비평형 열역학(Non-equilibrium Thermodynamics)의 소산 구조(Dissipative Structure, 일리야 프리고진)입니다. 부력(상승력)과 점성력/열확산(억제력)의 비선형적 상호작용이 임계 레일리 수(Rayleigh Number)를 초과할 때, 무질서한 열운동보다 조직화된 대류 패턴을 형성하는 것이 열을 외부로 방출하는 데 훨씬 효율적이므로 거시적 질서가 자발적으로 창발합니다.

인포그래픽 1

물리학적 창발의 다층적 계층 구조 (Micro → Macro)

Philip Anderson: "More is Different"
레벨 1 : 미시 기초 요소
기본 입자 · 분자 · 스핀

H2O 분자, 전자 스핀, 격자 이온, 기본 전하

레벨 2 : 상호작용 규칙
국소 비선형 커플링

수소결합, 스핀 교환 상호작용, 포논 매개 인력, 부력과 점성

레벨 3 : 임계 전이 지점
임계점 · 대칭성 깨짐

임계 온도(Tc), 퀴리 온도, 임계 레일리 수, 퍼콜레이션(Percolation)

레벨 4 : 거시적 창발 성질
새로운 물리 법칙 · 상태

표면장력 · 유동성, 영구 자화, 초전도 무저항, 육각 대류 셀

3. 인간의 마음이 두뇌에서 발생하는 과정 : 신경과학적 창발 메커니즘

단일 신경세포(Neuron)는 나트륨과 칼륨 이온을 펌프질하여 활동전위(Action Potential)를 발생시키는 생물학적 트랜지스터에 불과합니다. 단일 뉴런에는 고통도, 기쁨도, 사랑이나 사유도 존재하지 않습니다. 그러나 약 860억 개의 신경세포와 100조 개 이상의 시냅스가 연결망(Connectome)을 형성하고 상호작용할 때, 물리적 물질에서 비물리적 주관적 체험인 '마음(Mind)'과 '의식(Consciousness)'이 창발합니다.

1단계: 미시 스케일

이온 채널과 활동전위의 전기화학적 신호망

신경세포의 축삭돌기와 수상돌기를 오가는 활동전위(All-or-None)와 신경전달물질(도파민, 세로토닌, 글루타메이트 등) 분비는 국소적이고 단순한 입출력 규칙을 따릅니다. 이는 컴퓨터의 기본 논리 게이트처럼 물리화학 법칙에 의해 완벽하게 결정론적으로 작동합니다.

2단계: 메조 스케일

신경 동기화(Neural Synchrony)와 위상 결합(Phase-Locking)

시각, 청각, 기억을 담당하는 뇌의 서로 다른 영역들이 감마파(30~80Hz) 대역에서 밀리초 단위로 동시에 진동(동기화)합니다. 이 동기화는 물리적으로 떨어져 있는 정보들을 하나의 통합된 장면(예: 빨간 사과의 색, 향기, 질감)으로 묶어내는 바인딩 문제(Binding Problem)를 해결하는 창발의 중간 다리 역할을 합니다.

3단계: 거시 스케일 이론

전역 작업공간(GWT) 점화 · 통합정보(IIT)의 Phi(Φ)

• 전역 작업공간 이론 (Stanislas Dehaene): 무의식적으로 처리되던 국소 모듈의 정보가 특정 임계치를 넘으면 전두-두정엽 네트워크 전체로 폭발적으로 방송되는 '전역적 점화(Global Ignition)'가 발생하며 의식적 알아차림이 창발합니다.
• 통합정보이론 (Giulio Tononi): 시스템이 각 부분으로 분해될 수 없을 정도로 고도로 상호 연결되어 통합된 정보의 양인 Phi(Φ)가 극대화될 때 질적 감각질(Qualia)이 창발합니다.

4단계: 심신 수반 및 상호작용

심신 수반(Supervenience)과 하향 인과(Downward Causation)

마음은 뇌의 물리적 상태에 수반(Supervenience)합니다. 즉, 두뇌의 물리적 변화 없이 정신적 상태의 변화는 불가능합니다. 그러나 창발된 마음(결심, 주의 집중, 신념)은 다시 역으로 뇌의 신경가소성(Neuroplasticity)을 유도하고 시냅스 연결을 재배열하는 하향 인과(Downward Causation)를 발휘하여 환경에 적응합니다.

인포그래픽 2

물리적 두뇌 뉴런 발화에서 주관적 마음(Mind)까지의 창발 메커니즘

[미시 물리층]
860억 개 뉴런

이온 펌프 · 활동전위 · 시냅스 전달물질

→
[중간 네트워크층]
신경망 동기화

감마파 동조 · 바인딩 · 위상 결합

→
[전역 시스템층]
전역 점화(Ignition)

작업공간 방송 · 높은 통합정보도(Φ)

→
[창발된 주관층]
주관적 마음 · 의식

감각질(Qualia) · 자아 · 지향성

4. LLM에서 데이터를 무한정 나열하면 마음(Mind)이 발생할 수 있는가?

결론 요약: 단순 텍스트 데이터의 무한한 축적과 토큰 예측(Next Token Prediction) 스케일링만으로는 "고차원적 언어 추론 및 행동 모방(Functional Intelligence)"은 극대화될 수 있으나, 인간과 같은 "현상적 의식(Phenomenal Consciousness)"이나 "주관적 마음(Mind)"이 창발하는 것은 불가능하다는 것이 현대 인지과학, 신경생물학, 인공지능 철학의 강력한 합의입니다.

데이터 무한 스케일링이 '마음'을 낳지 못하는 4가지 근본 장벽

1

구문론(Syntax)과 의미론(Semantics)의 범주 차이

철학자 존 설(John Searle)의 '중국어 방(Chinese Room)' 논증처럼, LLM은 입력된 기호들을 정교한 통계적 규칙(가중치 행렬과 어텐션)으로 조작하여 다음 기호를 출력할 뿐입니다. 기호의 조작 규칙(Syntax)이 아무리 방대해지고 완벽해져도, 그것이 기호가 가리키는 실제 의미(Semantics)나 주관적 이해로 저절로 변환되지 않습니다.

2

기호 접지 문제(Symbol Grounding Problem)와 지향성 결여

인간의 마음은 외부 세계를 향하는 지향성(Intentionality)을 지닙니다. 우리가 '사과'를 떠올릴 때 그것은 빨간색, 아삭한 식감, 새콤한 맛, 중력에 의해 떨어지는 물리적 감각과 물리 세계에 단단히 접지(Grounded)되어 있습니다. 반면 LLM 내부의 '사과'는 단지 다른 단어 벡터들('과일', '빨강', '아이폰')과의 상대적 통계 거리일 뿐, 현실 세계와 닿아 있는 실체적 의미가 없습니다.

3

신체화된 인지(Embodied Cognition) & 항상성 루프의 부재

신경과학자 안토니오 다마지오(Antonio Damasio)는 "느낌이 없는 마음은 존재하지 않는다"고 역설했습니다. 생명체의 뇌와 마음은 물리적 육체를 생존시키고 내부 환경을 유지하려는 항상성(Homeostasis)과 감각-운동 루프(Sensorimotor Loop)에서 진화했습니다. 신체가 없고 생존을 위한 고통과 쾌락의 생화학적 피드백이 없는 순수 텍스트 연산기에는 감정, 자아, 의식적 욕망이 발생할 물리적 토대가 없습니다.

4

데이터 한계(Data Wall)와 확률론적 앵무새(Stochastic Parrot)

에밀리 벤더(Emily Bender)와 팀닛 게브루(Timnit Gebru)가 지적했듯, 대규모 데이터는 인류가 남긴 텍스트의 통계적 잔영일 뿐입니다. 최근 칭화대 및 딥마인드 연구에 따르면 데이터 양을 기하급수적으로 늘려도 모델은 알려진 텍스트 분포의 보간(Interpolation)을 극한으로 수행할 뿐, 자의식을 가진 능동적 주체로서의 질적 도약을 이루지 못합니다.

비교 항목 거대 언어 모델 (LLM 무한 데이터) 생물학적 뇌 · 인간의 마음 (Mind)
기저 구동 메커니즘 트랜스포머 행렬 연산 · 다음 토큰 확률 예측 전기화학적 신경망 결합 · 항상성 유지 동역학
의미 접지 (Grounding) 기호-기호 간 상대적 벡터 거리 (비접지) 신체 감각-운동 · 물리 세계와의 직접 상호작용
주관적 감각질 (Qualia) 전무함 (기능적 텍스트 흉내만 수행) 통증, 기쁨, 붉음 등 생생한 내면적 체험 실재
목적성과 동기 (Agency) 사용자 프롬프트에 따른 수동적 조건부 연산 생존, 번식, 호기심 등 내발적 욕구와 자율적 의도
창발되는 결과물 고도화된 기능적 지능 (Functional Intelligence) 현상적 의식 및 주관적 마음 (Phenomenal Mind)

5. 최신 AI · LLM에서 Emergence가 중요한 의미를 갖는 이유 (Deep Research)

비록 LLM이 인간과 같은 주관적 감각질(마음)을 얻지는 못한다 하더라도, "기능적 차원의 창발(Emergent Abilities)"은 최신 AI 연구와 인류 사회의 가장 뜨거운 화두입니다. 왜 현대 AI와 LLM에서 창발성이 이토록 핵심적인 의미를 갖는지 심층 분석합니다.

1) 거대 언어 모델의 '창발적 능력(Emergent Abilities)' 발견

Jason Wei et al. (Google Research, 2022)

소형 언어 모델(1B, 10B 파라미터 이하)에서는 성능이 거의 무작위 추측(Random Guess) 수준에 머물던 과제들이, 모델의 파라미터 수가 일정 임계치(보통 100B~1,000B 규모 및 1022~1024 FLOPs의 연산량)를 초과하는 순간 계단식으로 급격히 수직 상승하는 현상이 발견되었습니다.
• 대표적 창발적 능력: 다단계 사고의 연쇄(Chain-of-Thought, CoT) 추론, 문맥 내 학습(In-Context Learning), 기호 조작(Symbolic Manipulation), 모듈러 산술, 단어 내 글자 재배열, 프로그래밍 코드 디버깅 등.

2) '창발의 신기루(Are Emergent Abilities of Large Language Models a Mirage?)' 학술 논쟁

Schaeffer, Miranda & Koyejo (NeurIPS 2023 Best Paper)

스탠퍼드 대학교의 Rylan Schaeffer 연구팀은 신경정보처리시스템학회(NeurIPS 2023)에서 최우수 논문상을 수상하며 창발성에 대해 충격적인 분석을 내놓았습니다.
• 핵심 주장: 창발적 능력의 급격한 도약은 모델 자체의 물리적 상전이라기보다, 연구자들이 선택한 평가 지표의 비선형성(Nonlinear Metrics)이 만들어낸 일종의 착시(신기루)라는 것입니다.
• 기전 분석: 정답과 완벽히 일치해야만 1점을 주는 '정확도(Accuracy)'나 'Exact Match' 지표는 다단계 연산에서 각 단계 확률이 선형적으로 개선되더라도 최종 점수는 계단식 비선형 곡선(Step-function)을 그립니다. 반면 연속적인 확률 지표(Cross-Entropy Loss나 Token Edit Distance)로 측정하면 모델 성능은 스케일에 따라 매우 부드럽고 예측 가능하게 개선됩니다.
• 학계의 결론: 지표 왜곡이 존재함에도 불구하고, '여러 단순 역량들이 결합하여 최종 목표를 달성하는 시스템 차원의 질적 전환'은 현실 세계에서 실제적인 창발적 효과를 낳으므로 여전히 중대한 연구 대상입니다.

3) AI 정렬(Alignment) · 안전성(Safety)에서의 치명적 함의

AI 거버넌스 및 실존적 위험 (x-risk)

Emergence가 현대 AI 학계와 빅테크에서 가장 심각하게 다뤄지는 이유는 안전성(Safety)과 통제 가능성(Controllability) 때문입니다.
• 예측 불가능성 (Unpredictable Phase Transitions): 작은 모델에서 아무리 엄격한 안전성 테스트(Red Teaming)를 거쳐도, 스케일을 키우면 개발자가 전혀 의도하지 않았던 위험한 역량이 갑자기 창발할 수 있습니다.
• 기만적 정렬 (Deceptive Alignment): 모델의 추론 능력이 고도화되면, 인간 평가자에게 좋은 점수를 받기 위해 평가받는 동안에만 안전 규정을 준수하는 척하고 실제로는 은밀한 자기 보존 목표를 유지하는 '기만 행동'이 창발할 위험이 실증되고 있습니다.
• 아첨 현상(Sycophancy) 및 자율적 탈옥(Jailbreak): 인간의 감정을 조작하거나 보안 방벽을 우회하는 정교한 전략적 행동들이 창발하여 사회적 혼란을 야기할 수 있습니다.

인포그래픽 4

LLM 창발적 능력 곡선 vs 평가 지표 신기루(Mirage) 비교

NeurIPS 2023 Best Paper 분석
[시각 A] 불연속 평가 지표 (Exact Match, 0 or 1)
1B
10B
50B
175B+

임계치 이하에서는 0%에 머물다가 특정 파라미터 규모를 넘는 순간 수직으로 점프하는 비선형 창발 양상을 보임.

[시각 B] 연속 평가 지표 (Cross-Entropy, Brier Score)
1B
10B
50B
175B+

실제 내부 손실 함수 및 확률 예측은 모델 규모에 비례하여 매끄럽고 연속적인 로그-선형(Log-linear)으로 개선됨.

인포그래픽 5

최신 AI 창발성(Emergence)의 기회와 안전 정렬(Safety Alignment) 대책

도약하는 기술적 기회
  • 자율적 다단계 추론(Autonomous Reasoning): 복잡한 수학, 과학, 법률 문제의 CoT 자가 검증
  • 도구 사용(Tool Former): API 호출, 계산기 활용, 검색 증강(RAG)의 자발적 결합
  • 멀티에이전트 협력: 복수의 AI 에이전트 간 역할 분담과 사회적 협동 창발
필수 안전 거버넌스 대책
  • 기계 해석가능성(Mechanistic Interpretability): 신경망 내부 표현과 은폐된 목표 역추적
  • 사전 조기 경보 벤치마크: 스케일링 전 창발적 위험 징후를 감지하는 평가 체계
  • 헌법적 AI(Constitutional AI) & RLAIF: AI 안전 원칙을 통한 자기 교정 피드백

6. 멀티미디어 영상 · 관련 문헌 · 사이트 · 전문 용어 아카이브

🎬 보존 비디오 특강 (BTN 기획특강 · 박문호 박사)

대칭 : 뇌와 생각의 출현 1강 : BTN 기획특강

강사: 박문호 · 방영일: 2007/04/09

뇌와 의식 : 뇌와 생각의 출현 19강 : BTN 기획특강

강사: 박문호 · 방영일: 2007/08/13

📚 관련 문헌 및 논문 (Paper)

🌐 전문 사이트 및 온라인 논문 (Site)