Biological  Neuron

 

Artificial Neural Networks : Robert J. Schalkoff 저서, McGRAW-HILL, 1997, Page 62~69

 

인공 뉴런을 공부함에 있어 신경망 컴퓨터의 생물학적 원리를 먼저 고려하는 것이 도움이 될 것이다. 먼저 생물학적 신경계의 실제 블록 (actual building block) 를 살펴보자. 그것은 생리학, 화학, 인지(perception) 등등의 여러 분야에서 세포이하의 단위로 부터 전체 시스템이 포함된다. 생물학적 뉴런의 정보처리과정에 영향을 미치는 40 여가지의 속성들이 있다. 여기서는 그 요약을 설명하고자 한다.

생물학적 뉴런에서의 신경세포

신경계는 크게 2 부류의 세포로 구성되는데 neuron (또는 신경세포) 와 glia (또는 glial cell) 이다. 뉴런은 생물학적 정보처리계의 기초적인 블록이다. Glial cell 은 지지기능 (support function)을 수행한다. 따라서 여기서는 뉴런에 집중하여 설명한다.

뇌의 뉴런은 기능에 따라서 구분되는데, afferent or sensory neuron 은 신경계에 입력(input)을 제공한다. 예를들면 시신경이 그예이다. motor neuron 은 근유과 선(gland) 에 제어 신호를 전달한다. inter-neuronal neuron 은 국부적으로 정보를 수행하고 한곳에서 다른곳으로 신호를 전파하며 신경계에서 가장 많은 세포로서 구성된다.  

생물학적 뉴런의 유형은 여러 가지가 있다. 각 세포는 형태학적으로 크게 3 부분으로 구성된다. 각 부분은 신호의 처리에서 독특한 기여를 하게된다.

1. Cell body (or soma) 는 세포핵과 perikaryon 으로 구성되며 직경이 50 µm 가 보통이다.

2. Axon 은 직경 0.2 에서 20 µm 까지의 직경을 가진 관구조이며 1 m 의 길이를 가진 것도 있다. axon 은 axon hillock에서 시작되며 세포 활동전위 (action potential) 를 생성한다. axon 은 뉴런의 주요한 전도 메카니즘이다.

3. Dendrite 는 트리 모양으로 가지를 뻗는 것으로서 대부분의 뉴런은 여러개의 dendrite 를 가지고 있다. 한 뉴런의 dendrite는 시냅스 (synapse) 를 통해서 다른 뉴런의 axon 과 연결된다. 이것이 생물학적 망 (network) 이 형성되는 방법이다. 두가지 유형의 dendrite 가 있는데 apical 과 basal 이 그것이다. Basal dendrite 는 axon 신호 생성에 있어서 흥분과 억제 기능을 둘다 수월하게 한다. 이러한 기능이 인공 세포모델, 특히 MP model (McCulloch-Pitts) 에서 사용된다.

쉽게 표현해서 신호를 생성하는 세포를 presynaptic cell 이라하고 신호를 받는 세포를 postsynaptic cell 이라고 한다. axon 의 끝은 뉴런의 주요한 전달 메카니즘인 presynaptic terminal 로 나뉜다. 이러한 presynaptic 뉴런의 axonic terminal 이 postsynaptic 뉴런의 dendrite 로 연결되는 것을 synapse 라고 부른다. 이것은 각 뉴런에 1,000 개에서 10,000 개가 존재한다.

새포의 형태는 cell body에서 나오는 요소들의 수에 따라 다음과 같이 구분된다. Unipolar cell 은 soma에서 나오는 dendrite가 없다. 단하나의 주요 가지만 존재하여 무척추 동물에서 나타나는 유형이다. Bipolar cell 은 2 개의 주요한 경로를 가지는데 하나는 dendrite 이고 다른 하나는 axon 으로 구성된다. Multipolar cell 은 척추동물의 신경계는 대부분이 이에 속하며 하나의 axon 과 하나이상의 dendrite 다발로 구성된다.

시냅스의 활동 (synaptic activity)

시냅스를 통한 전이는 복잡한 화학적, 전기적 과정이다. 감각이나 화학적 자극 (sonsory or chemical) 은 시냅스 전위 (potential) 의 변화를 야기한다. 이럼으로써 하나의 뉴런이 다른 뉴런의 상태에 영향을 미치게 되는 것이다. soma에서 이러한 활동이 통합되고 axon potential을 결정한다. 여기서 흥분과 억제가 모두 가능하게 된다. 등급이 있는 입력 (graded input action potential) 가 출력 (all or nothing output) 으로 바뀌는 soma conversion 은 세포행동의 가장 흠미로운 부분이며 몇몇 인공 단위모델(artificial unit model) 이 가능하게 하였다. 만일 전체 세포 자극이 역치(threshold) 이하이면 어떠한 신호도 발생되지 않는다. 축적된 자극이 역치 이상이면 얼마나 초과하느냐에 무관하게 똑같은 출력이 발생된다. 이러한 과정은 일반적이며 세포종류와는 무관하다.

활성화된 뉴런의 action potential 은 주파수가 soma 의 potential 과 비례하는 대못모양의 신호 (spiked signal, 아래그림 참조) 이다. 만일 뉴런의 soma potential 이 어떤 역치값 이상으로 상승하면 뉴런은 작동하기 시작한다(firing). 따라서 action potential 은 관련된 뉴런의 potential 에서의 변화의 원인이 될 수 있다. action potential 의 평균 주파수는 뉴런의 mean firing rate 라고 불리운다. mean resting soma potential 에 대한 mean soma potential 의 비율을 뉴런의 activation level 이라고 부른다. 이러한 과정이 다음 그림에 보여준다. 

 

 Receptor, synaptic, action potentials : electro-neural process 의 특별한 parameter 들

Feature

Receptor potential

Synaptic potential

Action potential

Amplitude

0.1 - 10 mV

0.1 - 10 mV

70 - 110 mV

Duration

5 - 100 ms

5 ms to 20 min

1 - 10 ms

Resolution

Graded (continuous)

Graded

Bilevel (all or none)

어떤 neuro-transmitter 가 흥분한다고 하는 것은 전달받는 뉴런의 soma potential 이 증가된다는 것을 의미하며, 억제된다고 하는 것은 전달받는 뉴런의 soma potential 이 낮아지든가 아니면 증가되지 못하도록 방해한다는 것을 의미한다. 특별한 경우는 presynaptic nerve fiber 나 synaptic knob 상에 나타나는 시냅스에 의해 나타나는 presynaptic inhibition 이다. 이런 유형의 억제(inhibition) 는 시냅스에서 action potential 크기가 지속적으로 감소하는 결과를 초래하는 것으로 나타난다. 전체적인 결과는 activation 의 전이를 배가시키는 효과를 보인다. postsynaptic inhibition 은 activation 의 과도한 확산을 방지하는데 사용하는 negative feedback 메카니즘이다.

인간과 쥐 신경계에서의 neuron 과 synapse 의 근사치 갯수

System

Neurons

Synapses

인간신경계

1012

1015

쥐의 뇌

1010

1013

위의 표에서 생물학적 시스템의 복잡성을 보여준다. 단 하나의 뉴런이 103  에서 104 개의 시냅스를 가질 수 있다. 인공적으로 구현하고자 할 때 최근까지 이러한 복잡성을 완성할 수는 없다. 인공 신경망에서의 이러한 scaling problem (크기조정 문제) 을 해결한다고 말하는 것은 삼가야 할것이다.

 생물학적 뉴런과 인공 뉴런의 비교 : 신호와 정보처리를 위한 거대한 생물학적 메카니즘이 인공신경망의 기초가 될 수 있다.

생물학적 뉴런

인공 뉴런

(Neuron) cell (신경세포)

Synapse

Excitatory input (흥분 입력)

Inhibitory input (억제 입력)

(spiking) frequency 에 의한 활성화

세포 물리학에 의해 제한되는 활동범위
 

Unit

Interconnection weight (연결 가중치)

(Large) positive interconnection weight

(Large) negative interconnection weight

DC level

squashing function 에 의해 제한되는 활동범위

생물학적 단위와 전기공학에서의 인공모방 (artificial analogy) 는 다음과 같은 mapping을 보인다. 생물학적 신경세포는 3 개의 주요부분 soma, axon, dendrite 로 구성된다. axon 은 뉴런의 출력채널이며 다른 뉴런과의 시냅스 연결을 통해 신경세포의 활동전위를 운반한다 (신경섬유를 통해서). dendrite 는 다른 뉴런에서 오는 신호의 입력 리셉터로 작용한다. 그리고 포스트 시냅스를 통해 뉴런의 soma 로 입력 전위를 전달한다. soma 는 축적기 또는 증폭기 (accumulator or amplifier) 로 작용한다. 이러한 생물학적 단위의 전기적 모방은 다음 그림에 보이며, 훨씬더 넓은 부분으로의 인공 단위모델이 가능함을 암시한다.  

생물학적 뉴런과 간단한 전기장치 모사(analogy)

생물계의 지능적 행동이 거대한 스케일로 보여지지만, 그 행동의 이면에는 수천에서 수십억개의 미세 생물 처리 단위 (예를들면 뉴런) 들이 융합된 것이다.  다음에 고등생물의 신경계, 특히 인간 뇌에서의 computation 에 대한 광범위한 실마리를 보여준다.

고등 생물계의 조직의 계층은 다음과 같다.