Multilayer perceptron 은 입력층과 출력층 사이에 하나 이상의 중간층이 존재하는 신경망으로 다음 그림에 나타낸 것과 같은 계층구조를 갖는다. 이 때 입력층과 출력층 사이의 중간층을 은닉층 (hidden layer) 이라 부른다. 네트워크는 입력층, 은닉층, 출력층 방향으로 연결되어 있으며, 각 층내의 연결과 출력층에서 입력층으로의 직접적인 연결은 존재하지 않는 전방향 (Feedforward) 네트워크이다.
다층 퍼셉트론의 구조
Multilayer perceptron 은 단층 perceptron 과 유사한 구조를 가지고 있지만 중간층과 각 unit 의 입출력 특성을 비선형으로 함으로써 네트워크의 능력을 향상시켜 단층 퍼셉트론 (Perceptron) 의 여러 가지 단점들을 극복했다. Multi layer perceptron 은 층의 갯수가 증가할수록 perceptron 이 형성하는 결정 구역의 특성은 더욱 고급화된다. 즉 단층일 경우 패턴공간을 두 구역으로 나누어주고, 2 층인 경우 볼록한 (convex) 개구역 또는 오목한 폐구역을 형성하며, 3 층인 경우에는 이론상 어떠한 형태의 구역도 형성할 수 있다.
....... 지금까지는 주로 계단형 (hard limiting) 의 비선형 (noolinear) 활성함수를 사용하고 출력 unit 가 하나인 multilayer perceptron 에 대하여 논의하였는데 이와 비슷한 결과가 시그모이드 비선형 활성함수를 적용한 한 개 이상의 출력 unit 를 가진 네트워크에도 나타난다. 시그모이드 비선형 활성함수를 적용할 경우 결정 영역이 통상 직선이 아닌 완만한 곡선으로 경계지워지므로 행위의 분석이 약간 복잡하지만 미분이 가능하므로 오히려 은닉층을 학습할 수 있는 Backpropagation 학습 알고리즘을 수행할 수 있다. 대부분의 multilayer perceptron 은 역전파 (Back-propagation) 학습 알고리즘을 사용하여 학습시킬 수 있다.
일반적인 multilayer perceptron 의 학습방법은 다음과 같다. 입력층의 각 unit 에 입력 데이터를 제시하면 이 신호는 각 unit에서 변환되어 중간층에 전달되고 최종적으로 출력층으로 나오게 된다. 이 출력값과 원하는 출력값을 비교하여 그 차이를 감소시키는 방향으로 연결강도를 조정하는 것이다. 그러나 중간층이 있으면 학습은 어려워 진다. 왜냐하면 어떤 연결강도가 오차를 유발 시키는지 알 수 없기 때문이다. ............. (김대수 1992)
단층, 2층, 3층 perceptron 들의 구조와 결정 구역을 나타내었다. 이 그림에서 두 번째 열은 각 네트워크가 형성하는 결정 구역을 나타내고 다음 두 개의 열은 Exclusive-or 와 mesh 구역 문제에 대한 결정 구역을 예시한다. 그리고 맨 오른쪽 옅은 일반적인 결정 구역을 예시한다............. (다층인식자)
term :
신경망 (Neural Network) 퍼셉트론 (Perceptron) 다층 퍼셉트론 (Multilayer Perceptron) 지도학습 (Supervised Learning)
paper :
다층신경망을 이용한 얼굴검색 알고리즘 (The Facial Image Searching Algorithm using Multi-Layer Neural Networks) : 박철웅, 이인범, 이병용, 박수봉, 한국멀티미디어학회, 1999
다층 신경망을 이용한 비중심 F 분포 확률계산 (Computation of Noncentral F Probabilities using multilayer neural network) : 구선희, 한국정보처리학회, 2002
site :
다층인식자 : 자동화기술연구센타 : CEM Tool, Neural Network Toolbox