카운터프로퍼게이션 네트워크 (Counter-propagation network) 는 1987년 Robert Hecht-Nielsen 에 의해 제안된 상당히 최근의 혼합형 모델인데 Teuvo Kohonen 의 경쟁 네트워크 (참고 : Self-Organizing Map) 와 Stephen Grossberg 의 아웃스타 (outstar) 구조의 결합으로 이루어져 있다. 카운터프로퍼게이션 네트워크는 두개의 서로 다른 타입의 층들을 사용한다. 중간의 은닉층은 자율적인 학습을 하는 경쟁적인 뉴런들로 이루어진 코호넨의 층을 사용하며, 상위층은 그로스버그의 층으로 이루어져 있는데 은닉층과 완전 연결 (fully connected) 되어 있으나 경쟁하지는 않는다.
다음 그림은 완전한 형태의 카운터프로퍼게이션 네트워크의 위상 (topology) 을 나타낸다. X, Y 벡타들은 서로 반대 방향으로 입력되며 출력벡터 X', Y' 를 얻는다. 이와같이 서로 반대 방향으로 처리되는 것으로부터 이 카운터프로퍼게이션 네트워크의 이름이 연유되었다고 이 모델의 창안자인 헥트-닐센은 밝히고 있다.
카운터프로퍼게이션 네트워크는 패턴매칭, 패턴분류, 통계적인 분석 및 데이타 압축 등에 매우 유용한 모델인데, 가능한 응용분야로는 의학, 항공, 재정학 등의 패턴매칭에 널리 쓰일 수 있다. 카운터프로퍼게이션 네트워크가 패턴매칭 문제에 적용될 때의 제한점은 입력패턴들이 잘 분리된 클래스로 되어 있어야 한다는 점이다. 입력벡터가 불규칙하거나 서로 겹쳐져 있을 경우에는 경쟁층에서 왜곡 현상 (skew) 이 일어나서 잘못된 패턴분류를 하게 된다.
카운터프로퍼게이션 네트워크는 패턴 클래스들간의 경계선을 명확히 하기 위하여 경쟁층에 충분한 갯수의 뉴런을 가져야 한다. 그렇치 않은 경우에는 경쟁층에서 하나의 뉴런이 한개 이상의 클래스에 대하여 반응하게 되어 잘못된 분류를 하게 된다. 따라서 충분한 갯수의 경쟁층 뉴런이 필요하다.
카운터프로퍼게이션 네트워크는 기존 네트워크들의 결합으로 만들어진 성공적인 새로운 구조이다. 따라서 장차의 혼합형 모델의 가능성을 암시하고 있다. 더군다나 카운터프로퍼게이션 네트워크는 한개의 학습 알고리즘만을 사용하지 않고 각 층마다 다른 학습 알고리즘을 사용함으로써 이 학습 알고리즘들은 다른 종류의 네트워크들보다 시간적으로 더욱 빠른 학습을 가능케 한다. 또한 카운터프로퍼게이션 네트워크 모델도 다른 신경망 모델들과 마찬가지로 병렬처리가 가능하기 때문에 전용 하드웨어를 사용함으로써 실행 속도를 크게 줄일 수 있다. .......... (김대수 1992)
term :
반대방향 전파 네트워크 (Counterpropagation Network) 신경망 (Neural Network) 자율학습 (Unsupervised Learning) 패턴인식 (Pattern Recognition)
paper :
site :
Counterpropagation Network : Neural Networks at your Fingertips