비지도학습(Unsupervised Learning)의 금자탑 · 코호넨 맵

Self Organizing Map (자기조직화 지도, SOM)

정답 라벨 없이 입력 데이터의 고차원 특징 공간을 대뇌 피질의 위상학적 구조를 모방한 2차원 저차원 격자로 투영하여, 데이터의 내재적 유사성과 군집 구조를 시각화·보존하는 인공신경망 모델

✦ 1. SOM의 의의·기능 & 활용 예 ✦ 2. 생물학적 기원과 자기조직화 원리 ✦ 3. 승자독식(BMU)과 이웃 학습 알고리즘 ✦ 4. GTM(생성적 위상 매핑)과 코호넨 모델 분류 ✦ 5. 관련 용어·사이트·연구 논문

1. 자기조직화 지도(SOM)가 신경망에서 갖는 의미, 핵심 기능 및 실제 활용 예

자기조직화 지도(Self-Organizing Map, SOM)는 핀란드 헬싱키 공과대학의 Teuvo Kohonen 교수가 1982년에 제안한 인공신경망 모델로, 고안자의 이름을 따서 코호넨 맵(Kohonen Map) 또는 코호넨 네트워크(Kohonen Network)라고도 널리 불립니다. SOM은 지도학습과 달리 교사 신호(정답 라벨, Target)가 전혀 주어지지 않는 환경에서 데이터 스스로의 고유한 분포와 기하학적 유사성을 탐색하는 대표적인 자율학습 / 비지도학습 (Unsupervised Learning) 신경망입니다.

🧠 1) 대뇌 피질 위상 지도(Topographic Map)의 수학적 모형

인간의 뇌, 특히 대뇌 감각 피질(시각, 청각, 체감각 피질 등)은 외부 감각 신호의 기하학적·공간적 이웃 관계를 뇌 표면의 인접 뉴런 배열로 그대로 보존합니다. SOM은 생물학적 뇌의 이러한 위상 보존형 자기조직화(Topographic Self-Organization) 원리를 공학적 신경망으로 모델링한 것으로, 신경생리학과 컴퓨터 과학을 융합한 연결주의 신경망의 정수로 평가받습니다.

📉 2) 비선형 위상 보존 차원 축소 (Dimensionality Reduction)

주성분 분석(PCA) 같은 고전 통계 기법은 선형적인 차원 축소에 머무르지만, SOM은 수십~수백 차원의 복잡한 비선형 매니폴드 데이터를 2차원(또는 3차원) 격자 평면 위에 위상(Topology, 인접 관계)을 손상시키지 않고 그대로 투영해냅니다. 고차원 데이터 공간에서 가까운 샘플들은 저차원 격자 상에서도 반드시 인접한 뉴런에 매핑됩니다.

🎯 3) 정답 라벨 없는 자율 군집화 및 시각화

빅데이터 분석에서 데이터에 일일이 정답 태그를 다는 것은 막대한 비용이 듭니다. SOM은 비지도 방식으로 데이터를 군집화(Clustering)하고 직관적인 히트맵(U-Matrix 등)으로 시각화하여 데이터 내부에 숨겨진 잠재 패턴, 이상치(Anomaly), 군집 경계를 연구자에게 한눈에 드러내 줍니다.

⚙️ SOM의 핵심 기능과 3단계 경쟁·협동 메커니즘

① 경쟁 과정 (Competitive Process)
입력 벡터 x가 들어오면 격자 상의 모든 뉴런 가중치 wᵢ와의 유클리드 거리(||x - wᵢ||)를 계산하여, 가장 거리가 가까운 단 하나의 뉴런을 승자 뉴런(Best Matching Unit, BMU)으로 선발합니다 (승자독식, Winner-Take-All).
② 협동 과정 (Cooperative Process)
승자 뉴런만 학습하는 일반 경쟁망과 달리, SOM은 격자 상에서 승자 주변의 이웃 뉴런들도 함께 학습시킵니다. 승자로부터의 거리에 따라 가우시안 등의 이웃 함수(h_{c,i}(t))를 부여하여 가까울수록 강하게, 멀수록 약하게 동반 학습합니다.
③ 적응 과정 (Adaptive Process)
승자와 그 이웃 뉴런들의 가중치를 입력 벡터 방향으로 끌어당겨 갱신합니다:
wᵢ(t+1) = wᵢ(t) + α(t) h_{c,i}(t) [x(t) - wᵢ(t)]
학습이 진행됨에 따라 학습률 α(t)와 이웃 반경 σ(t)를 점진적으로 줄여 정밀하게 수렴시킵니다.

📌 SOM의 대표적 활용 분야 및 실제 적용 사례

1. 고차원 데이터 시각화, 고객 세분화 및 금융 분석

  • 고객 행동 군집화(Customer Segmentation): 소비자의 구매 성향, 접속 이력, 거래 규모 등 수십 개 피처를 2차원 지도로 시각화하여 VIP 고객군 및 이탈 위험 고객군을 자동 분류.
  • 금융 사기 거래 탐지 (FDS) 및 위험 평가: 정상적인 거래 패턴 군집에서 멀리 떨어진 이상치(Outlier) 격자 뉴런을 감지하여 부정 결제 즉각 포착.
  • 대규모 텍스트/문서 지도화 (WEBSOM): 수백만 편의 학술 논문 및 뉴스 기사를 의미적 유사도에 따라 2차원 공간에 책장처럼 배치하는 정보 검색 시스템.

2. 생체 신호, 음성 인식 및 로봇 공학

  • 음소 지도(Phonotopic Maps): 테우보 코호넨 교수가 실증한 음성 스펙트럼의 주파수 특성을 2차원 음소(모음, 자음) 격자로 매핑하는 실시간 음성인식기.
  • 로봇 매니퓰레이터 충돌 회피 경로 계획: 3차원 작업 공간에서 장애물을 회피하는 최적 궤적을 자율적으로 구성(이종태 외 1996, 1999).
  • 생체 인식 및 머리 동작 제스처 분석: 고유얼굴(Eigenface) 특징 벡터와 SOM을 결합한 지능형 제스처 판별(이우진 2000), 유전자 발현 데이터의 클러스터링.

2. 생물학적 기원과 자기조직화(Self-Organization)의 원리

태어난 지 얼마 되지 않은 아기가 눈의 초점 맞추기를 배우는 과정을 생각해 봅시다. 이 기능은 신생아들에게는 주어지지 않았지만 그들은 태어난 지 얼마 되지 않아서 점차로 그러한 능력을 갖게 됩니다.

이 세상에서 아무리 훌륭하고 헌신적인 부모라 해도 갓 태어난 아기에게 시각적인 자극을 보고 이해하기 위하여 어떻게 해야 하는지 가르쳐 줄 수는 없습니다. 그러나 며칠 후 아기는 눈에 보이는 자극과 물체 및 모양들을 서로 연관시키는 것을 자연스럽게 배우게 됩니다. 이것은 주목할 만한 점입니다. 그러나 아기뿐만 아니라 갓 태어난 강아지나 고양이들도 이러한 기능을 외부의 도움 없이도 자연스럽게 배웁니다.

💡 코호넨(Teuvo Kohonen)과 그로스버그(Stephen Grossberg)의 발견

어떻게 이런 일이 일어나는가? 이에 대한 설명 중 하나가 핀란드의 헬싱키 공과대학(Helsinki Technology University)의 Teuvo Kohonen에 의해 제안되었습니다. 그의 연구 업적은 유럽에서만큼 미국에서는 크게 알려지지 않았으나 자율학습 (Unsupervised Learning) 신경망 모델에서는 미국의 Stephen Grossberg와 더불어 가장 유명합니다.

그의 신경망의 '자기조직화 (Self Organizing)'란 주어진 입력 패턴에 대하여 정확한 해답을 미리 주지 않고 자기 스스로 학습할 수 있는 능력을 말합니다.

일반적으로 이러한 네트워크들은 신경생리학 (neurophysiology)적인 시스템을 본떠서 모델링한 것입니다. 이러한 모델들을 연구하는 사람들은 두뇌 (brain)가 어떻게 실제로 작용하는지를 이해하고자 노력하며, 이를 신경망 (Neural Network)으로 구현할 때 얼마나 유용할 것인가를 규명하기 위하여 노력합니다 ...... (김대수 1992)

코호넨 네트워크 구조
▲ 코호넨 자기조직화 네트워크(Kohonen Self-Organizing Network)의 계층적 구조

3. 승자독식(Winner-Take-All) 과정과 2단계 작동 모드

SOM은 입력 벡터를 훈련 집합에서 매치되도록 가중치가 조정되는 인공 신경세포 (Neuron) 격자에 기초한 자율학습 (Unsupervised Learning)의 한 방법입니다. Helsinki 대학의 Teuvo Kohonen(저서 Self Organizing Maps)에 의해 최초로 소개되었으며 Kohonen map이라고도 불립니다.

📐 차원의 축소와 특징 벡터:
SOM 알고리즘에는 특징 벡터(feature vectors)가 주어지며 어떤 차원(dimension)에서도 사용됩니다. 대부분의 응용에서는 차원이 매우 높습니다. 1차원, 2차원에서도 출력 map이 만들어질 수 있지만, 대부분의 경우는 2차원, 3차원 map입니다. 왜냐하면 SOM이 차원의 확장보다는 감소(Dimensionality Reduction)를 위해 주로 사용되기 때문입니다.

🏆 승자독식(Winner-Take-All)과 이웃 가중치 갱신

SOM은 출력 map에 자신의 물리적 위치를 가지고, 승자독식 (winner-take-all) 과정에 참여하는 인공 뉴런의 집합이란 의미로 가장 쉽게 설명됩니다.

일종의 경쟁신경망(competitive network)인 winner-take-all 과정은 입력 벡터에 가장 가까운 가중치 벡터를 가지는 노드를 승자(winner)로 선언하고, 그 값이 입력 벡터에 더 가까워지도록 가중치가 조정됩니다. 각 노드는 이웃의 집합을 가집니다. 이러한 노드가 경쟁에서 이길 때 이웃의 가중치도 함께 변화됩니다. 그들이 똑같이 변화되지는 않습니다. 이웃이 winner에서 멀어질수록 그 가중치는 더 작게 변화됩니다. 이러한 과정이 각 입력 벡터에 대해 반복되어 많은 cycle을 수행합니다. 입력이 달라지면 winner도 달라집니다.

SOM 네트워크는 출력 노드를 입력 데이터 집합에서의 그룹이나 패턴들과 연관시키는 것으로 종료됩니다. 이러한 패턴에 이름이 주어질 수 있다면 훈련망에서 관련된 노드에 그 이름이 부착될 수 있습니다.

🔄 SOM의 2가지 작동 모드 (Operation Modes)

대부분의 신경망 (Neural Network)에서처럼 SOM은 2개의 작동 모드를 가집니다:

  1. 훈련 과정 (Training Process): 하나의 map이 만들어지는 과정 동안에, 신경망은 경쟁 과정 (competitive process)을 통해 스스로를 조직화합니다. 그 신경망은 두 번째 단계 동안에 기대되는 벡터의 종류를 대표할 수 있을 정도로 가능한 많은 수의 입력 벡터가 주어져야 합니다. 그렇지 않으면 모든 입력 벡터는 여러 차례 반복 적용되어야 합니다.
  2. 매핑 과정 (Mapping Process): 하나의 새로운 입력 벡터가 map 상의 위치를 빠르게 얻게 되는 과정 동안에, 그 입력 벡터는 자동적으로 분류되고 범주로 나뉩니다. 거기서는 가중치 벡터가 입력 벡터에 가장 가까이 위치하는 단 하나의 winning neuron (BMU)이 있을 것입니다. (이것은 입력 벡터와 가중치 벡터 사이의 Euclidean distance를 계산하여 쉽게 결정될 수 있습니다).

4. GTM (Generative Topographic Mapping) 과 코호넨 네트워크의 종류

SOM의 새로운 버전은 Generative Topographic Map (GTM)으로 불립니다. GTM은 1996년에 Bishop, Svensen, Williams의 논문에서 처음 소개되었습니다.

📊 GTM: SOM의 확률적 생성 모델

GTM은 SOM의 확률적 버전으로서, 수렴할 가능성이 크고 이웃을 축소시키거나 step size를 감소시킬 것을 요구하지 않는 장점이 있습니다.

GTM은 데이터의 generative model입니다. 훈련 데이터는 저차원 공간에서 처음에 확률적으로 하나의 포인트를 선택하여, 그 포인트를 관찰된 고차원 입력 공간으로 매핑시키고 (smooth function을 통해), 그리고 나서 고차원 입력 공간에서 noise를 더하는 것으로 가정합니다. 저차원 확률 분포의 인수, smooth map, 고차원 입력 공간에서의 noise 등은 모두 기대치최대화 알고리즘 (Expectation Maximization Algorithm, EM)에 의해서 훈련 집합으로부터 학습됩니다. ...... (Wikipedia : Self-organizing map)

❓ 얼마나 많은 종류의 코호넨 네트워크들이 존재하는가?

얼마나 많은 종류의 코호넨 네트워크들이 존재하는가? : 엠아이랩 이관식

Teuvo Kohonen은 뉴로컴퓨팅에서 가장 유명하고 생산성이 높은 연구자들 중 한 명이며, 그는 다양한 신경망들을 고안하였습니다. 그러나 많은 사람들은 어떤 종류의 코호넨 네트워크인지를 지정하지 않고 통틀어서 "코호넨 네트워크"라고 참조하며, 그래서 이러한 정확성의 부재는 혼란을 초래합니다. ...... 문장 "코호넨 네트워크"는 종종 다음 세 가지 종류의 네트워크들 중 하나를 의미합니다:

1. VQ (Vector Quantization): 대표 벡터를 통한 데이터 압축 및 양자화 모델
2. SOM (Self-Organizing Map): 위상 보존 비지도 특징 격자 지도
3. LVQ (Learning Vector Quantization): 지도학습을 결합한 패턴 분류용 학습 벡터 양자화

5. 관련 용어 (Terms), 사이트 (Sites) 및 연구 논문 (Papers)

🏷️ 관련 용어 (Terms)

신경망 (Neural Network) 자율학습 (Unsupervised Learning) 자기조직화 맵 (Self-Organizing Map) 자기조직화 (Self-Organization) 퍼셉트론 (Perceptron) 다층 퍼셉트론 (MLP) 역전파 (Back-propagation) 연결주의 (Connectionism) 기대치최대화 (EM)

🌐 관련 사이트 (Sites)

📄 주요 연구 논문 (Papers)