½Å°æ¸Á ÀÌ·Ð

 

´º·Î ÄÄÇ»ÅÍ : ¿Àâ¼®, ³»ÇÏÃâÆÇ»ç, 1996, Page 68~114

 

1. ½Å°æ¸ÁÀÇ ºÐ·ù

2. º¤ÅÍ

3. ¸ÅÆ®¸¯½º

4. È°¼ºÈ­ ÇÔ¼ö

  4.1  Ç×µî ÇÔ¼ö

  4.2  °æ»ç ÇÔ¼ö

  4.3  °è´Ü ÇÔ¼ö

  4.4  ½Ã±×¸ðÀ̵å ÇÔ¼ö

5. ½Å°æ¸ÁÀÇ ÇнÀ

  5.1  ÇнÀ¹æ¹ýÀÇ ºÐ·ù

  5.2  Hebb ÇнÀ¹ý

  5.3  ÆÛ¼ÁÆ®·Ð ÇнÀ¹ý

  5.4  µ¨Å¸ ÇнÀ¹ý

  5.5  LMS ÇнÀ¹ý

  5.6  °æÀï½Ä ÇнÀ¹ý

6. Ç¥±â¹ý

 

1. ½Å°æ¸ÁÀÇ ºÐ·ù

ÇöÀç ´Ù¾çÇÑ ½Å°æ¸Á ¸ðµ¨µéÀÌ Á¦¾ÈµÇ°í ÀÖÁö¸¸, ´ÙÀ½°ú °°ÀÌ ¸î°¡Áö ±âÁØ¿¡ µû¶ó ½Å°æ¸ÁÀ» ºÐ·ùÇÒ ¼ö ÀÖ´Ù.

½Å°æ¸ÁÀº ÀϹÝÀûÀ¸·Î °èÃþÀÇ ¼ö¿¡ µû¶ó Å©°Ô ´ÜÃþ ½Å°æ¸Á°ú ´ÙÃþ ½Å°æ¸ÁÀÇ 2 °¡Áö·Î ±¸ºÐµÈ´Ù.

´ÜÃþ (single-layer) ½Å°æ¸ÁÀº °¡Àå ´Ü¼øÇÑ ±¸Á¶·Î¼­ ±×¸² 1 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ¿ÜºÎ ÀÔ·ÂÀ» ¹Þ¾ÆµéÀÌ´Â ÀÔ·ÂÃþ (input layer) X ¿Í ½Å°æ¸Á¿¡¼­ ó¸®µÈ °á°ú¸¦ Ãâ·ÂÇÏ´Â Ãâ·ÂÃþ (output layer) Y ·Î ±¸¼ºµÈ´Ù.

´ÜÃþ ½Å°æ¸ÁÀÇ Ãâ·Â Àº ´ÙÀ½°ú °°´Ù.

¿©±â¼­, ´Â ÀÔ·ÂÃþ ´º·± ¿Í Ãâ·ÂÃþ ´º·± °£ÀÇ ¿¬°á°­µµÀÌ´Ù.

´ÙÃþ (multi-layer) ½Å°æ¸ÁÀº ¿©·¯ °èÃþÀ¸·Î ±¸¼ºµÈ ½Å°æ¸Á ±¸Á¶ÀÌ´Ù. ÀϹÝÀûÀ¸·Î °¡Àå ³Î¸® »ç¿ëµÇ´Â °ÍÀº 3 °èÃþ ½Å°æ¸Á ±¸Á¶À̸ç, ±× ±¸Á¶´Â ±×¸² 2 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°´Ù. 3 °èÃþ ½Å°æ¸ÁÀº ¿ÜºÎ ÀÔ·ÂÀ» ¹Þ¾ÆµéÀÌ´Â ÀÔ·ÂÃþ, ó¸®µÈ °á°ú°¡ Ãâ·ÂµÇ´Â Ãâ·ÂÃþ, ÀÔ·ÂÃþ°ú Ãâ·ÂÃþ »çÀÌ¿¡ À§Ä¡ÇÏ¿© ¿ÜºÎ·Î ³ªÅ¸³ªÁö ¾Ê´Â Àº´ÐÃþ (hidden layer) ÀÇ 3 °èÃþÀ¸·Î ±¸¼ºµÇ¾î ÀÖ´Ù.

±×¸² 1  ´ÜÃþ ½Å°æ¸ÁÀÇ ±¸Á¶

±×¸² 2  ´ÙÃþ ½Å°æ¸ÁÀÇ ±¸Á¶

3 °èÃþ ½Å°æ¸Á ±¸Á¶¿¡¼­´Â ÀÔ·ÂÃþÀÇ ÀԷ¿¡ µû¶ó Àº´ÐÃþÀÇ Ãâ·ÂÀÌ ³ª¿À¸ç, Àº´ÐÃþÀÇ Ãâ·ÂÀº ´Ù½Ã Ãâ·ÂÃþ¿¡ ÀԷµǾî ÃÖÁ¾ Ãâ·ÂÀÌ ³ª¿À°Ô µÈ´Ù.

Àº´ÐÃþÀÇ Ãâ·Â ´Â ´ÜÃþ ½Å°æ¸ÁÀÇ °æ¿ì¿Í ¸¶Âù°¡Áö·Î ´ÙÀ½°ú °°ÀÌ ±¸ÇÒ ¼ö ÀÖ´Ù.

¿©±â¼­, ´Â ÀÔ·ÂÃþ ´º·± ¿Í Àº´ÐÃþ ´º·± °£ÀÇ ¿¬°á°­µµÀÌ´Ù.

µû¶ó¼­, ÃÖÁ¾ Ãâ·Â Àº ´ÙÀ½°ú °°´Ù.

¿©±â¼­, ´Â Àº´ÐÃþ ´º·± ¿Í Ãâ·ÂÃþ ´º·± °£ÀÇ ¿¬°á°­µµÀÌ´Ù.

ÀϹÝÀûÀ¸·Î 3 °èÃþ ½Å°æ¸Á ±¸Á¶°¡ ³Î¸® »ç¿ëµÇÁö¸¸, Ư¼öÇÑ ÀÀ¿ë ¸ñÀû¿¡ µû¶ó¼­´Â 2 °³ ¶Ç´Â 3 °³ÀÇ Àº´ÐÃþÀ» »ç¿ëÇÏ´Â 4 °èÃþ ¶Ç´Â 5 °èÃþÀÇ ´ÙÃþ ½Å°æ¸Á ±¸Á¶µµ À̵¿µÇ°í ÀÖ´Ù.

´ÜÃþ ½Å°æ¸ÁÀº ±×¸² 3 (a) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ AND, OR ¿¬»ê µî ¼±Çü ºÐ¸® °¡´ÉÇÑ ÀÀ¿ë¿¡¸¸ Àû¿ëÇÒ ¼ö ÀÖÀ¸³ª, ´ÙÃþ ½Å°æ¸ÁÀº (b) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÀÓÀÇ À¯ÇüÀÇ ºÐ·ù°¡ °¡´ÉÇϹǷΠº¸´Ù ´Ù¾çÇÏ°Ô ÀÀ¿ëµÉ ¼ö ÀÖ´Ù.

¶ÇÇÑ, ½Å°æ¸ÁÀÇ Ãâ·Â ÇüÅ¿¡ µû¶ó¼­´Â ¼ø¹æÇ⠽Űæ¸Á ±¸Á¶¿Í ¼øȯ ½Å°æ¸Á ±¸Á¶ÀÇ 2 °¡Áö·Î ±¸ºÐÇÒ ¼ö ÀÖ´Ù.

±×¸² 3  ½Å°æ¸Á ±¸Á¶¿¡ µû¸¥ ±â´É

¼ø¹æÇ⠽Űæ¸Á (forward network) ±¸Á¶´Â ±×¸² 4 (a) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ½Å°æ¸ÁÀÇ Ãâ·ÂÀº ´ÜÁö ÀԷ¿¡¸¸ °ü·ÃµÈ´Ù. ¿¹¸¦ µé¾î, ±×¸² 4 (b) ¿Í °°Àº ¼ø¹æÇâ ±¸Á¶ÀÇ ´ÜÃþ ½Å°æ¸ÁÀÇ Ãâ·Â Àº ´ÙÀ½°ú °°´Ù.

¼øȯ ½Å°æ¸Á (recurrent network) ±¸Á¶´Â ±×¸² 5 (a) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ½Å°æ¸ÁÀÇ Ãâ·ÂÀÌ ´Ù½Ã ÀÔ·ÂÃø¿¡ ±ËȯµÇ¾î »õ·Î¿î Ãâ·ÂÀÌ ³ª¿À´Â ÇüÅÂÀÌ´Ù. ¿¹¸¦ µé¾î, ±×¸² 5 (b) ¿Í °°Àº ¼øȯ ±¸Á¶ÀÇ ´ÜÃþ ½Å°æ¸ÁÀÇ ¹ø° Ãâ·Â Àº ´ÙÀ½°ú °°ÀÌ ±¸ÇÒ ¼ö ÀÖ´Ù.

±×¸² 4  ¼ø¹æÇ⠽Űæ¸Á

±×¸² 5  ¼øȯ ½Å°æ¸Á

¶ÇÇÑ, ½Å°æ¸Á¿¡ ÀԷµǴ µ¥ÀÌÅÍÀÇ À¯Çü¿¡ µû¶ó¼­´Â µðÁöÅÐ ½Å°æ¸Á°ú ¾Æ³¯·Î±× ½Å°æ¸ÁÀ¸·Î ±¸ºÐµÈ´Ù. ÇнÀ ¹æ¹ý¿¡ µû¶ó¼­´Â ÁöµµÇнÀ°ú ÀÚÀ²ÇнÀÀ¸·Î ±¸ºÐµÇ¸ç, È°¼ºÈ­ ÇÔ¼ö¿¡ µû¶ó¼­´Â ´Ü±Ø¼º ¹× ¾ç±Ø¼ºÀ¸·Î ±¸ºÐµÈ´Ù. È°¼ºÈ­ ÇÔ¼ö¿Í ÇнÀ ¹æ¹ý¿¡ ´ëÇؼ­´Â È°¼ºÈ­ ÇÔ¼ö¿Í ½Å°æ¸ÁÀÇ ÇнÀ¿¡¼­ ÀÚ¼¼È÷ ¾ð±ÞÇϱâ·Î ÇÑ´Ù.

±×¸² 6 Àº ÀÔ·Â µ¥ÀÌÅÍ ¹× ÇнÀ ¹æ¹ý¿¡ µû¶ó ½Å°æ¸ÁÀ» ºÐ·ùÇÑ °ÍÀÌ°í, Ç¥ 1 Àº ´Ù¾çÇÑ ÀÀ¿ëºÐ¾ß¿¡ µû¶ó ÁÖ·Î È°¿ëµÇ´Â ½Å°æ¸Á ¸ðµ¨À» ºÐ·ùÇÑ °ÍÀÌ´Ù.

±×¸² 6  ÀÔ·Â µ¥ÀÌÅÍ ¹× ÇнÀ ¹æ¹ý¿¡ µû¸¥ ½Å°æ¸ÁÀÇ ºÐ·ù

Ç¥ 1  ÀÀ¿ë ºÐ¾ß¿¡ µû¸¥ ½Å°æ¸Á ¸ðµ¨ÀÇ ºÐ·ù

ÀÀ        ¿ë

½Å°æ¸Á À¯Çü

ÆÐÅÏ ºÐ·ù

    ADALINE

    ART

    Boltzmann Machine

    Feature Map

    Hamming Net

    Multilayer Perceptron

À½¼º ÀνÄ

    Multilayer Perceptron

    Silicon Cochlea

    Time-Delay Net

    Viterbi Net

¿µ»ó ÀνÄ

    Cellular Automata

    Connectionist Model

    Neocognitron

    Silicon Retina

·Îº¿ Á¦¾î

    CMAC Cerebellum Model

    Multilayer Perceptron

    Topographic Map

¿¬»ó ¸Þ¸ð¸®

    Hopfield Model

    Bidirectional Associative Memory

½ÅÈ£ ó¸®

    MADALINE

    Multilayer Perceptron

ÃÖÀûÈ­ ¹× ±Ù»ç°è»ê

    Boltzmann Machine

    Cellular Automata

    Counterpropagation Net

    Hopfield Model

    Winner-Take-All Net

2. º¤ÅÍ

½Å°æ¸Á¿¡ À־´Â ÀÔÃâ·ÂÀÌ º¤ÅÍ ÇüÅÂÀÌ°í, ¿¬°á°­µµ°¡ º¤ÅÍ ¶Ç´Â Çà·ÄÇüÅÂÀ̹ǷΠº¤ÅÍ ¹× Çà·ÄÀÇ ¿¬»êÀÌ ÇʼöÀûÀ¸·Î ¿ä±¸µÈ´Ù. º» Àý¿¡¼­´Â ¸ÕÀú ½Å°æ¸Á ÀÌ·Ð Àü°³¿¡ ÇÊ¿äÇÑ º¤ÅÍÀÇ Æ¯¼º¿¡ ´ëÇÏ¿© ¾Ë¾Æ º»´Ù.

¿ì¸®°¡ ÀÏ»óÀûÀ¸·Î Á¢ÇÏ´Â ½Ã°£, ¿Âµµ, ±æÀÌ, Áú·® µî Å©±â¸¸À¸·Î Ç¥ÇöÇÒ ¼ö ÀÖ´Â ¹°¸®·®Àº ½ºÄ®¶óÀÌ´Ù. ÀÌ¿¡ ºñÇÏ¿© Èû, º¯À§, ¼Óµµ µî Å©±â¿Í ¹æÇâÀ¸·Î Ç¥ÇöÇÏ¿©¾ß ÇÏ´Â ¹°¸®·®À» º¤ÅÍ (vector) ¶ó ÇÑ´Ù. ÀÌ¿Í °°ÀÌ 2 °¡Áö ¿ä¼Ò¿¡ ÀÇÇØ Ç¥ÇöµÉ ¼ö ÀÖ´Â º¤ÅÍ´Â ±×¸² 1 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ 2 Â÷¿ø °ø°£¿¡¼­ ½ÃÁ¡°ú Á¾Á¡À» ¿¬°áÇÏ´Â ¹æÇ⼺ ¼±ºÐÀ¸·Î½á ±âÇÏÇÐÀûÀ¸·Î Ç¥ÇöÇÒ ¼ö ÀÖÀ¸¸ç,   ·Î Ç¥±âÇÑ´Ù.

¸¶Âù°¡Áö·Î, n °³ÀÇ ¿ä¼Ò¿¡ ÀÇÇؼ­ Ư¼ºÀÌ °áÁ¤µÇ´Â º¤ÅÍ ´Â ´ÙÀ½°ú °°ÀÌ Ç¥±âÇÒ ¼ö ÀÖ´Ù.

¿©±â¼­, À» º¤ÅÍ ÀÇ ±¸¼º ¿ä¼Ò (component) ¶ó Çϸç, ±¸¼º ¿ä¼ÒÀÇ °³¼ö n À» º¤ÅÍÀÇ Â÷¿ø (dimension) À̶ó°í ÇÑ´Ù.

±×¸² 1  º¤ÅÍÀÇ ±âÇÏÇÐÀû Ç¥Çö

¶ÇÇÑ, ½Ä (1) °ú °°ÀÌ Ç¥ÇöÇÑ º¤Å͸¦ ¿­º¤ÅÍ (row vector) ¶ó Çϸç, ½Ä (2) ¿Í °°ÀÌ Ç¥ÇöÇÑ º¤Å͸¦ Ç຤ÅÍ (column vector) ¶ó°í ÇÑ´Ù.

n Â÷¿øÀÇ µÎ º¤ÅÍ , ¿¡ ´ëÇÏ¿© ´ÙÀ½ÀÇ ¿¬»êÀÌ ¼º¸³ÇÑ´Ù.

¶ÇÇÑ, ¸¦ º¤ÅͶó ÇÏ°í, À» ½ºÄ®¶ó¶ó ÇÏ¸é ´ÙÀ½°ú °°Àº º¤ÅÍ ¿¬»êÀÌ ¼º¸³ÇÑ´Ù.

  ¿¹Á¦ 1  

µÎ º¤ÅÍ x = [1   2], y = [3   4] °¡ ÀÖ´Ù. 2 x + y ´Â?

2 x = 2[1   2] = [2   4] À̹ǷÎ

2 x + y = [2   4] + [3   4] = [5   8]

ÇÑÆí, n Â÷¿ø º¤ÅÍ x ÀÇ ±æÀÌ (norm), ´Â ´ÙÀ½°ú °°ÀÌ ±¸ÇÒ ¼ö ÀÖ´Ù.

  ¿¹Á¦ 2  

x = [1  2  1] ÀÇ norm À» ±¸ÇÏ¿©¶ó.

x ÀÇ norm Àº ½Ä (3) ¿¡ ÀÇÇÏ¿©,

ÀÌÁ¦, º¤ÅÍÀÇ ¼±Çü µ¶¸³¼º (linearly independence) ¿¡ ´ëÇÏ¿© ¾Ë¾Æ º»´Ù. ´ÙÀ½°ú °°ÀÌ º¤ÅÍ µéÀÇ ¼±Çü °áÇÕÀÎ º¤ÅÍ °¡ ÀÖÀ» ¶§

¿©±â¼­, ´Â ½ºÄ®¶óÀÌ´Ù. ¸¸¾à, ¸¦ ¸¸Á·ÇÏ´Â ¸ðµÎ 0 ÀÌ ¾Æ´Ñ Á¸ÀçÇϸé ÀÇ º¤ÅÍ ÁýÇÕÀ» ¼±Çü Á¾¼ÓÀ̶óÇϸç, ±×·¸Áö ¾ÊÀ¸¸é ¼±Çü µ¶¸³À̶ó ÇÑ´Ù.

  ¿¹Á¦ 3  

´ÙÀ½ º¤ÅÍ´Â ¼±Çü µ¶¸³Àΰ¡?

(a)

(b)

(a)
      À̹ǷΠ¼±Çü µ¶¸³ÀÌ ¾Æ´Ï´Ù.

(b) À» ¸¸Á·ÇÏ´Â ¸ðµÎ 0 ÀÌ ¾Æ´Ñ ¾î¶°ÇÑ µµ Á¸ÀçÇÏÁö ¾ÊÀ¸¹Ç·Î ¼±Çü µ¶¸³ÀÌ´Ù.

ÀϹÝÀûÀ¸·Î °³ÀÇ ÀÔ·ÂÀ» ¹Þ¾Æ ÇϳªÀÇ Ãâ·ÂÀÌ ³ª°¡´Â ½Å°æ¸ÁÀÇ °æ¿ì¿¡´Â ÀԷ»Ӹ¸ ¾Æ´Ï¶ó ¿¬°á°­µµµµ ¿ª½Ã º¤ÅÍ ÇüÅ°¡ µÇ¹Ç·Î Ãâ·Â ´º·±ÀÇ NET °ªÀ» ±¸Çϱâ À§Çؼ­´Â º¤ÅÍÀÇ °ö¼ÀÀÌ ¿ä±¸µÈ´Ù.

Â÷¿øÀÇ µÎ º¤ÅÍ , ÀÇ ³»Àû (inner product) Àº ´ÙÀ½°ú °°ÀÌ Á¤ÀǵǸç, ±× °á°ú´Â ½ºÄ®¶óÀÌ´Ù.

  ¿¹Á¦ 4  

x = [1   2   3], y = [1   0.5   1] ÀÇ ³»ÀûÀº?

ƯÈ÷, ¿¬»ó ¸Þ¸ð¸®ÀÇ ¿ë·®¿¡´Â ÀúÀåµÇ´Â ÆÐÅÏ º¤Å͵鰣ÀÇ Á÷±³¼ºÀÌ »ó´çÇÑ ¿µÇâÀ» ¹ÌÄ¡¹Ç·Î º¤ÅÍÀÇ Á÷±³¼º¿¡ ´ëÇÏ¿©µµ ¾Ë¾Æ µÑ ÇÊ¿ä°¡ ÀÖ´Ù.

¸¸¾à, ½Ä (4) ¿Í °°ÀÌ ±¸ÇÑ ³»ÀûÀÌ ÀÌ¸é µÎ º¤ÅÍ ¿Í ´Â ¼­·Î Á÷±³ (orthogonal) ÇÑ´Ù°í Çϸç, °³ÀÇ 0 ÀÌ ¾Æ´Ñ º¤ÅÍ ÀÌ ¼­·Î Á÷±³Çϸé ÀÌ º¤Å͵éÀÇ ÁýÇÕÀº ¼±Çü µ¶¸³ÀÌ´Ù.

  ¿¹Á¦ 5  

´ÙÀ½°ú °°Àº µÎ º¤ÅÍ ¿Í ´Â ¼­·Î Á÷±³Çϴ°¡?

x = [1   0]           y = [0   1]

¿Í ÀÇ ³»ÀûÀº ½Ä (4) ¿¡ ÀÇÇÏ¿©

µû¶ó¼­, ³»ÀûÀÌ 0 À̹ǷΠº¤ÅÍ ¿Í ´Â ¼­·Î Á÷±³ÇÑ´Ù.

 

3. ¸ÅÆ®¸¯½º

´ÜÃþ ±¸Á¶ÀÇ ½Å°æ¸Á¿¡¼­ Ãâ·ÂÃþÀÇ ´º·±ÀÌ ´Ù¼öÀ̰ųª ´ÙÃþ ±¸Á¶ÀÇ ½Å°æ¸Á¿¡¼­ Àº´ÐÃþ ¹× Ãâ·ÂÃþÀÇ ´º·±ÀÌ ´Ù¼öÀÏ °æ¿ì¿¡´Â ¿¬°á°­µµ°¡ Çà·Ä ÇüÅ°¡ µÇ¹Ç·Î Çà·ÄÀÇ ¿¬»êÀÌ ºÒ°¡ÇÇÇÏ´Ù. º» Àý¿¡¼­´Â ½Å°æ¸Á ÀÌ·Ð Àü°³¿¡ ÇÊ¿äÇÑ Çà·Ä (matrix) ÀÇ Æ¯¼º¿¡ ´ëÇÏ¿© ¾Ë¾Æº»´Ù.

¼ýÀÚµéÀÇ »ç°¢Çü ¹è¿­À» Çà·ÄÀ̶ó Á¤ÀÇÇϸç, ¹è¿­³»ÀÇ ¼ýÀÚµéÀ» ¿ø¼Ò (element) ¶ó ÇÑ´Ù. ÀϹÝÀûÀ¸·Î °³ÀÇ ¿­ (row) °ú °³ÀÇ Çà (column) À¸·Î ±¸¼ºµÈ ¹è¿­À» Çà·Ä¶ó ÇÑ´Ù.

Çà·Ä W ¿¡¼­ ¹ø° ¿­°ú ¹ø° ÇàÀº ´ÙÀ½°ú °°À¸¹Ç·Î ¿­º¤ÅÍ´Â Çà·Ä , Ç຤ÅÍ´Â Çà·Ä ·Î °£ÁÖÇÒ ¼ö ÀÖ´Ù.

ÇÑÆí, ½Ä (1) ¿¡¼­ À̸é Á¤¹æÇü (square) Çà·ÄÀ̶ó ÇÑ´Ù. Çà·ÄÀÇ Çà°ú ¿­ÀÇ ¿ø¼Ò¸¦ ±³È¯ÇÏ¿© »ý¼ºµÈ °ÍÀ» ġȯ (transposition) Çà·Ä¶ó ÇÏ°í, ¶ó Ç¥ÇöÇϸç, ¸¸¾à, ÀÌ¸é ´ëĪ (symmetric) Çà·ÄÀ̶ó ÇÑ´Ù.

Çà·Ä X ¿Í Çà·Ä W ¸¦ °öÇÏ¸é ±× °á°ú´Â ´ÙÀ½°ú °°ÀÌ Çà·ÄÀÌ µÈ´Ù.

                                      ¡ã  ¡ã    =    ¡ã  ¡ã

 

 

 

 

 

 

 

 

 

 

 

 

XW ÀÇ ¹ø° ¿ø¼Ò´Â ´ÙÀ½°ú °°´Ù.

  ¿¹Á¦ 1  

´ÙÀ½ µÎ Çà·ÄÀ» °öÇ϶ó.

(a)

(b)

(a)

(b)

                                        ¡ã     ¡Á     ¡ã

 

 

 

 

 

 

 

 

 

 

 

 

(b) ÀÇ °æ¿ì¿¡´Â Çà·Ä X ¿Í W ´Â ¼­·Î °öÇÒ ¼ö ¾øÀ¸³ª ¸¦ ÃëÇÏ¸é °öÇÒ ¼ö ÀÖ´Ù.

  

                                      ¡ã  ¡ã    =    ¡ã  ¡ã

 

 

 

 

 

 

 

 

 

 

 

 

¶ÇÇÑ, ¿¬»ó ¸Þ¸ð¸®¿¡¼­ ÀúÀå ¿ë·®°ú ¹ÐÁ¢ÇÑ °ü°è°¡ ÀÖ´Â °íÀ¯º¤ÅÍ (eigenvector) ¹× °íÀ¯°ª (eigenvalue) ¿¡ ´ëÇÏ¿©µµ ¾Ë¾ÆµÑ ÇÊ¿ä°¡ ÀÖ´Ù.

¸¸¾à, Çà·Ä W ¿¡ ´ëÇÏ¿© ´ÙÀ½ Á¶°ÇÀ» ¸¸Á·ÇÏ´Â 0 ÀÌ ¾Æ´Ñ º¤ÅÍ °¡ Á¸ÀçÇÒ ¶§ ¸¦ °íÀ¯º¤ÅͶó Çϸç, ½ºÄ®¶ó ¥ë ¸¦ Çà·Ä W ÀÇ °íÀ¯°ªÀ̶ó ÇÑ´Ù.

  ¿¹Á¦ 2  

Çà·Ä ÀÇ °íÀ¯°ªÀº?

½Ä (3) ¿¡ ÀÇÇÏ¿©,

¥ë °¡ °íÀ¯°ªÀ̸é 0 ÀÌ ¾Æ´Ñ Çظ¦ °¡Á®¾ß ÇϹǷÎ,

Áï,

µû¶ó¼­, W ÀÇ °íÀ¯°ªÀº ÀÌ´Ù.

 

4. È°¼ºÈ­ ÇÔ¼ö

Àΰø ½Å°æ¸Á ¸ðµ¨¿¡¼­ ´º·±ÀÇ ÁÖ¿ä ±â´ÉÀº ÀԷ°ú ¿¬°á °­µµÀÇ °¡ÁßÇÕ NET ¸¦ ±¸ÇÑ ´ÙÀ½ È°¼ºÈ­ ÇÔ¼ö¿¡ ÀÇÇØ Ãâ·ÂÀ» ³»º¸³»´Â °ÍÀÌ´Ù. µû¶ó¼­, ¾î¶² È°¼ºÈ­ ÇÔ¼ö¸¦ ¼±ÅÃÇÏ´À³Ä¿¡ µû¶ó ´º·±ÀÇ Ãâ·ÂÀÌ ´Þ¶óÁú ¼öµµ ÀÖ´Ù.

È°¼ºÈ­ ÇÔ¼ö (activation function) ´Â ´ÜÁ¶ Áõ°¡ÇÏ´Â ÇÔ¼öÀ̾î¾ß Çϸç, ÀϹÝÀûÀ¸·Î ´ÙÀ½°ú °°ÀÌ ºÐ·ùÇÒ ¼ö ÀÖ´Ù. ÀÌµé ºÐ·ù ¹æ¹ýÀº ¼­·Î ¿¬°üµÇ¾î Àֱ⠶§¹®¿¡ ¾ö¹ÐÈ÷ ±¸ºÐÇÏ¿© ¼³¸íÇϱ⠺¸´Ù´Â µ¶ÀÚÀÇ ÀÌÇظ¦ µ½±â À§ÇÏ¿© ÀϹÝÀûÀ¸·Î »ç¿ëµÇ´Â ÇÔ¼ö¸¦ À§ÁÖ·Î ±â¼úÇÑ´Ù.

4.1  Ç×µî ÇÔ¼ö

Ç×µî ÇÔ¼ö (identity function) ´Â ±×¸² 1 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ¾ç±Ø¼ºÀ̸ç, ¼±Çü ¿¬¼Ó ÇÔ¼öÀÌ´Ù. Ç×µî ÇÔ¼ö¸¦ ¼öÇÐÀûÀ¸·Î Ç¥ÇöÇÏ¸é ´ÙÀ½°ú °°´Ù. µû¶ó¼­, Ç×µî ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÏ¸é ´º·±ÀÇ NET Áï, ÀÔ·ÂÀÇ °¡ÁßÇÕÀÌ ±×´ë·Î Ãâ·ÂµÈ´Ù.

±×¸² 1  Ç×µîÇÔ¼ö

  ¿¹Á¦ 1  

´ÙÀ½°ú °°Àº ½Å°æ¸Á ¸ðµ¨¿¡¼­ ±×¸² 1 °ú °°Àº Ç×µî ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÒ °æ¿ì, ´º·±ÀÇ Ãâ·ÂÀº?

ÀÔ·Â º¤ÅÍ , ¿¬°á °­µµ À̹ǷÎ, ´º·±ÀÇ ÀÔ·Â °¡ÁßÇÕ NET ´Â ´ÙÀ½°ú °°´Ù.

NET =

µû¶ó¼­, ´º·±ÀÇ Ãâ·ÂÀº ½Ä (1) ¿¡ ÀÇÇØ,

 

4.2  °æ»ç ÇÔ¼ö

°æ»ç ÇÔ¼ö (ramp function) ´Â ±×¸² 2 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ´Ü±Ø¼ºÀ̸ç, ¼±Çü ¿¬¼Ó ÇÔ¼öÀÌ´Ù. °æ»ç ÇÔ¼ö¸¦ ¼öÇÐÀûÀ¸·Î Ç¥ÇöÇÏ¸é ´ÙÀ½°ú °°´Ù.

µû¶ó¼­, °æ»ç ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇϸé NET °ªÀÌ 0 º¸´Ù ÀûÀ» °æ¿ì¿¡´Â ´º·±ÀÇ Ãâ·ÂÀÌ 0 ÀÌÁö¸¸, NET °ªÀÌ 0 º¸´Ù Å©°Å³ª °°Àº °æ¿ì¿¡´Â Ç×µî ÇÔ¼ö¿Í ¸¶Âù°¡Áö·Î NET °ªÀÌ ±×´ë·Î Ãâ·ÂµÈ´Ù.

  ¿¹Á¦ 2  

´ÙÀ½°ú °°Àº ½Å°æ¸Á ¸ðµ¨¿¡¼­ ±×¸² 2 ¿Í °°Àº °æ»ç ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÒ °æ¿ì, ´º·±ÀÇ Ãâ·ÂÀº?

ÀÔ·Â º¤ÅÍ , ¿¬°á °­µµ À̹ǷÎ, ´º·±ÀÇ ÀÔ·Â °¡ÁßÇÕ NET ´Â ´ÙÀ½°ú °°´Ù.

NET =

µû¶ó¼­, ´º·±ÀÇ Ãâ·ÂÀº ½Ä (2) ¿¡ ÀÇÇØ,

 

4.3  °è´Ü ÇÔ¼ö

°è´Ü ÇÔ¼ö (step function) ´Â ±×¸² 3 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ´Ü±Ø¼º ¶Ç´Â ¾ç±Ø¼º ÀÌÁø ÇÔ¼öÀ̸ç, µðÁöÅÐ ÇüÅÂÀÇ Ãâ·ÂÀÌ ¿ä±¸µÇ´Â °æ¿ì¿¡ ÁÖ·Î »ç¿ëµÈ´Ù.

±×¸² 3 (a) ´Â ´Ü±Ø¼º ÀÌÁø °è´Ü ÇÔ¼öÀ̸ç, ¼öÇÐÀûÀ¸·Î Ç¥ÇöÇÏ¸é ´ÙÀ½°ú °°´Ù.

¿©±â¼­, T ´Â ÀÓ°èÄ¡ÀÌ´Ù. ½Ä (3) °ú °°Àº ´Ü±Ø¼º °è´Ü ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇϸé NET °ªÀÌ ÀÓ°èÄ¡º¸´Ù ÀûÀ» °æ¿ì¿¡´Â ´º·±ÀÇ Ãâ·ÂÀÌ 0 À̸ç, NET °ªÀÌ ÀÓ°èÄ¡¿Í °°°Å³ª Å« °æ¿ì¿¡´Â ´º·±ÀÇ Ãâ·ÂÀÌ 1 ÀÌ´Ù.

±×¸² 3  °è´Ü ÇÔ¼ö

±×¸² 3 (b) ´Â ¾ç±Ø¼º ÀÌÁø °è´Ü ÇÔ¼öÀ̸ç, ¼öÇÐÀûÀ¸·Î Ç¥ÇöÇÏ¸é ´ÙÀ½°ú °°´Ù.

¿©±â¼­, T ´Â ÀÓ°èÄ¡ÀÌ´Ù. ½Ä (4) ¿Í °°Àº ¾ç±Ø¼º °è´Ü ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇϸé NET °ªÀÌ ÀÓ°èÄ¡º¸´Ù ÀûÀ» °æ¿ì¿¡´Â ´º·±ÀÇ Ãâ·ÂÀÌ -1 À̸ç, NET °ªÀÌ ÀÓ°èÄ¡¿Í °°°Å³ª Å« °æ¿ì¿¡´Â ´º·±ÀÇ Ãâ·ÂÀº +1 ÀÌ´Ù.

  ¿¹Á¦ 3  

´ÙÀ½°ú °°Àº ½Å°æ¸Á ¸ðµ¨¿¡¼­ ±×¸² 3 (a) ¿Í °°Àº ´Ü±Ø¼º °è´Ü ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÒ °æ¿ì, ´º·±ÀÇ Ãâ·ÂÀº? ´Ü, ÀÓ°èÄ¡´Â 2 ÀÌ´Ù.

 

ÀÔ·Â º¤ÅÍ , ¿¬°á °­µµ À̹ǷÎ,

NET =

µû¶ó¼­, ´º·±ÀÇ Ãâ·ÂÀº ½Ä (3) ¿¡ ÀÇÇØ,

ÀÌ °á°ú¸¦ ¿¹Á¦ 1 °ú ºñ±³ÇØ º¸¸é µ¿ÀÏÇÑ ½Å°æ¸Á ±¸Á¶ÀÌÁö¸¸ »ç¿ëÇÏ´Â È°¼ºÈ­ ÇÔ¼ö¿¡ µû¶ó ´º·±ÀÇ Ãâ·ÂÀÌ ´Þ¶óÁüÀ» ¾Ë ¼ö ÀÖ´Ù.

 

4.4  ½Ã±×¸ðÀ̵å ÇÔ¼ö

½Ã±×¸ðÀ̵å ÇÔ¼ö (sigmoid function) ´Â ±×¸² 4 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ´Ü±Ø¼º ¶Ç´Â ¾ç±Ø¼º ºñ¼±Çü ¿¬¼Ó ÇÔ¼öÀ̸ç, ½Å°æ¸Á ¸ðµ¨ÀÇ È°¼ºÈ­ ÇÔ¼ö·Î½á °¡Àå ³Î¸® »ç¿ëµÇ°í ÀÖ´Ù. ½Ã±×¸ðÀ̵å ÇÔ¼ö´Â ÇüÅ°¡ S ÀÚ ¸ð¾çÀ̹ǷΠS Çü °î¼±À̶ó°íµµ ÇÑ´Ù.

±×¸² 4 (a) ´Â ´Ü±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼öÀ̸ç, ¼öÇÐÀûÀ¸·Î Ç¥ÇöÇÏ¸é ´ÙÀ½°ú °°´Ù.

¿©±â¼­, ¥ë ´Â °æ»çµµÀÌ´Ù.

½Ä (5) ¿Í °°Àº ´Ü±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÏ¸é ´º·±ÀÇ Ãâ·ÂÀº 0 ¿¡¼­ 1 »çÀÌÀÇ °ªÀÌ µÇ¸ç, ¸¸¾à NET=0 ÀÌ¸é ´º·±ÀÇ Ãâ·ÂÀº 1 / 2 ÀÌ µÈ´Ù. °æ»çµµ ¥ë °¡ Ä¿Áö¸é °ªÀº Á¡Á¡ Ãà¿¡ Á¢±ÙÇÏ°Ô µÇ°í, ¸¸¾à ¥ë ¡æ ¡Ä ÀÌ¸é ½Ã±×¸ðÀ̵å ÇÔ¼ö´Â °è´Ü ÇÔ¼ö¿Í µ¿ÀÏÇÑ ÇüÅ°¡ µÈ´Ù.

½Ã±×¸ðÀ̵å ÇÔ¼ö´Â ¾Æ³¯·Î±× Ãâ·ÂÀÌ ³ª¿À´Â ÀåÁ¡Àº ÀÖÀ¸³ª, exp(-¥ëNET) ÀÇ Áö¼ö ÇÔ¼ö ¿¬»êÀ» ÇÏ¿©¾ß ÇÏ´Â ¹®Á¦Á¡ÀÌ ÀÖ´Ù. ÀÌ Á¡À» °í·ÁÇÏ¿© ÄÄÇ»ÅÍÀÇ °è»ê ½Ã°£À» °¨¼Ò½ÃÅ°°í ¿À¹öÇÃ·Î¿ì ¶Ç´Â ¾ð´õÇ÷οìÀÇ ¹æÁö¸¦ À§ÇÏ¿© ÀϹÝÀûÀ» °æ»çµµ ¥ë = 1 °ªÀ» »ç¿ëÇÑ´Ù.

½Ã±×¸ðÀ̵å ÇÔ¼öÀÇ ¶Ç ´Ù¸¥ Ư¡Àº ¿¬¼ÓÇÔ¼öÀ̹ǷΠ¹ÌºÐ °¡´ÉÇÏ¿© µ¨Å¸ ÇнÀ ¹æ¹ý µî¿¡ÀÇ È°¿ëÀÌ °¡´ÉÇÏ´Ù´Â Á¡ÀÌ´Ù.

¥ë = 1 ÀÎ °æ¿ì, ´Ü±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼ö¿Í ±× ¹ÌºÐÀº ½Ä (6) °ú °°´Ù.

±×¸² 4 (b) ´Â ¾ç±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼öÀ̸ç, ¼öÇÐÀûÀ¸·Î Ç¥ÇöÇÏ¸é ´ÙÀ½°ú °°´Ù.

¾ç±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼öµµ ¿ª½Ã ´Ü±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼ö¿Í À¯»çÇÑ Æ¯¼ºÀ» °¡Áö°í ÀÖÁö¸¸, ½Ä (7) °ú °°Àº ¾ç±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÏ¸é ´º·±ÀÇ Ãâ·ÂÀº -1 ¿¡¼­ +1 »çÀÌÀÇ °ªÀÌ µÇ¸ç, ¸¸¾à NET = 0 ÀÌ¸é ´º·±ÀÇ Ãâ·ÂÀº 0 ÀÌ´Ù. ¾ç±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼öÀÇ ¹ÌºÐÀº ´ÙÀ½°ú °°´Ù.

½Ã±×¸ðÀ̵å ÇÔ¼ö¿Í À¯»çÇÑ ÇüÅ·μ­ ´ÙÀ½°ú °°Àº tanh(x) ÇÔ¼ö¸¦ »ç¿ëÇÏ´Â °æ¿ìµµ ÀÖ´Ù.

±×¸² 4 ½Ã±×¸ðÀ̵å ÇÔ¼ö

  ¿¹Á¦ 4  

´ÙÀ½°ú °°Àº ½Å°æ¸Á ¸ðµ¨¿¡¼­ ´Ü±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÒ °æ¿ì, ´º·±ÀÇ Ãâ·ÂÀº? ´Ü, °æ»çµµ´Â 1 ÀÌ´Ù.

 

ÀÔ·Â º¤ÅÍ , ¿¬°á °­µµ À̹ǷÎ,

NET =

µû¶ó¼­, ´º·±ÀÇ Ãâ·ÂÀº ½Ä (6) ¿¡ ÀÇÇØ,

ÀÌ °á°ú¿¡¼­ º¸´Â ¹Ù¿Í °°ÀÌ ½Ã±×¸ðÀ̵å ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÏ¸é ´º·±ÀÇ Ãâ·ÂÀÌ ¾Æ³¯·Î±× ÇüÅÂÀÓÀ» ¾Ë ¼ö ÀÖ´Ù.

 

5. ½Å°æ¸ÁÀÇ ÇнÀ

5.1  ÇнÀ¹æ¹ýÀÇ ºÐ·ù

Àΰ£ÀÌ ¾î¶² ÀÏÀ» Çϱâ À§Çؼ­´Â ¹Ýº¹ ÇнÀÀÌ ÀÌ·ç¾îÁ®¾ß ÇϵíÀÌ ´º·Î ÄÄÇ»Å͵µ ¿ª½Ã ÀÀ¿ë ºÐ¾ß¿¡ È°¿ëÇϱâ À§Çؼ­´Â ½Å°æ¸ÁÀÇ ÇнÀÀÌ ¼±ÇàµÇ¾î¾ß ÇÑ´Ù. ½Å°æ¸Á¿¡¼­ÀÇ ÇнÀÀ̶ó ÇÔÀº ƯÁ¤ÇÑ ÀÀ¿ë ¸ñÀû¿¡ ÀûÇÕÇϵµ·Ï ´º·±°£ÀÇ ¿¬°á°­µµ¸¦ ÀûÀÀ½ÃÅ°´Â °úÁ¤ÀÌ´Ù. ½Å°æ¸ÁÀÇ ÇнÀ ¹æ¹ýÀº ´ÙÀ½°ú °°ÀÌ Å©°Ô 3 °¡Áö·Î ±¸ºÐÇÒ ¼ö ÀÖ´Ù.

Áöµµ ÇнÀ ¹æ¹ýÀº ±×¸² 1 (a) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ½Å°æ¸ÁÀ» ÇнÀ½ÃÅ°´Âµ¥ À־ ¹Ýµå½Ã ÀÔ·Â x ¿Í ¿øÇÏ´Â ¸ñǥġ d ÀÇ ½Ö (x, d) °¡ ÇÊ¿äÇϸç, À̸¦ ÇнÀ ÆÐÅÏ½Ö (training pattern pair) À̶ó°í ÇÑ´Ù. ÀϹÝÀûÀÎ ÇнÀ ÀýÂ÷´Â ´ÙÀ½°ú °°´Ù.

ÀÚÀ² ÇнÀ ¹æ¹ýÀº ±×¸² 1 (b) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ½Å°æ¸ÁÀ» ÇнÀ½ÃÅ°´Âµ¥ ¸ñǥġ°¡ ÇÊ¿ä¾ø´Â ¹æ¹ýÀ̸ç, ÀϹÝÀûÀÎ ÇнÀ ÀýÂ÷´Â ´ÙÀ½°ú °°´Ù.

°æÀï½Ä ÇнÀ ¹æ¹ýÀº ±×¸² 1 (a) ÀÇ Áöµµ ÇнÀ ¹æ¹ý°ú µ¿ÀÏÇÑ ÀýÂ÷ÀÌÁö¸¸, °¢ ´Ü°è¿¡¼­ Àüü ¿¬°á°­µµ¸¦ º¯°æ½ÃÅ°Áö ¾Ê°í ´ÜÁö ƯÁ¤ ºÎºÐÀÇ ¿¬°á°­µµ¸¸À» º¯È­½ÃÅ°´Â ¹æ¹ýÀÌ´Ù. ÀÌ ¹æ¹ýÀº ¿¬°á°­µµ¸¦ º¯È­½ÃÅ°´Â °úÁ¤ÀÌ Ãà¼ÒµÇ¹Ç·Î ½Å°æ¸ÁÀÇ ÇнÀ¿¡ ¼Ò¿äµÇ´Â ½Ã°£À» »ó´çÈ÷ °¨¼Ò½Ãų ¼ö ÀÖ´Ù.

±×¸² 1  ½Å°æ¸ÁÀÇ ÇнÀ ¹æ¹ý

ÀÌ¹Ì ±â¼úÇÑ ¹Ù¿Í °°ÀÌ ½Å°æ¸ÁÀÇ ÇнÀÀº ¿¬°á°­µµ w ¸¦ º¯È­½ÃÅ°´Â °úÁ¤À̸ç, ÀϹÝÀûÀ¸·Î ¿¬°á°­µµÀÇ º¯È­·® ¡âw ¿¡´Â ±×¸² 2 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÇнÀ ½ÅÈ£ (learning signal) , ÇнÀ ÀÔ·Â ÆÐÅÏ (training input pattern) x, ÇнÀ·ü (learning rate) ¥á °¡ °ü·ÃµÇ¹Ç·Î ´Ü°è ÇнÀ°úÁ¤¿¡¼­ÀÇ ¿¬°á°­µµ º¯È­·® ¸¦ ´ÙÀ½°ú °°ÀÌ Ç¥ÇöÇÒ ¼ö ÀÖ´Ù.

µû¶ó¼­, ´Ü°è ÇнÀ°úÁ¤¿¡¼­ÀÇ ¿¬°á°­µµ Àº ´ÙÀ½°ú °°´Ù.

±×¸² 2  ¿¬°á°­µµ º¯°æ ¸ÅÄ«´ÏÁò

5.2  Hebb ÇнÀ¹ý

Hebb ÇнÀ¹ýÀº 1949 ³â¿¡ D. Hebb ÀÌ Ã³À½ Á¦¾ÈÇÏ¿´°í, 1988 ³â T. McClelland ¿Í D. Rumelhart ¿¡ ÀÇÇØ È®ÀåµÈ ÇнÀ ¹æ¹ýÀ¸·Î ¼ø¹æÇ⠽Űæ¸Á¿¡¸¸ Àû¿ëµÉ ¼ö ÀÖÀ¸¸ç, ÀÌÁø ¶Ç´Â ¿¬¼Ó È°¼ºÈ­ ÇÔ¼ö°¡ »ç¿ëµÉ ¼ö ÀÖ´Ù. Ãʱ⠿¬°á °­µµ´Â ¸ðµÎ 0 ¿¡ °¡±î¿î ÀÛÀº °ªÀ¸·Î Çϸç, ±×¸² 1 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÇнÀ ½ÅÈ£·Î¼­ Ãâ·ÂÀ» »ç¿ëÇÏ´Â Á¡ÀÌ Æ¯Â¡ÀÌ´Ù. µû¶ó¼­, ÇнÀ ½ÅÈ£ Àº ´ÙÀ½°ú °°ÀÌ Ç¥ÇöÇÒ ¼ö ÀÖ´Ù.

´Ü°è¿¡¼­ÀÇ ¿¬°á°­µµ º¯È­·® ´Â ½Å°æ¸ÁÀÇ ÇнÀÀÇ ½Ä (1) ¿¡ ÀÇÇØ,

µû¶ó¼­, ´Ü°è¿¡¼­ÀÇ ¿¬°á°­µµ Àº ´ÙÀ½°ú °°´Ù.

±×¸² 1  Hebb ÇнÀ¹ý

  ¿¹Á¦ 1  

Ãʱ⠿¬°á°­µµ°¡ ÀÎ ½Å°æ¸ÁÀ» Hebb ÇнÀ¹ýÀ¸·Î ÇнÀ½Ãų ¶§ ¿¬°á°­µµÀÇ º¯È­ °úÁ¤Àº? ´Ü, ÇнÀ·ü ÀÌ´Ù.

ÇнÀ ÀÔ·Â :

(a) È°¼ºÈ­ ÇÔ¼öÀÇ ±×¸² 3 (a) ÀÇ °è´Ü ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö (ÀÓ°èÄ¡ T = 0) ·Î »ç¿ëÇÏ´Â °æ¿ì

(b) È°¼ºÈ­ ÇÔ¼öÀÇ ±×¸² 4 (a) ÀÇ ½Ã±×¸ðÀ̵å ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÏ´Â °æ¿ì.

(a) 1 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÑ ´º·±ÀÇ °ªÀº,

    ÇнÀ ½ÅÈ£ Àº ½Ä (1), È°¼ºÈ­ ÇÔ¼ö¿¡¼­ ½Ä (3) ¿¡ ÀÇÇØ,

    ¿¬°á°­µµÀÇ º¯È­·® Àº ½Ä (2) ¿¡ ÀÇÇØ,

    µû¶ó¼­, ´Â ½Ä (3) ¿¡ ÀÇÇØ,

    2 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿© 1 ´Ü°è¿Í ¸¶Âù°¡Áö·Î , À» ±¸ÇÒ ¼ö ÀÖ´Ù.

    µû¶ó¼­, , Àº ´ÙÀ½°ú °°´Ù.

    3 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿©µµ µ¿ÀÏÇÏ°Ô , ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

(b) 1 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÑ ´º·±ÀÇ °ªÀº,

    ÇнÀ ½ÅÈ£ Àº ½Ä (1), È°¼ºÈ­ ÇÔ¼ö¿¡¼­ ½Ä (6) ¿¡ ÀÇÇØ,

    ¿¬°á°­µµÀÇ º¯È­·® Àº ½Ä (2) ¿¡ ÀÇÇØ,

    µû¶ó¼­, ´Â ½Ä (3) ¿¡ ÀÇÇØ,

2 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿© 1 ´Ü°è¿Í ¸¶Âù°¡Áö·Î , À» ±¸ÇÒ ¼ö ÀÖ´Ù.

    µû¶ó¼­, Àº ´ÙÀ½°ú °°´Ù.

3 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿©µµ µ¿ÀÏÇÏ°Ô ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

5.3  ÆÛ¼ÁÆ®·Ð ÇнÀ¹ý

ÆÛ¼ÁÆ®·Ð ÇнÀ¹ý (Perceptron Learning) Àº 1958³â F. Rosenblatt °¡ Á¦¾ÈÇÑ ÇнÀ ¹æ¹ýÀ¸·Î ÀÌÁø ¶Ç´Â ¿¬¼Ó È°¼ºÈ­ ÇÔ¼ö°¡ »ç¿ëµÉ ¼ö ÀÖ´Ù. Ãʱ⠿¬°á°­µµ´Â ÀÓÀÇÀÇ °ªÀ¸·Î ÇÒ ¼ö ÀÖÀ¸¸ç, ±×¸² 1 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÇнÀ ½ÅÈ£·Î½á ¸ñǥġ d ¿Í ½ÇÁ¦ Ãâ·Â y ÀÇ Â÷ÀÌ Áï, ¿ÀÂ÷¸¦ »ç¿ëÇÏ´Â Á¡ÀÌ Æ¯Â¡ÀÌ´Ù. µû¶ó¼­, ÇнÀ½ÅÈ£ Àº ´ÙÀ½°ú °°ÀÌ ±¸ÇÒ ¼ö ÀÖ´Ù.

k ´Ü°è¿¡¼­ÀÇ ¿¬°á°­µµ º¯È­·® ´Â ½Å°æ¸ÁÀÇ ÇнÀ¿¡¼­ ½Ä (1) ¿¡ ÀÇÇØ,

µû¶ó¼­, ´Ü°èÀÇ ¿¬°á°­µµ Àº ´ÙÀ½°ú °°´Ù.

ÇÑÆí, ÆÛ¼ÁÆ®·Ð ÇнÀ¹ý¿¡¼­´Â ÀϹÝÀûÀ¸·Î È°¼ºÈ­ ÇÔ¼öÀÇ ±×¸² 3 (b) ¿Í °°Àº ¾ç±Ø¼º °è´Ü ÇÔ¼ö¸¦ ÁÖ·Î »ç¿ëÇϹǷÎ, ½Ä (2) ´Â ´ÙÀ½°ú °°ÀÌ °£·«È­µÉ ¼ö ÀÖ´Ù.

½Ä (4)¿¡¼­ ¾Ë ¼ö ÀÖµíÀÌ ¸¸¾à, ¸ñǥġ°¡ +1 ÀÏ ¶§ ½ÇÁ¦ Ãâ·ÂÀÌ -1 À̸é, ¸¸Å­ ¿¬°á°­µµ¸¦ °¨¼Ò½ÃÄѼ­ ´º·±ÀÇ ÀÔ·Â °¡ÁßÇÕÀÌ Àû¾îÁö°Ô ÇÔÀ¸·Î½á ¿øÇÏ´Â °á°ú¸¦ ¾òµµ·Ï ÇÏ°í ÀÖ´Ù.

±×¸² 1  ÆÛ¼ÁÆ®·Ð ÇнÀ¹ý

  ¿¹Á¦ 1  

Hebb ÇнÀ¹ýÀÇ ¿¹Á¦ 1 °ú µ¿ÀÏÇÑ Á¶°ÇÀÇ ½Å°æ¸ÁÀ» ÆÛ¼ÁÆ®·Ð ÇнÀ¹ýÀ¸·Î ÇнÀ½Ãų ¶§ ¿¬°á°­µµÀÇ º¯È­ °úÁ¤Àº? ´Ü, ÀÌ ÀÔ·ÂµÉ °æ¿ì¿¡´Â ¸ñǥġ°¡ +1, ¿Í °¡ ÀÔ·ÂµÉ °æ¿ì¿¡´Â ¸ñǥġ°¡ -1 ÀÌ µÇµµ·Ï ÇÑ´Ù. ¶ÇÇÑ, È°¼ºÈ­ ÇÔ¼ö·Î ±×¸² 3 (b) ÀÇ ¾ç±Ø¼º °è´Ü ÇÔ¼ö (ÀÓ°èÄ¡ T = 0) ¸¦ »ç¿ëÇÑ´Ù.

1 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÑ ´º·±ÀÇ  °ú °ªÀº,

    ÇнÀ ½ÅÈ£ Àº ½Ä (1) ¿¡ ÀÇÇØ,

    µû¶ó¼­, °ú ´Â ½Ä (2), (3) ¿¡ ÀÇÇØ,

    ÀÔ·Â ¿¡ ´ëÇÑ Ãâ·Â °ú ¸ñǥġ ÀÌ µ¿ÀÏÇϹǷΠ¿¬°á°­µµ¸¦ º¯È­½ÃÅ°Áö ¾ÊÀ½À» ¾Ë ¼ö ÀÖ´Ù.

2 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿© 1 ´Ü°è¿Í ¸¶Âù°¡Áö·Î , ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

    µû¶ó¼­, , Àº ´ÙÀ½°ú °°´Ù.

    3 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿©µµ µ¿ÀÏÇÏ°Ô ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

5.4  µ¨Å¸ ÇнÀ¹ý

µ¨Å¸ ÇнÀ¹ý (Delta Learning) Àº 1986 ³â T. McClelland ¿Í D. Rumelhart °¡ Á¦¾ÈÇÑ ÇнÀ ¹æ¹ýÀ¸·Î ¿¬¼Ó È°¼ºÈ­ ÇÔ¼ö¸¸À» »ç¿ëÇÑ´Ù. ±×¸² 1 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÇнÀ ½ÅÈ£·Î¼­ ¸ñǥġ d ¿Í ½ÇÁ¦ Ãâ·Â y ÀÇ Â÷ÀÌ »Ó¸¸ ¾Æ´Ï¶ó È°¼ºÈ­ ÇÔ¼öÀÇ ¹ÌºÐ°ªÀÌ »ç¿ëµÇ´Â Á¡ÀÌ Æ¯Â¡ÀÌ´Ù. µû¶ó¼­, ÇнÀ ½ÅÈ£ Àº ´ÙÀ½°ú °°ÀÌ ±¸ÇÒ ¼ö ÀÖ´Ù.

´Ü°è¿¡¼­ÀÇ ¿¬°á°­µµ º¯È­·® ´Â ½Å°æ¸ÁÀÇ ÇнÀÀÇ ½Ä (1) ¿¡ ÀÇÇØ

µû¶ó¼­, ´Ü°èÀÇ ¿¬°á°­µµ Àº ´ÙÀ½°ú °°´Ù.

±×¸² 1  µ¨Å¸ ÇнÀ¹ý

  ¿¹Á¦ 1  

ÆÛ¼ÁÆ®·Ð ÇнÀ¹ýÀÇ ¿¹Á¦ 1 °ú µ¿ÀÏÇÑ Á¶°ÇÀÇ ½Å°æ¸ÁÀ» µ¨Å¸ ÇнÀ¹ýÀ¸·Î ÇнÀ½Ãų ¶§ ¿¬°á°­µµÀÇ º¯È­ °úÁ¤Àº? ´Ü, È°¼ºÈ­ ÇÔ¼ö·Î´Â È°¼ºÈ­ ÇÔ¼öÀÇ ±×¸² 4 (a) ÀÇ ´Ü±Ø¼º ½Ã±×¸ðÀ̵å ÇÔ¼ö À» »ç¿ëÇÑ´Ù.

1 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÑ ´º·±ÀÇ  °ú °ªÀº,

    ½Ä È°¼ºÈ­ ÇÔ¼öÀÇ ½Ä (6) ¿¡ ÀÇÇØ ´Â,

    ÇнÀ ½ÅÈ£ Àº ½Ä (1) ¿¡ ÀÇÇØ,

    ¿¬°á°­µµ º¯È­·® ´Â ½Ä (2) ¿¡ ÀÇÇØ,

2 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿© 1 ´Ü°è¿Í ¸¶Âù°¡Áö·Î , , ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

    µû¶ó¼­, ½Ä (2), (3) ¿¡ ÀÇÇØ , Àº ´ÙÀ½°ú °°´Ù.

    3 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿©µµ µ¿ÀÏÇÏ°Ô ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

 

5.5  LMS ÇнÀ¹ý

LMS (Least Mean Square) ÇнÀ¹ýÀº 1962 ³â B. Widrow °¡ Á¦¾ÈÇÑ ¹æ¹ýÀ¸·Î Ç×µî ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÑ´Ù. Ãʱ⠿¬°á°­µµ´Â ÀÓÀÇÀÇ °ªÀ¸·Î Çϸç, ±×¸² 1 ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÇнÀ ½ÅÈ£·Î½á ¸ñǥġ d ¿Í ½ÇÁ¦ Ãâ·Â y ÀÇ Â÷ÀÌ°¡ »ç¿ëµÇ´Â Á¡ÀÌ Æ¯Â¡ÀÌ´Ù. µû¶ó¼­, ÇнÀ ½ÅÈ£ Àº ´ÙÀ½°ú °°ÀÌ Ç¥ÇöÇÒ ¼ö ÀÖ´Ù.

k ´Ü°è¿¡¼­ÀÇ ¿¬°á°­µµ º¯È­·® ´Â ½Å°æ¸ÁÀÇ ÇнÀÀÇ ½Ä (1) ¿¡ ÀÇÇØ

µû¶ó¼­, ´Ü°èÀÇ ¿¬°á°­µµ Àº ´ÙÀ½°ú °°´Ù.

±×¸² 1  LMS ÇнÀ¹ý

  ¿¹Á¦ 1  

Hebb ÇнÀ¹ýÀÇ ¿¹Á¦ 1 °ú µ¿ÀÏÇÑ Á¶°ÇÀÇ ½Å°æ¸ÁÀ» LMS ÇнÀ¹ýÀ¸·Î ÇнÀ½Ãų ¶§ ¿¬°á°­µµÀÇ º¯È­ °úÁ¤Àº? ´Ü, Ç×µî ÇÔ¼ö¸¦ È°¼ºÈ­ ÇÔ¼ö·Î »ç¿ëÇÑ´Ù.

1 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÑ ´º·±ÀÇ  °ú °ªÀº,

    ÇнÀ ½ÅÈ£ Àº ½Ä (1) ¿¡ ÀÇÇØ,

    °ú ´Â ½Ä (2), (3) ¿¡ ÀÇÇØ,

2 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿© 1 ´Ü°è¿Í ¸¶Âù°¡Áö·Î , , ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

    µû¶ó¼­, , ´Â ½Ä (2), (3) ¿¡ ÀÇÇØ,

    3 ´Ü°è : ÀÔ·Â ¿¡ ´ëÇÏ¿©µµ µ¿ÀÏÇÏ°Ô ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

 

5.6  °æÀï½Ä ÇнÀ¹ý

ÁÖ·Î »ç¿ëµÇ´Â °æÀï½Ä ÇнÀ¹ý (Competitive Learning) ¿¡´Â 1987 ³â R. Hecht-Nielsen ÀÌ Á¦¾ÈÇÑ instar ÇнÀ¹ý°ú 1974 ³â S. Grossberg °¡ Á¦¾ÈÇÑ outstar ÇнÀ¹ý µîÀÌ ÀÖ´Ù.

instar ÇнÀ¹ýÀº °æÀï½Ä ½Å°æ¸Á¿¡ »ç¿ëµÇ¸ç, ±×¸² 1 (a) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÇнÀ °úÁ¤¿¡¼­ winner ´º·± ¿Í °ü·ÃµÈ ¿¬°á°­µµ ¸¸À» º¯°æÇÏ´Â ÇнÀ ¹æ¹ýÀ̸ç, ¿¬°á°­µµÀÇ º¯È­·® ´Â ´ÙÀ½°ú °°´Ù.

¹Ý¸é¿¡, outstar ÇнÀ¹ýÀº °æÀï½Ä ½Å°æ¸Á¿¡ »ç¿ëµÇ¸ç, ±×¸² 1 (b) ¿¡ µµ½ÃÇÑ ¹Ù¿Í °°ÀÌ ÇнÀ °úÁ¤¿¡¼­ winner ´º·± ¿Í °ü·ÃµÈ ¿¬°á°­µµ  ¸¸À» º¯°æÇÏ´Â ÇнÀ ¹æ¹ýÀ̸ç, ¿¬°á°­µµÀÇ º¯È­·® ´Â ´ÙÀ½°ú °°´Ù.

±×¸² 1  °æÀï½Ä ÇнÀ¹ý

Áö±Ý±îÁö ¾ð±ÞÇÑ ¿©·¯ °¡Áö ÇнÀ ¹æ¹ýÀÇ Æ¯Â¡À» Ç¥ 1 ¿¡ ºñ±³ÇÏ¿´´Ù.

Ç¥ 1  ÇнÀ¹ýÀÇ Æ¯Â¡ ºñ±³

ÇнÀ¹ý

Ãʱ⠿¬°á°­µµ

¿¬°á°­µµ º¯È­·®

Hebb

ÀûÀº °ª

ÆÛ¼ÁÆ®·Ð

ÀÓÀÇ °ª

µ¨Å¸

ÀÓÀÇ °ª

LMS

ÀÓÀÇ °ª

instar

ÀÓÀÇ °ª

outstar

0

 

6. Ç¥±â¹ý

º» Àý¿¡¼­´Â µ¶ÀÚµéÀÇ ÀÌÇظ¦ µ½±â À§ÇÏ¿© ½Å°æ¸Á ¸ðµ¨¿¡ ÀϹÝÀûÀ¸·Î »ç¿ëµÇ´Â ±âÈ£µéÀ» Á¤ÀÇÇÏ¿´´Ù.