Multilayer  Perceptron

 

½Å°æ¸Á À̷аú ÀÀ¿ë(1) : ±è´ë¼ö, ÇÏÀÌÅ×Å© Á¤º¸, 1992, Page 91~142

 

1. ¸Ó¸®¸»

2. Multilayer perceptron

3. Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÇ ¹è°æ

4. Backpropagation ÇнÀ ¾Ë°í¸®Áò

     (1) Delta rule °ú gradient descent method

     (2) ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢

     (3) ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀÇ ÇнÀ °úÁ¤

5. Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÇ ¹®Á¦Á¡ ¹× °³¼±Ã¥

6. Multi layer perceptronÀÇ Àû¿ë ¿¹

     (1) XOR ¹®Á¦

     (2) Æи®Æ¼ ¹®Á¦ (Parity Problem)

     (3) ºÎȣȭ ¹®Á¦ (Encoding Problem)

     (4) ´ëĪ¼º ¹®Á¦ (Symmetry Problem)

     (5) µ¡¼À ¹®Á¦

     (6) ºÎÁ¤ ¹®Á¦ (The Negation Problem)

     (7) T-C ÆǺ° ¹®Á¦

7. °á¾î

 

1. ¸Ó¸®¸»

¹Î½ºÅ° (Minsky) ÀÇ ÆÄÆÛÆ® (Papert) °¡ 1969 ³â 'ÆÛ¼ÁÆ®·ÐÁî' (Perceptrons) ¶õ Àú¼­ [MIN69] ¿¡¼­ ÆÛ¼ÁÆ®·Ð ¸ðµ¨À» ¼öÇÐÀûÀ¸·Î öÀúÈ÷ ºÐ¼®ÇÏ°í ±× ¸ðµ¨ÀÇ °áÁ¤ÀûÀÎ ´ÜÁ¡µéÀ» ¹àÇô³½ ÀÌÈÄ ½Å°æ¸Á¿¡ °ü·ÃµÈ ¿¬±¸´Â ¾à 20 ³â°£ ħüÀÇ ±æÀ» °È°Ô µÇ¾ú´Ù.

ÆÛ¼ÁÆ®·Ð°ú °°ÀÌ ÇϳªÀÇ Á¶Á¤Ãþ (single-adjustable layer) À¸·Î ±¸¼ºµÇ´Â ¸ðµ¨µéÀÇ ÇÑ°èÁ¡µé ¶§¹®¿¡ ÀÔ·ÂÃþ, Ãâ·ÂÃþ ±×¸®°í ÇÑ °³ ÀÌ»óÀÇ Àº´ÐÃþ (hidden layer) À» ¾²´Â »õ·Î¿î ¸ðµ¨µéÀÌ 1980 ¿¬´ë Á߹ݿ¡ Á¦¾ÈµÇ¾úÀ¸¸ç, ƯÈ÷ PDP (Parallel Distributed Processing) ±×·ì¿¡ ÀÇÇÑ Æø ³ÐÀº ¿¬±¸°¡ ÁøÇàµÇ¾ú´Ù [RUM86]. ·¯¸áÇÏÆ® (Rumelhart) µîÀº 1980 ¿¬´ë ÈĹݿ¡ ÃâÆÇµÈ "Parallel Distributed Processing" (PDP) ¶õ Àú¼­¸¦ ÅëÇØ ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ¾Ë°í¸®ÁòÀ» ³Î¸® À¯Çà½ÃÄ×´Ù. ÀÌ ±×·ì¿¡¼­ Á¦¾ÈÇÑ ¸ðµ¨Àº Àº´ÐÃþÀ» °¡Áø ´ÙÃþ ÆÛ¼ÁÆ®·Ð¿¡ ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç (Backpropagation) ÇнÀ ¾Ë°í¸®ÁòÀ» »ç¿ëÇÔÀ¸·Î½á ¼±Çü ºÐ¸® ¹®Á¦ »Ó¸¸ ¾Æ´Ï¶ó ¿©·¯ °¡Áö ¹®Á¦Á¡µéÀ» ÇØ°áÇÒ ¼ö ÀÖ¾úÀ¸¸ç ÀÌ·Î ÀÎÇÏ¿© ½Ê¿©³â°£ ħüÇß´ø ½Å°æ¸Á ¿¬±¸°¡ »õ·Ó°Ô È°±â¸¦ ¶ì°Ô µÇ¾ú´Ù.

2. Multilayer perceptron

Multilayer perceptron Àº ÀÔ·ÂÃþ°ú Ãâ·ÂÃþ »çÀÌ¿¡ Çϳª ÀÌ»óÀÇ Áß°£ÃþÀÌ Á¸ÀçÇÏ´Â ½Å°æ¸ÁÀ¸·Î <±×¸² 1> ¿¡ ³ªÅ¸³½ °Í°ú °°Àº °èÃþ±¸Á¶¸¦ °®´Â´Ù. ÀÌ ¶§ ÀÔ·ÂÃþ°ú Ãâ·ÂÃþ »çÀÌÀÇ Áß°£ÃþÀ» Àº´ÐÃþ (hidden layer) À̶ó ºÎ¸¥´Ù. ³×Æ®¿öÅ©´Â ÀÔ·ÂÃþ, Àº´ÐÃþ, Ãâ·ÂÃþ ¹æÇâÀ¸·Î ¿¬°áµÇ¾î ÀÖÀ¸¸ç, °¢ Ãþ³»ÀÇ ¿¬°á°ú Ãâ·ÂÃþ¿¡¼­ ÀÔ·ÂÃþÀ¸·ÎÀÇ Á÷Á¢ÀûÀÎ ¿¬°áÀº Á¸ÀçÇÏÁö ¾Ê´Â Àü¹æÇâ(feedforward) ³×Æ®¿öÅ©ÀÌ´Ù.

<±×¸² 1> ´ÙÃþ ÆÛ¼ÁÆ®·ÐÀÇ ±¸Á¶

multi layer perceptron Àº ´ÜÃþ perceptron °ú À¯»çÇÑ ±¸Á¶¸¦ °¡Áö°í ÀÖÁö¸¸ Áß°£Ãþ°ú °¢ unit ÀÇ ÀÔÃâ·Â Ư¼ºÀ» ºñ¼±ÇüÀ¸·Î ÇÔÀ¸·Î½á ³×Æ®¿öÅ©ÀÇ ´É·ÂÀ» Çâ»ó½ÃÄÑ ´ÜÃþ perceptron ÀÇ ¿©·¯ °¡Áö ´ÜÁ¡µéÀ» ±Øº¹Çß´Ù. multi layer perceptron Àº ÃþÀÇ °¹¼ö°¡ Áõ°¡ÇÒ¼ö·Ï perceptron ÀÌ Çü¼ºÇÏ´Â °áÁ¤ ±¸¿ªÀÇ Æ¯¼ºÀº ´õ¿í °í±ÞÈ­µÈ´Ù. Áï ´ÜÃþÀÏ °æ¿ì ÆÐÅÏ°ø°£À» µÎ ±¸¿ªÀ¸·Î ³ª´©¾îÁÖ°í, 2 ÃþÀÎ °æ¿ì º¼·Ï»ê (convex) °³±¸¿ª ¶Ç´Â ¿À¸ñÇÑ Æ󱸿ªÀ» Çü¼ºÇϸç, 3 ÃþÀÎ °æ¿ì¿¡´Â À̷лó ¾î¶°ÇÑ ÇüÅÂÀÇ ±¸¿ªµµ Çü¼ºÇÒ ¼ö ÀÖ´Ù.

 <±×¸² 2> ¿¡ ´ÜÃþ, 2Ãþ, 3Ãþ perceptron µéÀÇ ±¸Á¶¿Í °áÁ¤ ±¸¿ªÀ» ³ªÅ¸³»¾ú´Ù [KHA90]. ÀÌ ±×¸²¿¡¼­ µÎ ¹ø° ¿­Àº °¢ ³×Æ®¿öÅ©°¡ Çü¼ºÇÏ´Â °áÁ¤ ±¸¿ªÀ» ³ªÅ¸³»°í ´ÙÀ½ µÎ °³ÀÇ ¿­Àº Exclusive-or ¿Í mesh ±¸¿ª ¹®Á¦¿¡ ´ëÇÑ °áÁ¤ ±¸¿ªÀ» ¿¹½ÃÇÑ´Ù. ±×¸®°í ¸Ç ¿À¸¥ÂÊ ¿¶Àº ÀϹÝÀûÀÎ °áÁ¤ ±¸¿ªÀ» ¿¹½ÃÇÑ´Ù. Áö±Ý±îÁö´Â ÁÖ·Î °è´ÜÇü (hard limiting) ÀÇ ºñ¼±Çü (noolinear) È°¼ºÇÔ¼ö¸¦ »ç¿ëÇÏ°í Ãâ·Â unit °¡ ÇϳªÀÎ multilayer perceptron ¿¡ ´ëÇÏ¿© ³íÀÇÇÏ¿´´Âµ¥ ÀÌ¿Í ºñ½ÁÇÑ °á°ú°¡ ½Ã±×¸ðÀÌµå ºñ¼±Çü È°¼ºÇÔ¼ö¸¦ Àû¿ëÇÑ ÇÑ °³ ÀÌ»óÀÇ Ãâ·Â unit¸¦ °¡Áø ³×Æ®¿öÅ©¿¡µµ ³ªÅ¸³­´Ù. ½Ã±×¸ðÀÌµå ºñ¼±Çü È°¼ºÇÔ¼ö¸¦ Àû¿ëÇÒ °æ¿ì °áÁ¤ ¿µ¿ªÀÌ Åë»ó Á÷¼±ÀÌ ¾Æ´Ñ ¿Ï¸¸ÇÑ °î¼±À¸·Î °æ°èÁö¿öÁö¹Ç·Î ÇàÀ§ÀÇ ºÐ¼®ÀÌ ¾à°£ º¹ÀâÇÏÁö¸¸ ¹ÌºÐÀÌ °¡´ÉÇϹǷΠ¿ÀÈ÷·Á Àº´ÐÃþÀ» ÇнÀÇÒ ¼ö ÀÖ´Â Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀ» ¼öÇàÇÒ ¼ö ÀÖ´Ù. ´ëºÎºÐÀÇ multilayer perceptron Àº backpropagation ÇнÀ ¾Ë°í¸®ÁòÀ» »ç¿ëÇÏ¿© ÇнÀ½Ãų ¼ö ÀÖ´Ù.

ÀϹÝÀûÀÎ multilayer perceptron ÀÇ ÇнÀ¹æ¹ýÀº ´ÙÀ½°ú °°´Ù. ÀÔ·ÂÃþÀÇ °¢ unit ¿¡ ÀÔ·Â µ¥ÀÌÅ͸¦ Á¦½ÃÇϸé ÀÌ ½ÅÈ£´Â °¢ unit¿¡¼­ º¯È¯µÇ¾î Áß°£Ãþ¿¡ Àü´ÞµÇ°í ÃÖÁ¾ÀûÀ¸·Î Ãâ·ÂÃþÀ¸·Î ³ª¿À°Ô µÈ´Ù. ÀÌ Ãâ·Â°ª°ú ¿øÇÏ´Â Ãâ·Â°ªÀ» ºñ±³ÇÏ¿© ±× Â÷À̸¦ °¨¼Ò½ÃÅ°´Â ¹æÇâÀ¸·Î ¿¬°á°­µµ¸¦ Á¶Á¤ÇÏ´Â °ÍÀÌ´Ù. ±×·¯³ª Áß°£ÃþÀÌ ÀÖÀ¸¸é ÇнÀÀº ¾î·Á¿ö Áø´Ù. ¿Ö³ÄÇÏ¸é ¾î¶² ¿¬°á°­µµ°¡ ¿ÀÂ÷¸¦ À¯¹ß ½ÃÅ°´ÂÁö ¾Ë ¼ö ¾ø±â ¶§¹®ÀÌ´Ù.

 

<±×¸² 2> Ãþ¼ö¿Í °áÁ¤ ±¸¿ªÀÇ Æ¯¼º

3. Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÇ ¹è°æ

Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀº ÃÖ¼ÒÀڽ (least mean square) ¾Ë°í¸®ÁòÀÇ ºñ¼±ÇüÀûÀÎ È®ÀåÀÌ´Ù. Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀº ¹ÌºÐÀÇ ¹Ýº¹±ÔÄ¢ (chain-rule) À» ¿©·¯¹ø ¹Ýº¹ÀûÀ¸·Î Àû¿ëÇÏ¿© È®·ü ±Ù»çÄ¡ ÇÁ·¹ÀÓ¿öÅ©(stochastic-approximation framework) ¿Í °ü·ÃÁö¿òÀ¸·Î½á À¯µµÇس¾ ¼ö ÀÖ´Ù.

·¯¸áÇÏÆ® (Rumelhart) µîÀº[RUM86] 1980 ³â´ë ÈĹݿ¡ ÃâÆÇµÈ "Parallel Distributed Processing"(PDP) À̶õ Àú¼­¿¡¼­ Backpropagation ¾Ë°í¸®ÁòÀ» ³Î¸® À¯Çà½ÃÄ×´Ù. ÀÌ Ã¥Àº »÷µð¿¡ÀÌ°í¿¡ Àִ Ķ¸®Æ÷´Ï¾Æ ´ëÇÐÀÇ ¿©·¯ ½É¸®ÇÐÀÚµé°ú ÄÄÇ»ÅÍ °ü·Ã ÇÐÀÚµéÀÇ ½Å°æ¸Á °ü·Ã ¿¬±¸µéÀ» ¿ä¾àÇÑ °ÍÀÌ´Ù. ±× ÁÖ¿ä ¸É¹öµé·Î´Â ·¯¸áÇÏÆ® (David E, Rumelhart), ¸ÆŬ¶õµå (James L.McClelland), ¿¤¸¸ (Geoffrey L, Elman), ¼¼Áî¿À¿ì½ºÅ° (Terrence J.Sejnowski), ½º¸ô·»½ºÅ° (Paul Smolensky), Áý¼­ (David Zipser) µîÀ» µé ¼ö ÀÖÀ¸¸ç ÀÌ Ã¥Àº ½Å°æ¸ÁÀÇ »õ·Î¿î ºÕÀ» ÀÏÀ¸Å°´Âµ¥ Å©°Ô ±â¿©Çß´Ù.

PDP ¿¬±¸ÆÀÀº ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢ (generalized delta rule) À̶ó°í ºÒ¸®´Â Backpropagation ¾Ë°í¸®ÁòÀ» Á¦¾ÈÇÏ¿´´Ù. ÀÌ°ÍÀº ¹Î½ºÅ°¿Í ÆÄÆÛÆ®°¡ »ó¼¼È÷ ºÐ¼®ÇÑ perceptron ¸ðµ¨ÀÇ Á¦ÇÑÁ¡µéÀ» ±Øº¹ÇßÀ¸¸ç, ÀÌ·Î½á ½Ê¿©³â °£ ħüÇß´ø ½Å°æ¸Á ¿¬±¸¿¡ »õ·Î¿î ÀåÀ» ¿­¾ú´Ù.

ÀÌ ¾Ë°í¸®ÁòÀº ¸¹Àº ÄÄÇ»ÅÍ °ü·Ã °úÇÐÀÚµé°ú ÀÎÁö°úÇÐÀÚµéÀÌ ½Å°æ¸Á À̷аú ÀÀ¿ëµéÀ» ÅëĪÇÏ¿© Áñ°Ü ºÎ¸£´Â Ä¿³Ø¼Å´ÏÁò (connectionism) ÀÇ °³°¡ÀÌ´Ù. ±× ¹«·Æ ¼¼Áî³ë¿ì½ºÅ° (Sejnowski) ´Â Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀ» »ç¿ëÇÏ¿© ÅؽºÆ® (text) ¸¦ À½¼º (speech) À¸·Î ÇÕ¼ºÇÏ´Â NETtalk ½Ã¹Ä·¹À̼ǿ¡ »ç¿ëÇÏ¿´´Ù [SEJ86]. Backpropagation ¾Ë°í¸®ÁòÀÌ ¼Ò°³µÈ PDP Ã¥Àº ½Å°æ¸Á¿¡ °ü·ÃµÈ Âü°í ¹®ÇåÀ¸·Î ³Î¸® »ç¿ëµÇ¾úÀ¸¸ç ¼ö ¸¹Àº Backpropagation ¼ÒÇÁÆ®¿þ¾îµéÀÌ °³¹ßµÇ±â ½ÃÀÛÇß´Ù. ¶ÇÇÑ ÁÖ½Ä ½ÃÀåÀÇ ¿¹Ãø µî ±â¼úÀûÀÎ ÀÀ¿ë ºÐ¾ß¿¡ ´ëÇÑ ¼ö ¸¹Àº ½Ã¹Ä·¹À̼ÇÀÌ ½ÃµµµÇ¾úÀ¸¸ç, ±× °á°úµéÀÌ Çмú´ëȸ¿¡ º¸°íµÇ¾ú´Ù.

¸¹Àº »ç¶÷µéÀº ÈÆ·ÃÀ» ÅëÇÑ ÀÌ »õ·Î¿î ÇнÀ ¹æ¹ýÀÌ ±â°èÁö´É(machine intelligence)ÀÇ »õ·Î¿î ÀåÀ» ¿©´Â ³î¶ó¿î ¹æ¹ýÀ̶ó´Â ÀνĿ¡¼­ °øÀå ÀÚµ¿È­, ½Ç½Ã°£ À½¼ºÀνÄ, ´Ù¸¥ ¾ð¾î°£ÀÇ ¹ø¿ª, ·Îº¿¿Í °°Àº ºÐ¾ßµé¿¡ÀÇ ÀÀ¿ë °¡´É¼ºÀ» ¸Å¿ì ¹à°Ô º¸¾Ò´Ù. ÀϺΠ»ý¸®ÇÐÀÚ (pysiologist) µéÀº ÀÌ Backpropagation ¾Ë°í¸®ÁòÀ» Àΰ£ÀÇ µÎ³ú ¹× ÁßÃß½Å°æ ½Ã½ºÅÛÀ¸·Î±îÁö ¿©°å´Ù. ÀÌ¿Í ´õºÒ¾î Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÇ ´ÜÁ¡µéµµ µå·¯³µ´Ù. ù°, ÀÌ ¾Ë°í¸®ÁòÀº ¼ö·Å¿¡ Á¾Á¾ ½ÇÆÐÇÏ°í Áö¿ª ÃÖ¼Ò°ª (local minimum) ¿¡ ºÀÂøÇÑ´Ù. µÑ°, Backpropagation Àº ºñÁö¿ª¼º (nonlocality), µ¿½Ã¼º (synchrony), °¨µ¶ (supervision) °ú ±ä ÈÆ·Ã ½Ã°£ µîÀ¸·Î »ý¹°ÇÐÀûÀÎ ½Å°æ¸Á°ú´Â »ó´çÇÑ Â÷ÀÌÁ¡ÀÌ ÀÖ´Ù. ¼Â°, Backpropagation Àº ºÒ¿¬¼Ó ½Ã¹Ä·¹À̼ǿ¡¼­ Ç×»ó ¼ö·ÅÇÏ´Â °ÍÀº ¾Æ´Ï´Ù. Áï, ÃʱâÀÇ »óŸ¦ ¾î¶»°Ô ¼±ÅÃÇÏ´À³Ä¿¡ µû¶ó Áøµ¿Çϰųª (oscillation), ÃÖ¾ÇÀÇ °æ¿ì¿¡´Â Á¦¸Ú´ë·Î ¹æȲ (chaotic wandering) Çϱ⵵ ÇÑ´Ù.

¾î¶² Backpropagation ¿ËÈ£·ÐÀÚµéÀº ÀÌ ¾Ë°í¸®ÁòÀÌ ¿¬°á°­µµ °ø°£ (weight space) ÀÇ ½Ã³À½º¿¡¼­ ¿ÀÂ÷ÀÇ Ç¥¸é (error surface) ÀÌ ±â¿ï±â¸¦ µû¶ó°¡´Â (gradient descent) ¹æ¹ýÀ¸·Î ¼öÇàµÇ±â ¶§¹®¿¡ ¸¸¾à ½Ã¹Ä·¹À̼ÇÀÇ °£°ÝÀ» ÃæºÐÈ÷ ÀÛ°Ô ÇÑ´Ù¸é Ç×»ó ¼ö·ÅÇÏ°Ô µÈ´Ù°í ÁÖÀåÇÑ´Ù. ±×·¯³ª ÀÌ·± ÁÖÀåÀº ÀÌ ¾Ë°í¸®ÁòÀÇ Åë°èÀûÀÎ ¼ºÁúÀ» °£°úÇÑ °ÍÀ̶ó°í º¼ ¼ö ÀÖ´Ù. Backpropagation ¾Ë°í¸®ÁòÀº ±×°ÍÀÌ ¼ö·ÅÇÒ °æ¿ì¿¡µµ Áö¿ª ÃÖ¼Ò¿À·ù (local minimum error) ¿¡ ¼ö·ÅÇϱ⵵ ÇÑ´Ù. ÀÌ ¾Ë°í¸®ÁòÀÇ ¿ËÈ£·ÐÀڵ鵵 ÀÌ Á¡À» ÀÎÁ¤ÇÏÁö¸¸, ±×µé Áß ¸î¸îÀº ¿¬°á°­µµ °ø°£ÀÇ Â÷¿øÀÌ ¸Å¿ì Ŭ °æ¿ì¿¡´Â Áö¿ª ÃÖ¼Ò°ªÀÌ °ÅÀÇ »ý±âÁö ¾Ê´Â´Ù´Â ÁÖÀåÀÌ´Ù. ÀÌ Á¡Àº ¸î¸î Â÷¿øÀÇ Backpropagation ¿¡¼­´Â ¼º°øÀûÀÎ ½Ã¹Ä·¹À̼ÇÀ» ÀÔÁõÇß´Ù.

Backpropagation ¿¡ ´ëÇÑ ºñÆÇÀûÀÎ ½Ã°¢Àº ¸¹Àº Backpropagation ¿¬±¸°¡µéÀÌ ¼­·Î ÀڱⰡ óÀ½À¸·Î Backpropagation À» °³¹ßÇß´Ù°í ÁÖÀåÇÏ´Â µ¥¿¡µµ ¹®Á¦°¡ ÀÖ´Ù. ÀÌ Backpropagation ¿¡ °üÇÑ ±â·ÏÀ» º¸¸é ÆÄÄ¿ (Parker) °¡ 80³â´ë ÃÊ¿¡ 'ÇнÀ ³í¸® (learning logic)' ·Î¼­ÀÇ ÀÌ ¾Ë°í¸®ÁòÀ» À¯µµÇß°í[PAR85], ¿þº¸½º (werbos) ´Â 1974³â Harvard ´ëÇÐÀÇ ¹Ú»çÇÐÀ§ ³í¹®À¸·Î 'Dynamic feedback' À» À¯µµÇß´Ù. ¿þº¸½º [WER74] ´Â Backpropagation À» Åë°èÀûÀ¸·Î °ø½ÄÈ­ÇßÀ¸¸ç ÀÌ ¾Ë°í¸®ÁòÀ» 1970 ³â´ë¿Í 1980 ³â´ë¿¡ °æ±â¿¹Ãø°ú ¿©·¯ ¹®Á¦µé¿¡ ÀÀ¿ëÇÏ¿´´Ù. ÀÌ ¾Ë°í¸®ÁòÀº ¾î¼¸é ±× ÀÌÀüºÎÅÍ Á¸ÀçÇß´ÂÁöµµ ¸ð¸¥´Ù.

¶Ç ´Ù¸¥ ºñÆòÀûÀÎ °üÁ¡À¸·Î´Â Backpropagation ÇнÀÀÌ °ú¿¬ »õ·Î¿î °ÍÀ̾ú³Ä´Â °ÍÀÌ´Ù. ±× ¹®Á¦´Â ´©°¡ Á¦ÀÏ ¸ÕÀú ÀÌ ¾Ë°í¸®ÁòÀ» À¯µµÇß´À³Ä°¡ ¾Æ´Ï¶ó ¾Ë°í¸®ÁòÀÌ ÀÌ¹Ì Á¸ÀçÇß´ø °Í°ú ´Ù¸£³Ä´Â °ÍÀÌ´Ù. È­ÀÌÆ® (White) ´Â Backpropagation À» 1950 ³â´ë¿¡ È®·ü ±Ù»ç (stochastic approximation) ·Î ±ÍÂø½ÃÄ×´Ù [WHI89a, WHI89b]. µû¶ó¼­ ÀÌ ¾Ë°í¸®ÁòÀº »õ·Î¿î Á¾·ùÀÇ ÇнÀ ¹æ¹ýÀ» Á¦½ÃÇÏÁö ¸øÇß´Ù. ±× ´ë½Å Backpropagation Àº Åë°èÇÐÀÌ ¿À·¡ÀüºÎÅÍ Å½±¸ÇسõÀº ÃßÁ¤ (estimation) ¹æ¹ýÀ» ±¸ÇöÇÏ´Â °è»êÀûÀ¸·Î È¿°úÀûÀÎ ¹æ¹ýÀ» Á¦½ÃÇß´Ù. ÃÖ±Ù¿¡ (1989) È­ÀÌÆ®´Â Backpropagation ¾Ë°í¸®ÁòÀ» È®·ü ±Ù»çÀÇ ÇÑ Æ¯¼öÇÑ °æ¿ìÀÎ °ÍÀ¸·Î ±ÍÂø½ÃÄ×´Ù.

4. Backpropagation ÇнÀ ¾Ë°í¸®Áò

Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÇ ±âº» ¿ø¸®´Â ´ÙÀ½°ú °°´Ù. ÀÔ·ÂÃþÀÇ °¢ unit ¿¡ ÀÔ·ÂÆÐÅÏÀ» ÁÖ¸é, ÀÌ ½ÅÈ£´Â °¢ unit¿¡¼­ º¯È¯µÇ¾î Áß°£Ãþ¿¡ Àü´ÞµÇ°í ÃÖÈÄ¿¡ Ãâ·ÂÃþ¿¡¼­ ½ÅÈ£¸¦ Ãâ·ÂÇÏ°Ô µÈ´Ù. ÀÌ Ãâ·Â°ª°ú ±â´ë°ªÀ» ºñ±³ÇÏ¿© Â÷À̸¦ ÁÙ¿©³ª°¡´Â ¹æÇâÀ¸·Î ¿¬°á°­µµ¸¦ Á¶ÀýÇÏ°í, »óÀ§Ãþ¿¡¼­ ¿ªÀüÆÄÇÏ¿© ÇÏÀ§Ãþ¿¡¼­´Â À̸¦ ±Ù°Å·Î ´Ù½Ã ÀÚ±âÃþÀÇ ¿¬°á°­µµ¸¦ Á¶Á¤Çسª°£´Ù.

ÁöµµÇнÀ¿¡¼­´Â ÀÔ·Â ¹× ¿øÇÏ´Â Ãâ·Â (¸ñÆ÷Ãâ·Â) ÆÐÅÏ (¹éÅÍ) ÀÌ ³×Æ®¿öÅ©¿¡ Á¦½ÃµÈ´Ù. ³×Æ®¿öÅ©´Â ÀÔ·ÂÃþ¿¡ ÁÖ¾îÁø ÀÔ·ÂÆÐÅÏÀÌ Ãâ·ÂÃþ¿¡ ÀüÆĵǸ鼭 º¯ÇÑ Ãâ·ÂÆÐÅÏÀ» ¸ñÇ¥ÆÐÅÏ°ú ºñ±³ÇÑ´Ù. ³×Æ®¿öÅ©¿¡¼­ Ãâ·ÂµÈ ÆÐÅÏÀÌ ¸ñÇ¥ÆÐÅÏ°ú ÀÏÄ¡ÇÏ´Â °æ¿ì¿¡´Â ÇнÀÀÌ ÀϾÁö ¾Ê´Â´Ù. ±×·¸Áö ¾ÊÀº °æ¿ì´Â ¾ò¾îÁø Ãâ·ÂÆÐÅÏ°ú ¸ñÇ¥ÆÐÅÏÀÇ Â÷À̸¦ °¨¼Ò½ÃÅ°´Â ¹æÇâÀ¸·Î ³×Æ®¿öÅ©ÀÇ ¿¬°á°­µµ¸¦ Á¶ÀýÇÏ¿© ÇнÀÀ» ÇÑ´Ù. ³×Æ®¿öÅ©¿¡ Àº´Ð unit °¡ ¾ø´Â °æ¿ì´Â µ¨Å¸ ±ÔÄ¢°ú µ¿ÀÏÇÏ´Ù. Áï p ¹ø°ÀÇ ÀÔ·Â/¸ñÇ¥Ãâ·Â ÆÐÅÏÀÌ Á¦½ÃµÇ´Â °æ¿ì¿¡ ³ëµå i ¿¡¼­ ³ëµå j ·ÎÀÇ ¿¬°á°­µµÀÇ º¯È­´Â (½Ä 1) °ú °°ÀÌ Ç¥ÇöµÈ´Ù.

                                               (½Ä 1)

¿©±â¼­ tpj ´Â p ¹ø° ¸ñÇ¥Ãâ·Â ÆÐÅÏÀÇ j ¼ººÐ, opj ´Â p ¹ø° ÀÔ·ÂÆÐÅÏÀ¸·ÎºÎÅÍ ³×Æ®¿öÅ©°¡ °è»êÇÑ Ãâ·ÂÀÇ j ¼ººÐ. ¥äpj  = tpj - opj ´Â ¸ñÇ¥Ãâ·Â°ú ½ÇÁ¦Ãâ·ÂÀÇ Â÷ (¿ÀÂ÷), ¥Äpwj ´Â ÀÔ·ÂÃþ iunit ·ÎºÎÅÍ Ãâ·ÂÃþ junit ¿¡¼­ ¿¬°á°­µµÀÇ º¯È­·®ÀÌ´Ù. 

(1) Delta rule °ú gradient descent method

µ¨Å¸ ±ÔÄ¢À» À¯µµÇÏ´Â ¹æ¹ýÀº ¿©·¯ °¡Áö°¡ Á¦¾ÈµÇ¾î ÀÖÀ¸³ª ¿©±â¼­´Â ÃÖ±ÞÇÏ°­¹ýÀ» ÀÌ¿ëÇÏ¿© À¯µµÇϱâ·Î ÇÑ´Ù.
µ¨Å¸ ±ÔÄ¢Àº ÀÔÃâ·Â ÇÔ¼ö°¡ ¼±ÇüÀÇ unit ·ÎºÎÅÍ ÀÌ·ç¾îÁø ³×Æ®¿öÅ©¿¡ ´ëÇÏ¿© ¸ðµç ÀÔ·ÂÆÐÅÏÀ¸·ÎºÎÅÍ ¾ò¾îÁö´Â Ãâ·Â°ú ¸ñÇ¥Ãâ·Â°úÀÇ ¿ÀÂ÷ÀÇ Á¦°öÀÇ ÃÑÇÕÀ» ÃÖ¼Ò·Î Çϵµ·Ï ¿¬°á°­µµ¸¦ Á¶Á¤ÇÏ´Â °ÍÀÌ´Ù. ±×·¯±â À§Çؼ­´Â p ¹ø° ÆÐÅÏÀÇ ½Ö (pair) À» Á¦½ÃÇÑ °æ¿ìÀÇ ¿ÀÂ÷ÀÇ Á¦°öÀ» °¢°¢ÀÇ °ß°á°­µµ ¥Ä
pwi ·Î ¹ÌºÐÇÑ °ÍÀÌ µ¨Å¸ ±ÔÄ¢¿¡¼­ÀÇ ¿¬°á°­µµ º¯È­·®¿¡ ºñ·ÊÇÏ´Â °ÍÀ» ³ªÅ¸³»¸é µÈ´Ù.
µ¨Å¸ ±ÔÄ¢¿¡ ÀÇÇØ ¿¬°á°­µµÀÇ º¯È­°¡ ¿¬°á°­µµ °ø°£»ó¿¡ ÁÖ¾îÁö´Â ¿ÀÂ÷ÀÇ Á¦°öÀ» ³ôÀÌ·Î ÇÏ´Â °î¸é¿¡ ´ëÇÏ¿© ÃÖ±ÞÇÏ°­À» ÇÑ´Ù. Áï, ¿ÀÂ÷ÀÇ Á¦°öÀÌ °¡Àå ¸¹ÀÌ °¨¼ÒÇÏ´Â ¹æÇâÀ¸·Î º¯È­ÇÑ´Ù. ÀÌ°ÍÀ» ¼ö½ÄÀûÀ¸·Î ³ªÅ¸³»¸é ´ÙÀ½°ú °°´Ù.

ÆÐÅÏ p ¿¡ ´ëÇÑ ¿ÀÂ÷ÀÇ Á¦°öÀº (½Ä 2) ¿Í °°°í Àüü ÆÐÅÏ¿¡ ´ëÇÑ ¿ÀÂ÷ÀÇ Á¦°öÀÇ ÇÕÀº ÀÌ´Ù.

                                                                                                                         

                                                       (½Ä 2)

 ¸ÕÀú, µ¨Å¸ ±ÔÄ¢ÀÌ E ³»¿¡¼­ ÃÖ±ÞÇÏ°­¹ýÀÓÀ» ¾Ë¾Æº¸±â À§ÇØ °¢°¢ÀÇ Ep ¿¡ ´ëÇÏ¿© (½Ä 3)ÀÌ ¼º¸³ÇÔÀ» º¸ÀδÙ.

                                                                  (½Ä 3)

(½Ä 3) ÀÇ ¿ìº¯¿¡ Á¤¼ö ¥ç ¸¦ °öÇÑ °ÍÀÌ µ¨Å¸ ±ÔÄ¢ÀÇ ÇнÀ½Ä (½Ä 1) ÀÇ ¿ìº¯ÀÌ µÈ´Ù. Àº´Ð unit °¡ ¾ø´Â °æ¿ì´Â ÇÕ¼ºÇÔ¼ö ¹Ýº¹±ÔÄ¢ (chain rule) À» »ç¿ëÇÏ¿© Áº¯ÀÇ ¹ÌºÐÀ» °£´ÜÈ÷ °è»êÇÒ ¼ö ÀÖ´Ù.

                                                           (½Ä 4)

(½Ä 2) ·ÎºÎÅÍ ¿ìº¯ÀÇ ¥òEp/¥òopj ¿¡ ´ëÇÑ ¹ÌºÐÀ» °è»êÇÏ¸é ´ÙÀ½°ú °°´Ù.

                                                   (½Ä 5)

Ãâ·ÂÀÇ junit(uj) ÀÇ °ªÀÌ º¯È­ÇÔ¿¡ µû¶ó ¿ÀÂ÷ÀÇ º¯È­´Â ¡Ópj ¿¡ ºñ·ÊÇÑ´Ù. ´õ¿íÀÌ ¼±Çü unit ¸¦ »ç¿ëÇÏ´Â °æ¿ì´Â unit ÀÇ Ãâ·Â°ú ÀÔ·ÂÀÇ °ü°è°¡ (½Ä 6) °ú °°À¸¹Ç·Î ¡Ó¥òopj/¡Ówji ´Â (½Ä 7) °ú °°´Ù.

                                                                  (½Ä 6)

                                                                         (½Ä 7)

µû¶ó¼­ (½Ä 4) ´Â (½Ä 8) ·Î ³ªÅ¸³¾ ¼ö ÀÖ´Ù.

                                                                    (½Ä 8)

ÇÑÆí (½Ä 9) ¿¡¼­¿Í °°ÀÌ ¸ðµç ÆÐÅÏÀ» Çѹø¾¿ Á¦½ÃÇÑ ÈÄ¿¡ ¿¬°á°­µµÀÇ º¯È­ÀÇ ÃÑÇÕÀº ¡ÓE/¡Ówji ¿¡ ºñ·ÊÇÑ´Ù.

                                                                 (½Ä 9)

´Ü, ÀÌ°ÍÀº ¸ðµç ÆÐÅÏ¿¡ ´ëÇÑ ÇÑ ¹øÀÇ ÇнÀÀÌ ³¡³¯ ¶§±îÁö ¿¬°á°­µµ¸¦ º¯È­½ÃÅ°Áö ¾Ê´Â °æ¿ì¿¡ ´ëÇؼ­¸¸ À¯È¿ÇÏ´Ù. °¢°¢ÀÇ ÆÐÅÏÀÌ Á¦½ÃµÉ ¶§¸¶´Ù ¿¬°á°­µµ¸¦ º¯È­½ÃÅ°´Â °æ¿ì¿¡´Â óÀ½¿¡ Á¦½ÃµÈ ÆÐÅÏ¿¡ ÀÇÇÑ ¿¬°á°­µµÀÇ º¯È­°¡ µÚ¿¡ Á¦½ÃµÇ´Â ÆÐÅÏ¿¡ ´ëÇÏ¿© º¯È­µÇ´Â ¿¬°á°­µµ¿¡ ¿µÇâÀ» Áֱ⠶§¹®¿¡ º¯È­ÀÇ ÃÑÇÕÀº  ¡ÓEp/¡Ówji ¿Í Á¶±Ý¾¿ Â÷ÀÌ°¡ ÀÖ´Ù. ±×·¯³ª ÀÌ·¯ÇÑ °æ¿ì¿¡µµ ÇнÀ °è¼ö ¬­ ¸¦ ÃæºÐÈ÷ ÀÛ°ÔÇÏ¸é ¹«½ÃÇÒ ¼ö ÀÖ¾î µ¨Å¸±ÔÄ¢Àº ¿ÀÂ÷ÀÇ Á¦°öÀÇ ÃÑÇÕÀ» E¿¡ ´ëÇØ ÃÖ±ÞÇÏ°­¹ý¿¡ ¾ÆÁÖ ±Ù»çÇÏ´Ù. ½ÇÁ¦·Î ¬­ ¸¦ ÀÛ°ÔÇϸé E ¸¦ ÃÖ¼ÒÈ­ÇÏ´Â wji ¸¦ ±¸ÇÒ ¼ö ÀÖ´Ù.

(2) ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢

Àº´Ð unit °¡ ¾ø´Â °æ¿ì´Â ¿ÀÂ÷ÀÇ Á¦°ö¿¡ ´ëÇÑ °î¸éÀÌ ÇϳªÀÇ ÃÖ¼ÒÁ¡À» °®´Â Æ÷¹°¼±ÀÇ ¸ð¾çÀ» ÇÏ°í ÀÖÀ¸¹Ç·Î ÃÖ±ÞÇÏ°­¹ý¿¡ ÀÇÇØ ¿ÀÂ÷ÀÇ Á¦°öÀ» ÃÖ¼Ò·Î ÇÏ´Â °ªÀ» ¾òÀ» ¼ö ÀÕ´Ù. ±×·¯³ª ÀϹÝÀûÀ¸·Î Àº´Ð unit °¡ ÀÖ´Â °æ¿ì´Â EÀÇ ¹ÌºÐÀ» ±¸ÇÏ´Â °ÍÀÌ ±×¸® ½±Áö ¾ÊÀ» »Ó ¾Æ´Ï¶ó ¿ÀÂ÷ÀÇ Á¦°öÀÇ °î¸éµµ ÀϹÝÀûÀ¸·Î °£´ÜÇÏÁö ¾Ê¾Æ ÃÖ±ÞÇÏ°­¹ýÀÌ ¿ÀÂ÷ÀÇ Á¦°ö¿¡ Áö¿ª ÃÖ¼Ò°ªÀ» ³ªÅ¸³»´Â ¿¬°á°­µµ¿¡ ¼ö·ÅÇÒ °¡´É¼ºÀÌ ÀÖ´Ù. µû¶ó¼­ µ¨Å¸ ±ÔÄ¢À» ÀϹÝÈ­ÇÏ¿©¾ß ÇÑ´Ù.

¸ÕÀú Áؼ±ÇüÀ̶ó ºÎ¸£´Â ÀÓÀÇÀÇ ºñ¼±Çü ÀÔÃâ·Â ÇÔ¼ö¸¦ °®´Â unit ¸¦ ÀÌ¿ëÇÑ´Ù. Áؼ±Çü (semilinear) unit ´Â unit ÀÇ Ãâ·ÂÀÌ ±× unitÀÇ ÀÔ·ÂÀÇ Á¾ÇÕ (½Ä 10) ¿¡ ´ëÇÑ ºñ°¨¼ÒÀÌ¸ç ¹ÌºÐ °¡´ÉÇÑ ÇÔ¼öÀÌ´Ù. Áï Áؼ±ÇüÀÇ unit Ãâ·ÂÀº (½Ä 11) °ú °°´Ù.

                                                             (½Ä 10)

                                                                 (½Ä 11)

¿©±â¼­ fi ´Â ºñ°¨¼ÒÀÌ¸ç ¹ÌºÐ °¡´ÉÇÑ ÇÔ¼öÀÌ´Ù.

ÀÌÇÏ¿¡¼­´Â ³×Æ®¿öÅ©°¡ ÀÌ·¯ÇÑ Áؼ±ÇüÀÇ ÀÔÃâ·ÂÇÔ¼ö¸¦ °®´Â unit µé·Î ÀÌ·ç¾îÁø °æ¿ì¿¡ ´ëÇÏ¿© ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢À» Á¤½ÄÈ­ ÇÑ´Ù. perceptron µî¿¡¼­ »ç¿ëÇÑ ¼±ÇüÀÔÃâ·Â ÇÔ¼ö´Â ¹ÌºÐÀÌ ºÒ°¡´ÉÇÏ¿© ÀÌ·¯ÇÑ Á¶°ÇÀ» ¸¸Á·ÇÏÁö ¸øÇÔ¿¡ À¯ÀÇÇØ¾ß ÇÑ´Ù.

µ¨Å¸ ±ÔÄ¢¿¡¼­¿Í °°ÀÌ E ¸¦ ¿ÀÂ÷ÀÇ Á¦°öÀÇ ÃÑÇÕÀ¸·Î ÇÏ°í, ¿¬°á°­µµÀÇ º¯È­·®Àº (½Ä 1) °ú (½Ä 8) ¿¡ ÀÇÇØ (½Ä 12) ¿Í °°ÀÌ µÈ´Ù.

                                                             (½Ä 12)

¿ìº¯ÀÇ ¹ÌºÐÀ» ¿ÀÂ÷ ÀÔ·ÂÀÇ ÃÑÇÕ¿¡ °üÇÑ ¹ÌºÐ°ú ÀÔ·Â ÃÑÇÕÀÇ ¿¬°á°­µµ¿¡ °üÇÑ ¹ÌºÐÀ¸·Î ³ª´©¾î ¹Ù²ã ¾²¸é (½Ä 13) °ú °°´Ù.

                                                   (½Ä 13)

(½Ä 10) À» ÀÌ¿ëÇÏ¿© (½Ä 13) ÀÇ µÎ ¹ø°ÀÇ ¹ÌºÐÀ» °è»êÇϸé (½Ä 14) ¿Í °°´Ù.

                                       (½Ä 14)

¿©±â¼­ ¥äpi ¸¦ (½Ä 15) ·Î Á¤ÀÇÇϸé (½Ä 13) Àº (½Ä 16) À¸·Î ¾µ ¼ö ÀÖ´Ù.

                                                                   (½Ä 15)

                                                                (½Ä 16)

µû¶ó¼­ Ep ¿¡ °üÇÑ ÃÖ±ÞÇÏ°­À» Çϱâ À§Çؼ­´Â Åë»óÀÇ µ¨Å¸ ±ÔÄ¢°ú °°ÀÌ (½Ä 17) À» ÀÌ¿ëÇÏ¿© ¿¬°á°­µµ¸¦ º¯È­½ÃÅ°¸é µÈ´Ù.

                                                               (½Ä 17)

±×·¯³ª ¹®Á¦´Â °¢°¢ÀÇ unit¿¡ ´ëÇÏ¿© ¥äpj ¸¦ ¾î¶»°Ô Á¤ÇÒ °ÍÀΰ¡ ÇÏ´Â °ÍÀÌ´Ù. ÀÌÇÏ¿¡¼­ ¥äpj ¸¦ Àç±ÍÀûÀ¸·Î °£´ÜÈ÷ ±¸ÇÏ´Â ¹æ¹ýÀ» »ìÆ캻´Ù.

(½Ä 15) ¸¦ ÇÕ¼ºÇÔ¼öÀÇ ¹ÌºÐ°ø½ÄÀ» ÀÌ¿ëÇÏ¿© ¿ÀÂ÷ÀÇ Ãâ·Â¿¡ °üÇÑ ¹ÌºÐ°ú Ãâ·ÂÀÇ ÀÔ·Â ÃÑÇÕ¿¡ °üÇÑ ¹ÌºÐÀ¸·Î ³ª´©¾î ¹Ù²ã ¾²¸é (½Ä 18) °ú °°´Ù.

                                       (½Ä 18)

(½Ä 11) À» ÀÌ¿ëÇÏ¿© (½Ä 18) ÀÇ µÎ ¹ø°ÀÇ ¹ÌºÐÀ» °è»êÇϸé (½Ä 19) ¿Í °°´Ù.

                                                          (½Ä 19)

ù ¹ø°ÀÇ ¹ÌºÐ°è»êÀº °æ¿ì¿¡ µû¶ó ´Ù¸£´Ù. ¸ÕÀú unit uj °¡ Ãâ·ÂÃþÀÇ unit ÀÎ °æ¿ì´Â Ep ÀÇ Á¤ÀǷκÎÅÍ Åë»óÀÇ µ¨Å¸ ±ÔÄ¢ÀÇ °æ¿ì¿Í °°ÀÌ (½Ä 20) À¸·Î °è»êÇÏ¸é µÈ´Ù.

                                                         (½Ä 20)

µû¶ó¼­ (½Ä 18) ¿¡ ´ëÀÔÇÏ¿© ¾òÀº Ãâ·ÂÃþÀÇ unit ¿¡ °üÇÑ ¥äpj ´Â (½Ä 21) °ú °°´Ù.

                                                  (½Ä 21)

´ÙÀ½¿¡ unit uj °¡ Ãâ·ÂÃþÀÇ unit °¡ ¾Æ´Ñ °æ¿ì¿¡´Â ÇÕ¼ºÇÔ¼öÀÇ ¹ÌºÐ°ø½ÄÀ» »ç¿ëÇÏ¿© (½Ä 22) ¿Í °°ÀÌ ¾òÀ» ¼ö ÀÖ´Ù.

                                                       (½Ä 22)

                                                      

                                               

 

µû¶ó¼­ ÀÌ °æ¿ì ¥äpj ´Â (½Ä 18) °ú (½Ä 22) ¿¡ ÀÇÇØ (½Ä 23) °ú °°ÀÌ µÈ´Ù.

 

                                                (½Ä 23)

¿©±â¼­ k ´Â unit uj ÀÇ Ãâ·ÂÀ» ¹Þ´Â unit Àüü¸¦ ³ªÅ¸³½´Ù. (½Ä 21) °ú (½Ä 23) À» ÀÌ¿ëÇÏ¸é ¸ðµç unit uj ¿¡ ´ëÇÑ ¥äpj ¸¦ Àç±ÍÀûÀ¸·Î °è»êÇÒ ¼ö ÀÖ´Ù. ¶ÇÇÑ (½Ä 17) À» ÀÌ¿ëÇϸé Àüü unit¿¡ ´ëÇÏ¿© ¿¬°á°­µµÀÇ º¯È­·®À» ±¸ÇÒ ¼ö ÀÖ´Ù.

À§¿¡¼­ À¯µµÇÑ °á°ú´Â 3 °³ÀÇ ½ÄÀ¸·Î Á¤¸®ÇÒ ¼ö ÀÖ´Ù. ù ¹ø°, ÀϹÝÈ­ µ¨Å¸±ÔÄ¢Àº ¿ø·¡ÀÇ µ¨Å¸ ±ÔÄ¢°ú µ¿ÀÏÇÑ ½ÄÀÌ´Ù. Áï, ¿¬°á°­µµÀÇ º¯È­ ¡âpwji ´Â ±× ¿¬°áÀÇ Á¾Á¡ unit ¿¡ °üÇÑ ¿ÀÂ÷½ÅÈ£ ¥äpj ¿Í ±× ¿¬°áÀÇ ½ÃÁ¡ unit ÀÇ Ãâ·Â opi ÀÇ °ö¿¡ ºñ·ÊÇÑ´Ù.

                                                          (½Ä 24)

µÎ ¹ø°, ¿ÀÂ÷¸¦ °áÁ¤ÇÏ´Â ½ÄÀÌ´Ù. ¿ÀÂ÷½ÅÈ£ÀÇ °è»êÀº Ãâ·Â unit ¿¡ ´ëÇÑ ¿ÀÂ÷¸¦ ÃʱⰪÀ¸·Î ÇÏ¿© Àç±ÍÀûÀ¸·Î ¼öÇàµÈ´Ù. ¸ÕÀú Ãâ·Â unit ¿¡ ´ëÇÑ ¿ÀÂ÷ ½ÅÈ£´Â µ¨Å¸ ±ÔÄ¢°ú °ÅÀÇ °°À¸¸ç, ³×Æ®¿öÅ© Ãâ·Â°ú ¸ñÇ¥Ãâ·ÂÀÇ Â÷À̷κÎÅÍ (½Ä 25) °¡ ±¸ÇØÁø´Ù.

                                                   (½Ä 25)

¿©±â¼­ fj'(netpj) ´Â Áؼ±Çü ÀÔÃâ·Â ÇÔ¼öÀÇ ¹ÌºÐ°è¼öÀÌ´Ù.

¼¼ ¹ø°, Àº´Ð unit ¿¡ °üÇÑ ¿ÀÂ÷½ÅÈ£´Â unit °¡ Ãâ·ÂÀ» º¸³»´Â unit uk ÀÇ ¿ÀÂ÷½ÅÈ£ ¥äpk ¿Í ±× »çÀÌÀÇ ¿¬°á°­µµ wkj ¸¦ ÀÌ¿ëÇÏ¿© (½Ä 26) À¸·Î ±¸ÇØÁø´Ù.

                                                (½Ä 26)

ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢¿¡ ÀÇÇÑ ÇнÀÀº µÎ °³ÀÇ ¼ø¼­¿¡ ÀÇÇØ ÀÌ·ç¾îÁø´Ù°í º¼ ¼ö ÀÖ´Ù. ù°, ÀÔ·ÂÀ» ³×Æ®¿öÅ©¿¡ Á¦½ÃÇϸé ÀÌ°ÍÀÌ ³×Æ®¿öÅ©ÀÇ Àü¹æÇâÀ¸·Î ÀüÆĵǾî Ãâ·ÂÀ» ³½´Ù .ÀÌ Ãâ·Â°ú ¸ñÇ¥Ãâ·Â°úÀÇ Â÷ÀÌ¿¡ ¹ÌºÐ°è¼ö¸¦ °öÇÏ¿© Ãâ·Â unit ¿¡ ´ëÇÑ ¿ÀÂ÷¸¦ °è»êÇÑ´Ù. µÑ°, ¿ÀÂ÷½ÅÈ£°¡ ³×Æ®¿öÅ©ÀÇ ¿ª¹æÇâÀ¸·Î ÀüÆÄµÇ¾î °¡¸é¼­ À§ÀÇ ½Ä°ú °°ÀÌ °¢°¢ÀÇ unit ÀÇ ¿ÀÂ÷ ½ÅÈ£°¡ °è»êµÇ¾î, ÀÌ°ÍÀ» ¹ÙÅÁÀ¸·Î ¿¬°á°­µµ¸¦ ¼öÁ¤ÇÑ´Ù.

ÀϹÝÀûÀ¸·Î ¸¹ÀÌ »ç¿ëµÇ´Â ¿¬°á°­µµÀÇ º¯È­ ¡âwji ¿¡ ´ëÇÑ ¼ö½ÄÀº (½Ä 27) °ú °°´Ù.

                                      (½Ä 27)

¿©±â¼­ n Àº ÇнÀÀÇ È½¼ö, ¥á ´Â »ó¼öÀÌ¸ç ¥á*¡âpwji(n) Àº ¿ÀÂ÷Áøµ¿À» Àû°ÔÇÏ¿© ¼ö·Å¼Óµµ¸¦ »¡¸®Çϱâ À§ÇÏ¿© ÷°¡ÇÑ ¸ð¸àÅÒÇ× (momentum term) ÀÌ´Ù.

¿¬°á°­µµÀÇ º¯°æ¹æ¹ýÀº ÆÐÅÏÀ» Á¦½ÃÇÒ ¶§¸¶´Ù ¿¬°á°­µµ¸¦ º¯°æÇÏ´Â ¹æ¹ý°ú ÇнÀÆÐÅÏÀ» ÀüºÎ Á¦½ÃÇÑ ÈÄ ÇѲ¨¹ø¿¡ º¯°æÇÏ´Â ÀÏ°ý ¿¬°á°­µµ º¯°æ ¹æ¹ýÀÌ ÀÖ´Ù.

Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀº ±â¿ï±â¸¦ µû¶ó°¡´Â (gradient descent) ¹æ¹ýÀÇ ÇϳªÀε¥ ÀÌ ¾Ë°í¸®ÁòÀÇ ´ÜÁ¡ÁßÀÇ Çϳª´Â Áö¿ª ÃÖ¼Ò°ª (local minima) ¿¡ ºüÁú ¿°·Á°¡ ÀÖ´Ù´Â °ÍÀÌ´Ù. À̸¦ °³¼±Çϱâ À§ÇÏ¿© Àº´Ð unit ¼ö¸¦ Áõ°¡½ÃÅ°°Å³ª, ¸ð¸àÅÒÇ× ¥á ÀÇ À̵æ (gain) Ç× ¬­ ¸¦ Á¶ÀýÇØ ³ª°¡´Â ¹æ½ÄÀ» »ç¿ëÇϰųª ¶Ç´Â ¿¬°á°­µµÀÇ ÃʱⰪÀ» ¿©·¯ °¡ÁöÀÇ ÀÓÀÇ (random) ¼ö¸¦ ÁÖ¾î ÇнÀ½ÃÅ´À¸·Î½á ÁÁÀº °á°ú¸¦ ÅÃÇÏ´Â ¹æ¹ýµµ ÀÖÀ¸³ª ȹ±âÀûÀÎ ¹æ¾ÈÀº ¾ÆÁ÷ °í¾ÈµÇ¾î ÀÖÁö ¾Ê´Ù.

ÀÌ·¯ÇÑ ´ÜÁ¡¿Ü¿¡µµ Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀº ÇнÀ °úÁ¤ÀÌ ¼ö·ÅµÇ±â±îÁö ¾ÆÁÖ ¸¹Àº ¾çÀÇ ÇнÀ µ¥ÀÌÅ͸¦ ÇÊ¿ä·Î ÇѴٰųª ±â¾ïµÈ ÆÐÅÏÀÇ ¼öÁ¤, Ãß°¡ÇнÀ µîÀÌ ºÒ°¡´ÉÇÏ´Ù´Â µîÀÇ ´ÜÁ¡À» °¡Áö°í ÀÖ´Ù. ±×·³¿¡µµ ºÒ±¸ÇÏ°í multi layer perceptron Àº ±¸ÇöÀÌ ½±°í ÇнÀÀÌ ¾î´À Á¤µµ °¡´ÉÇÏ´Ù´Â ÀÌÀ¯·Î Çؼ­ ÇöÀç °¡Àå ¸¹ÀÌ »ç¿ëµÇ°í ÀÖ´Ù.

(3) ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀÇ ÇнÀ °úÁ¤

¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀÇ ÇнÀ °úÁ¤Àº ´ÙÀ½°ú °°´Ù.

¡á ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®Áò ÇнÀ °úÁ¤ ¡á

[1 ´Ü°è]     ³×Æ®¿öÅ©ÀÇ »óŸ¦ °áÁ¤ÇÏ´Â ¿¬°á°­µµ wji, wkj ¿Í ¿ÀÇÁ¼Â (offsets) ¸¦ °¢°¢ ¾ÆÁÖ ÀÛÀº °ªÀÇ ÀÓÀǼö·Î ÃʱâÈ­ÇÑ´Ù. ÀϹÝÀûÀ¸·Î -0.5 ~ 0.5 »çÀÌÀÇ °ªÀ» »ç¿ëÇÑ´Ù.

[2 ´Ü°è]     ÇнÀ ÆÐÅÏÀ» ¼³Á¤ÇÑ´Ù.

[3 ´Ü°è]     ÇнÀ ÆÐÅÏÀÇ °ªÀ» ÀÔ·ÂÃþ À¯´ÏÆ®¿¡ Á¦½ÃÇÏ¿© Ãâ·ÂµÇ´Â °ª opi, ÀÔ·ÂÃþ°ú Áß°£Ãþ »çÀÌÀÇ ¿¬°á°­µµ wji ¿Í Áß°£Ãþ À¯´ÏÆ® j ÀÇ ¿ÀÇÁ¼Â ¸¦ ÀÌ¿ëÇÏ¿© Áß°£Ãþ À¯´ÏÆ® j ÀÇ ÀÔ·Â netpj ¸¦ ±¸ÇÑ´Ù. ´ÙÀ½À¸·Î netpj ¿Í ½Ã±×¸ðÀ̵å ÇÔ¼ö f ¸¦ ÀÌ¿ëÇÏ¿© Áß°£Ãþ À¯´ÏÆ® j ÀÇ Ãâ·Â opj ¸¦ ±¸ÇÑ´Ù.

 

                 

[4 ´Ü°è]     Áß°£Ãþ À¯´ÏÆ®ÀÇ Ãâ·Â opj, Áß°£Ãþ°ú Ãâ·ÂÃþ »çÀÌÀÇ ¿¬°á °­µµ wpk ¿Í Ãâ·ÂÃþ À¯´ÏÆ® k ÀÇ ¿ÀÇÁ¼Â ¸¦ ÀÌ¿ëÇÏ¿© Ãâ·ÂÃþ À¯´ÏÆ® k ÀÇ ÀÔ·Â netpk ¸¦ ±¸ÇÑ´Ù. ´ÙÀ½ netpk ¿Í ½Ã±×¸ðÀ̵å ÇÔ¼ö f ¸¦ ÀÌ¿ëÇÏ¿© Ãâ·ÂÃþ À¯´ÏÆ® k ÀÇ Ãâ·Â opk ¸¦ ±¸ÇÑ´Ù.

 

                 

[5 ´Ü°è]     ÇнÀÆÐÅÏÀÇ ¸ñÇ¥Ãâ·Â tpk ¿Í ½ÇÁ¦ Ãâ·Â opk ¿ÍÀÇ Â÷·ÎºÎÅÍ Ãâ·ÂÃþ À¯´ÏÆ® k ¿¡ ¿¬°áµÈ ¿¬°á°­µµ¿Í Ãâ·ÂÃþ À¯´ÏÆ® k ÀÇ ¿ÀÇÁ¼Â¿¡ ´ëÇÑ ¿ÀÂ÷ ¥äpk ¸¦ ±¸ÇÑ´Ù.

                 

[6 ´Ü°è]     ¿ÀÂ÷ ¥äpk ¿Í Áß°£Ãþ°ú Ãâ·ÂÃþ°£ÀÇ ¿¬°á°­µµ wkj ¿Í Áß°£ÃþÀÇ Ãâ·Â netpj ·ÎºÎÅÍ Áß°£Ãþ À¯´ÏÆ® j ¿¡ ¿¬°áµÈ ¿¬°á°­µµ¿Í Áß°£Ãþ À¯´ÏÆ®ÀÇ ¿ÀÇÁ¼Â¿¡ ´ëÇÑ ¿ÀÂ÷ ¥äpj ¸¦ ±¸ÇÑ´Ù.

                 

[7 ´Ü°è]     5 ´Ü°è¿¡¼­ ±¸ÇÑ Ãâ·ÂÃþ À¯´ÏÆ® k ¿¡¼­ÀÇ ¿ÀÂ÷ ¥äpk, Áß°£Ãþ À¯´ÏÆ® j ÀÇ Ãâ·Â opj, Á¤¼ö ¥á ¿ÍÀÇ °öÀ» ´õÇÏ¿© Áß°£Ãþ À¯´ÏÆ® j ¿Í Ãâ·ÂÃþ À¯´ÏÆ® k ¿¡ ¿¬°áµÈ ¿¬°á°­µµ wkj ¸¦ ¼öÁ¤ÇÑ´Ù. ¶Ç ¿ÀÂ÷ ¥äpk ¿Í Á¤¼ö ¥â ¿ÍÀÇ °öÀ» ´õÇÏ¿© Ãâ·ÂÃþ À¯´ÏÆ® k ÀÇ ¿ÀÇÁ¼Â ¸¦ ¼öÁ¤ÇÑ´Ù.

                 

                 

[8 ´Ü°è]     Áß°£Ãþ À¯´ÏÆ® j ÀÇ ¿ÀÂ÷ ¥äpj, ÀÔ·ÂÃþ À¯´ÏÆ® i ÀÇ Ãâ·Â opi, Á¤¼ö ¥á ¿ÍÀÇ °öÀ» ´õÇÏ¿© ÀÔ·ÂÃþ À¯´ÏÆ®¿Í Áß°£Ãþ À¯´ÏÆ® j ¿¡ ¿¬°áµÈ ¿¬°á°­µµ wji ¸¦ ¼öÁ¤ÇÑ´Ù. ¶Ç ¿ÀÂ÷ ¥äpj ¿Í Á¤¼ö¥â ¿ÍÀÇ °öÀ» ´õÇÏ¿© Áß°£Ãþ À¯´ÏÆ® j ÀÇ ¿ÀÇÁ¼Â ¸¦ ¼öÁ¤ÇÑ´Ù.

                 

                 

[9 ´Ü°è]      ´ÙÀ½ ÆÐÅÏÀ» ÇнÀ½ÃŲ´Ù.

[10 ´Ü°è]    ¸ðµç ÇнÀÆÐÅÏ¿¡ ´ëÇÏ¿© ÀüºÎ ÇнÀÇÒ ¶§±îÁö 2 ´Ü°è·Î µÇµ¹¾Æ°£´Ù.

[11 ´Ü°è]    ÇнÀÀÇ ¹Ýº¹ ȹ¼ö¸¦ ¼¾´Ù.

[12 ´Ü°è]    ÇнÀÀÇ ¹Ýº¹ ȹ¼ö°¡ Á¦ÇÑ È½¼öº¸´Ù ÀÛÀ¸¸é 2 ´Ü°è·Î µÇµ¹¾Æ°£´Ù.

[13 ´Ü°è]    Á¾·á

 

<±×¸² 3>  ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀÇ ÇнÀ°úÁ¤

1 ´Ü°èºÎÅÍ 13 ´Ü°è±îÁöÀÇ Ã³¸®¸¦ È帧µµ (flow chart) ·Î ³ªÅ¸³»¸é <±×¸² 3> °ú °°´Ù. Áö±Ý±îÁöÀÇ ¼³¸íÀ¸·ÎºÎÅÍ ¾Ë ¼ö ÀÖµíÀÌ 3 ´Ü°èºÎÅÍ 4 ´Ü°è±îÁö´Â ÀÔ·ÂÃþÀ¸·ÎºÎÅÍ Áß°£ÃþÀ» °ÅÃÄ Ãâ·ÂÃþ¿¡ÀÇ Àü¹æÇâ (forward) ó¸®ÀÌ°í, 5 ´Ü°è¿Í 6 ´Ü°è´Â ¿ÀÂ÷¸¦ ±¸ÇÏ´Â °úÁ¤À̸ç, 7 ´Ü°èºÎÅÍ 8 ´Ü°è±îÁö´Â Ãâ·ÂÃþÀ¸·ÎºÎÅÍ Áß°£Ãþ, ÀÔ·ÂÃþ¿¡ÀÇ ¿ª¹æÇâ (backward) ó¸®ÀÌ´Ù.

5. Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÇ ¹®Á¦Á¡ ¹× °³¼±Ã¥
   [AMA87, Á¶90, NAG90]

Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀº ´ÙÃþÀÇ ±¸Á¶¸¦ °®´Â º¹ÀâÇÑ ½Å°æ¸Á ÇнÀ ¾Ë°í¸®ÁòÀ¸·Î ÃÖ±ÞÇÏ°­¹ýÀ» ±âº»À¸·Î ÇÑ ¸Å¿ì À¯¿ëÇÑ ÆÐÅÏÀÎ½Ä ÇعýÀÌ´Ù. ±×·¯³ª ÀÌ ¹æ¹ýÀÌ °¡Áö°í ÀÖ´Â ¸î°¡Áö ¹®Á¦Á¡ÀÌ ÀÖ´Ù.

ù ¹ø° ¹®Á¦Á¡À¸·Î´Â Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÌ Áö¿ª ÃÖ¼ÒÁ¡¿¡ ºüÁú °¡´É¼ºÀÌ ÀÖ´Ù´Â Á¡ÀÌ´Ù. ¿ÀÂ÷ÇÔ¼ö´Â ¿¬°á°­µµ°¡ ¸¸µç ´ÙÂ÷¿ø °ø°£¿¡¼­ ºñ±³Àû °£´ÜÇÑ ¸ð¾çÀ» ÇÏ°í ÀÖ´Â °Í °°Àº Âø°¢À» Çϱ⠽¬¿ì³ª ¹Ýµå½Ã ±×·± °Í¸¸Àº ¾Æ´Ï´Ù. ¿¹¸¦ µé¸é <±×¸² 4> ¿Í °°ÀÌ ´º·±ÀÌ Àº´ÐÃþÀÇ 3 °³ ´º·±°ú Á¢¼ÓÇÏ°í ÀÖ°í ÀÌ ´º·±ÀÇ Ãâ·Â°ªÀÌ Ä¿Áü¿¡ µû¶ó Àº´ÐÃþÀÇ Ã¹ ¹ø° ´º·±ÀÌ ÈïºÐÇϱ⠽ÃÀÛÇÏ°í, µÎ ¹ø° ´º·±ÀÌ ÈïºÐÀ» ¾ïÁ¦Çϱ⠽ÃÀÛÇϸç, ¼¼ ¹ø° ´º·±ÀÌ ÈïºÐÇϱ⠽ÃÀÛÇÑ´Ù°í ÇÏÀÚ. ÀÌ ¼¼ °³ÀÇ ´º·±ÀÌ Ãâ·ÂÃþÀÇ ÇÑ °³ ´º·±¿¡ ¿¬°áµÇ¾î ÀÖ´Ù°í ÇÏ¸é ±× Ãâ·ÂÃþÀÇ ´º·±Àº ù ¹ø° ´º·±ÀÇ Ãâ·Â¿¡ ´ëÇؼ­ ¿Ã¶ó°¬´Ù ³»·Á°¬´Ù ÇÏ¸ç º¹ÀâÇÑ º¯È­¸¦ ÇÑ´Ù. ¿©±â¼­ ù ¹ø° ´º·±¿¡ µé¾î¿À´Â ¿¬°á°­µµ¸¦ º¯È­½ÃÅ°¸é ÃÖÁ¾Ãâ·ÂÀº ¸Å¿ì º¹ÀâÇÑ º¯È­¸¦ ÇÒ °ÍÀÌ ¿¹»óµÈ´Ù. ÀÌ¿Í°°ÀÌ ¿ÀÂ÷ÇÔ¼öÀÇ ¸ð¾çÀÌ ¸Å¿ì º¹ÀâÇØÁú °ÍÀ» °í·ÁÇϸé, °æ¿ì¿¡ µû¶ó ¿ÀÂ÷ 0ÀÇ ÇÑ °³ÀÇ °ñÂ¥±â ÀÌ¿Ü¿¡ ¸î °³ÀÇ °ñÂ¥±â°¡ ÀÖÀ» °¡´É¼ºÀÌ ÀÖ´Ù. ÀÌ »óŸ¦ <±×¸² 5> ¿¡ ³ªÅ¸³»¾ú´Ù. ÃÖ±ÞÇÏ°­¹ýÀº ¹Ýµå½Ã °¡Àå ³·Àº °ñÂ¥±â¸¦ ¸ñÇ¥·Î ÇÏ´Â ¹æ¹ýÀÌ ¾Æ´Ï¶ó Áö±Ý ÀÖ´Â Á¡¿¡¼­ º¸¾Æ °¡Àå ±Þ°æ»ç¸éÀ» µû¶ó ³»·Á°¡´Â °ÍÀ̹ǷΠ¿ÀÂ÷°¡ 0 ÀÌ ¾Æ´Ñ Áö¿ª ÃÖ¼ÒÁ¡¿¡ ¸Ó¹«¸¦ °¡´É¼ºÀÌ ³ô´Ù. ÀÌ¿Í°°Àº Àü¿ªÀû ÃÖ¼ÒÁ¡ÀÌ ¾Æ´Ñ Áö¿ª ÃÖ¼ÒÁ¡¿¡¼­´Â ¿¬°á°­µµ¿¡ ´ëÇÑ ¿ÀÂ÷ÇÔ¼öÀÇ ¹ÌºÐ°è¼ö°¡ 0 À̹ǷΠ±× °÷¿¡¼­ Å»ÃâÇÒ ¼ö ¾ø°ÔµÇ°í ¿ÀÂ÷¸¸ ³²°ÔµÈ´Ù. Áï ¿øÇÏ´Â ÆÐÅÏÀ» Ãâ·ÂÇÏÁö ¸øÇÏ´Â »óÅ¿¡¼­ ³×Æ®¿öÅ©°¡ ¾ÈÁ¤µÇ¾î ¹ö¸°´Ù.

<±×¸² 4> ¿¬°á°­µµÀÇ º¯È­¿¡ µû¸¥ º¹ÀâÇÑ Ãâ·ÂÀÇ ¿¹

<±×¸² 5> ¿¬°á°­µµ¿Í ¿ÀÂ÷ÇÔ¼ö

µÎ ¹ø° ¹®Á¦Á¡Àº Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀÌ Æ÷È­¿µ¿ª¿¡¼­ Àß µ¿ÀÛÇÏÁö ¾Ê´Â´Ù´Â Á¡ÀÌ´Ù. (½Ä 25), (½Ä 26) ·ÎºÎÅÍ ´º·±ÀÇ Æ÷È­¿µ¿ª¿¡¼­´Â f' °¡ 0 ÀÌ µÇ¹Ç·Î ¿¬°á°­µµ´Â º¯È­ÇÏÁö ¾Ê´Â´Ù. ½Ã¹Ä·¹ÀÌ¼Ç Ãʱ⿡´Â ¿¬°á°­µµÀÇ °ªÀº ´ë°³ 0 ºÎ±ÙÀÇ °ªÀ¸·Î ÃʱâÈ­µÇÁö¸¸ ½Ã¹Ä·¹À̼ÇÀÌ ÁøÇàµÊ¿¡ µû¶ó ¿¬°á°­µµ´Â Á¡Á¡ Ä¿Á® Æ÷È­Çü ÇÔ¼ö f ÀÇ ÀÔ·Â ·¹º§µµ Å©°Ô º¯È­µÇ¾î »ç½Ç»ó °è´Ü ÇÔ¼ö·Î µ¿ÀÛÇϰԵȴÙ. Áï ´ëºÎºÐÀÇ ´º·±ÀÌ f' °¡ °ÅÀÇ 0ÀÎ Æ÷È­¿µ¿ª¿¡¼­ µ¿ÀÛÇÏ°Ô µÈ´Ù. ÀÌ·¯ÇÑ »óȲ¿¡¼­ ³×Æ®¿öÅ©ÀÇ È¯°æÀÌ º¯ÇÑ´Ù¸é ³×Æ®¿öÅ©´Â ÀÌÀüÀÇ °Í°ú´Â ´Ù¸¥ Ãâ·ÂÀ» ¿äû¹Þ°Ô µÈ´Ù. ±×·¯³ª f' °¡ °ÅÀÇ 0 À̹ǷΠ¿¬°á°­µµ´Â °ÅÀÇ º¯ÇÒ ¼ö ¾ø´Ù. ¹°·Ð ÀÌ·± °æ¿ì¿¡´Â ¿¬°á°­µµ ÀüºÎ¸¦ ¾î¶² °è¼ö·Î Ãà¼ÒÇÑ´ÙµçÁö Æ÷È­ÇÔ¼ö¸¦ õõÈ÷ º¯È­½ÃŲ´ÙµçÁö µîÀÇ ¿©·¯ °¡Áö ÇØ°á¹æ¹ýµµ ÀÖÁö¸¸ »ý¹°±â°ü°ú À¯»çÇÑ ¹æ¹ýÀº ¾ÆÁ÷ ã¾Æ³»Áö ¸øÇß´Ù.

¼¼ ¹ø° ¹®Á¦Á¡Àº ÀÌ ¹æ¹ýÀÌ ±âº»ÀûÀ¸·Î ½ÅÈ£±â ÀԷ¿¡¼­ Ãâ·Â±îÁö ÇÑ ¹æÇâÀ¸·Î¸¸ Èê·¯°¡´Â Àü¹æÇâ(feedforward) ¹æ½ÄÀ̶ó´Â °ÍÀÌ´Ù. ½ÇÁ¦ »ý¹°ÀÇ ³ú¿¡¼­´Â ³»ºÎ¿¡ ¹«¼öÈ÷ ¸¹Àº ·çÇÁ¸¦ °¡Áö°í ÀÖÀ¸¸ç Çǵå¹é(feedback)À» ±¸¼ºÇÏ°í ÀÖ´Ù. ´õ¿íÀÌ Ãâ·ÂµÈ ½ÅÈ£°¡ ¿ÜºÎ¸¦ °æÀ¯Çؼ­ ÀԷ¿¡ Çǵå¹éÇÏ´Â °æ¿ìµµ ¸¹´Ù. ÀÌ·¯ÇÑ ½Ã½ºÅÛ¿¡¼­´Â ¿ëÀÌÇÏ°Ô ¹ßÁøÀÌ ÀϾ°í, ±× »ý¹°Àº ¹ßÁøÀ» Àß ÀÌ¿ëÇÏ¿© Á¤º¸¸¦ ó¸®ÇÑ´Ù. ±×·¯³ª Backpropagation ÇнÀ ¾Ë°í¸®Áò°ú À̹ۿ¡ ÇöÀç Á¦¾ÈµÇ°í ÀÖ´Â ¸¹Àº ½Å°æ¸Á ÆÐÅÏÀνıâ´Â Àü¹æÇâ ¹æ½ÄÀ» ¿øÄ¢À¸·Î ÇÏ°í ÀÖ¾î ¾ÕÀ¸·Î °íÂ÷¿øÀÇ ½Ã½ºÅÛÀ» ±¸ÇöÇÒ °æ¿ì ¹®Á¦°¡ µÉ °ÍÀ¸·Î ¿¹»óµÈ´Ù.

À̹ۿ¡ Backpropagation ÇнÀ ¾Ë°í¸®ÁòÀ» »ç¿ëÇÒ ¶§ ¹®Á¦°¡ µÇ´Â °ÍÀº ´ÙÀ½°ú °°´Ù.

¨ç, ¨è ¿Í °°Àº ¹®Á¦Á¡µéÀ» ÇØ°áÇϱâ À§ÇÏ¿© Áö±Ý±îÁö Á¦¾ÈµÈ ¹æ¹ýµéÀº ´ÙÀ½°ú °°À¸¸ç ¨é °ú ¨ê ÀÇ ¹®Á¦Á¡Àº ÇÇÇÒ ¼ö ¾ø´Ù.

6. Multi layer perceptronÀÇ Àû¿ë ¿¹

(1) XOR ¹®Á¦

Á¦ 2 Àå¿¡¼­ ¼³¸íÇÑ XOR ¹®Á¦´Â Àº´Ð unit ¸¦ ÇÊ¿ä·Î ÇÏ´Â °íÀüÀûÀÎ ¹®Á¦ÀÌ´Ù. <±×¸² 6> Àº multilayer perceptron À» ÀÌ¿ëÇÏ¿© XOR ¹®Á¦ÀÇ Çظ¦ ±¸ÇÑ °ÍÀÌ´Ù. ÀÌ ¶§´Â 4 °³ÀÇ ÀÔÃâ·Â ÆÐÅÏÀ» 885 ȸ¾¿ Á¦½ÃÇÏ¿© ÇнÀÇÑ ÈÄ¿¡ ¾ò¾îÁø °ÍÀÌ´Ù. ³×Æ®¿öÅ©ÀÇ ÇнÀ°è¼ö ¬­ ´Â 0.5 ·Î ÇÑ´Ù. <±×¸² 6> ¿¡¼­ È­»ìÇ¥ À§ÀÇ ¼ýÀÚ´Â ¿¬°á°­µµ¸¦ ³ªÅ¸³»¸ç ¿ø³»ÀÇ ¼ýÀÚ´Â ¿ÀÇÁ¼Â (offset) ÀÌ´Ù. ÀÌ ÇØ¿¡¼­´Â Àº´Ðunit¿Í Ãâ·Â unit µÎÂÊ ¸ðµÎ ¾ç (+) ÀÇ ¿ÀÇÁ¼ÂÀ» °¡Áö°í ÀÖÀ¸¹Ç·Î ´Ù¸¥ unit ¿¡ ÀÇÇØ ¾ïÁ¦µÇÁö ¾Ê´ÂÇÑ ON ÀÌ µÈ´Ù.

Àº´Ð unit ´Â ÀÔ·Â unit °¡ ¾çÂÊ ¸ðµÎ ON ÀÌ ¾Æ´Ñ °æ¿ì¿¡´Â ON ÀÌ µÈ´Ù. ±×¸®°í Àº´Ðunit°¡ ON ÀÏ °æ¿ì¿¡´Â Ãâ·Â unit ´Â OFF °¡ µÈ´Ù. ÀÔ·Â unit¿¡¼­ Ãâ·Â unit·ÎÀÇ °áÇÕÀº ÀÔ·Â unit °¡ ¾çÂʸðµÎ ON ÀÏ °æ¿ì¿¡¸¸ Ãâ·Â unit °¡ OFF °¡ µÈ´Ù. ³×Æ®¿öÅ©¸¦ ÀÌ¿ëÇÏ¿© ¹®Á¦¸¦ Ç®±â À§Çؼ­´Â ¼ö¹éȸÀÇ ÆÐÅÏÀÇ Á¦½Ã¿Í ¿¬°á°­µµÀÇ ¼öÁ¤ÀÌ ÇÊ¿äÇÏ¿´´Ù. <±×¸² 6> °ú °°ÀÌ ÇϳªÀÇ Àº´Ð unit¸¦ »ç¿ëÇÑ °æ¿ì¿Ü¿¡ <±×¸² 7> °ú °°Àº µÎ °³ÀÇ Àº´Ð unit ¸¦ °¡Áö°í ÀÔ·Â unit ¿¡¼­ Ãâ·Â unit ·ÎÀÇ °áÇÕÀÌ ¾ø´Â ³×Æ®¿öÅ©¿¡ °üÇؼ­µµ ½ÇÇèÀ» Çß´Ù. ½ÇÇè °á°ú ´ÜÁö µÎ ¹ø¸¸ÀÌ ±¹¼ÒÁ¡¿¡ ºüÁ® Á¤È®ÇÑ Çظ¦ ±¸ÇÒ ¼ö ¾ø¾ú°í ³ª¸ÓÁö °æ¿ì¿¡´Â ¸ðµÎ Á¤È®ÇÑ Çظ¦ ±¸Çß´Ù. ±¹¼ÒÁ¡¿¡ ºüÁ³À» ¶§ÀÇ ³×Æ®¿öÅ©ÀÇ ¿¬°á°­µµ¸¦ <±×¸² 7> ¿¡ ³ªÅ¸³ÂÀ¸¸ç Á¡¼±Àº À½ (negative) ÀÇ ¿¬°á°­µµ¸¦ ³ªÅ¸³½´Ù.

ÀÌ ³×Æ®¿öÅ©´Â ÀÔ·ÂÀÌ 00 °ú 10 ÀÇ °æ¿ì¿¡ ´ëÇؼ­´Â Á¤È®ÇÑ °ªÀ» Ãâ·ÂÇÏÁö¸¸ 11 °ú 01 ¿¡ ´ëÇؼ­´Â Ãâ·Â unit ÀÇ ÃÑÇÕÀº 0 ÀÌ µÇ¾î Ãâ·Â°ªÀº 0.5 °¡ µÈ´Ù. ÀÌ ³×Æ®¿öÅ©ÀÇ »óÅ´ ÇнÀ°è¼ö¸¦ 0.25. °¢°¢ÀÇ ÆÐÅÏÀ» 6,587 ȸ¾¿ Á¦½ÃÇÑ ÈÄ¿¡ ¾ò¾îÁ³´Ù. ´Ù¸¥ ¹®Á¦¿¡¼­´Â ´õ ¸¹Àº Á¦½Ã°¡ ÇÊ¿äÇÏ°ÚÁö¸¸ ÀÌ ¹®Á¦ÀÇ °æ¿ì¿¡´Â ´õ ÀÌ»ó Á¦½Ã¸¦ ¹Ýº¹Çصµ ¿¬°á°­µµÀÇ Å©±â°¡ Áõ°¡ÇÒ »Ó ¼º´ÉÀÇ Çâ»óÀº ¾ø¾ú´Ù. ÀÌ¿Í°°Àº ±¹¼ÒÁ¡¿¡ ºüÁö´Â ºóµµ¸¦ ¿¹»óÇÏ´Â °ÍÀº ¾î·Á¿ì³ª ¸î °¡Áö ¹®Á¦¸¦ ÇØ°áÇÑ °æÇè¿¡ ÀÇÇϸé ÀÌ·¯ÇÑ °ÍÀº ¸Å¿ì µå¹® Çö»óÀ̶ó°í º¼ ¼ö ÀÖ´Ù. Âü°í·Î ÀÌ·¯ÇÑ ÀÏÀÌ ÀϾ °ÍÀº ¼ö¹é Á¾·ùÀÇ ¹®Á¦¿¡ ´ëÇÑ ¸¹Àº ½ÇÇèÀ» ÅëÇؼ­ ´Ü µÎ ¹øÀÇ °æ¿ì¿¡¸¸ ÀϾÀ» »ÓÀÌ´Ù.

XOR ÀÇ ¹®Á¦´Â ³×Æ®¿öÅ© ÇнÀ¿¡ °üÇÏ¿© ¿©·¯ °¡Áö Ư¼ºÀ» Á¶»çÇϱâ À§ÇÑ Å×½ºÆ® ÄÉÀ̽º·Î¼­ ¸Å¿ì À¯¿ëÇÏ´Ù. ¿¹¸¦ µé¸é ÀÌºê ¼îºó (Yves Chauvin) Àº <±×¸² 6> ŸÀÔÀÇ ³×Æ®¿öÅ©¸¦ »ç¿ëÇؼ­ Àº´Ð unit ÀÇ ¼ö ¹× ÇнÀ°è¼öÀÇ º¯È­°¡ ÇнÀÀÇ ¼Óµµ¿¡ ÁÖ´Â ¿µÇâÀ» Á¶»çÇß´Ù. °¢°¢ÀÇ ÀÔ·ÂÆÐÅÏ¿¡ ´ëÇؼ­ Ãâ·ÂÀÇ ¿ÀÂ÷°¡ 0.01 ÀÌ µÉ ¶§±îÁö 245 ȸ, 32 °³ÀÇ Àº´Ð unit ¸¦ »ç¿ëÇÑ °æ¿ì¿¡´Â 120 ȸÀÌ´Ù. ±×ÀÇ ½ÇÇè °á°ú¸¦ Á¤¸®Çϸé ÇнÀ½Ã¿¡ Á¦½ÃµÉ ÆÐÅÏÀÇ È½¼ö P ´Â P = 280 - 33logH ¿Í °°ÀÌ µÈ´Ù. ¿©±â¼­ H ´Â Àº´Ð unit ÀÇ °¹¼öÀÌ´Ù. ±×·¯¹Ç·Î XOR ¸¦ Ç®±â À§ÇØ ÇÊ¿äÇÑ ÆÐÅÏÀÇ Á¦½Ã Ƚ¼ö´Â Àº´Ð unit ÀÇ °³¼ö H ÀÇ ·Î±× (logarithm) ¿¡ ºñ·ÊÇؼ­ °¨¼ÒÇÑ´Ù°í ÇÒ ¼ö ÀÖ´Ù. ÀÌ °ü°è´Â H = 40 Á¤µµ±îÁöÀÇ ¹üÀ§¿¡¼­ ¼º¸³µÇ°í ÀÖ´Ù. ÀÌ·¯ÇÑ Àº´Ð unit ÀÇ °¹¼ö¿Í ÆÐÅÏ Á¦½Ã Ƚ¼ö¿ÍÀÇ °ü°è´Â °ÅÀÇ ¸ðµç ¹®Á¦¿¡ ´ëÇÏ¿© ÀϹÝÀûÀ¸·Î ¼º¸³Çß´Ù. ¼îºóÀº ¶ÇÇÑ Àº´Ð unit ÀÇ ¼ö¸¦ 8 °³·Î °íÁ¤ÇÏ°í, ÇнÀ°è¼ö¸¦ º¯È­½ÃÄѼ­ ÇнÀ¼ÓµµÀÇ º¯È­¸¦ Á¶»çÇØ ÇнÀ°è¼ö°¡ 0.1 ÀÏ ¶§ÀÇ Æò±Õ 450 ȸºÎÅÍ ÇнÀ°è¼ö°¡ 0.75 ÀÏ ¶§ÀÇ Æò±Õ 68 ȸ±îÁöÀÇ °á°ú¸¦ ¾ò¾ú´Ù. ´õ ÀÌ»ó ÇнÀ°è¼ö¸¦ Å©°Ô Çϸé ÇнÀÀÌ ºÒ¾ÈÁ¤ÇÏ°Ô µÇ´Â °Íµµ ½ÇÇè°á°ú ¾Ë¾Æ³Â´Ù. ±×·¯³ª À§ÀÇ ¹üÀ§³»¿¡¼­ ÇнÀ°è¼ö¸¦ Å©°Ô Çϸé ÇÒ¼ö·Ï ÇнÀ¼Óµµ°¡ Çâ»óµÊÀ» ¾Ë¾Æ³Â´Ù.

<±×¸² 6> »ý¼ºµÈ XOR ³×Æ®¿öÅ©ÀÇ ¿¹

<±×¸² 7> XOR ¹®Á¦ÀÇ ±¹¼ÒÇØ

(2) Æи®Æ¼ ¹®Á¦ (Parity Problem)

Æи®Æ¼ ¹®Á¦´Â ÀÔ·ÂÆÐÅÏÀÌ È¦¼ö°³ÀÇ 1 À» Æ÷ÇÔÇÑ °æ¿ì¿¡¸¸ 1 À» Ãâ·ÂÇÏ´Â ¹®Á¦ÀÌ´Ù. ÀÌ ¹®Á¦´Â ¾ÆÁÖ À¯»çÇÑ ÀԷ¿¡ ´ëÇؼ­ ´Ù¸¥ Ãâ·ÂÀ» ³»Áö ¾ÊÀ¸¸é ¾ÈµÇ¹Ç·Î ³×Æ®¿öÅ©¸¦ ÀÌ¿ëÇÏ¿© Ç®±â¿¡´Â ½±Áö ¾ÊÀº ¹®Á¦ÀÌ´Ù. XOR ¹®Á¦´Â ÀÔ·Â À¯´ÏÆ® ¼ö°¡ 2 °³ÀΠƯ¼öÇÑ °æ¿ìÀÇ Æи®Æ¼ ¹®Á¦¶ó°í ÇÒ ¼ö ÀÖ´Ù <±×¸² 8> °ú °°Àº °èÃþ±¸Á¶ ³×Æ®¿öÅ©¸¦ ÀÌ¿ëÇÏ¿©, ÀÔ·ÂÀÇ Å©±â°¡ 2ºÎÅÍ 8 ±îÁöÀÇ °æ¿ì¸¦ ½ÇÇèÇØ º¸¾Ò´Ù. ÀÌ¿Í°°Àº ¸ð¾çÀÇ ³×Æ®¿öÅ©¸¦ »ç¿ëÇÒ °æ¿ì¿¡´Â N ÀÇ Æи®Æ¼ ¹®Á¦¸¦ Ç®±â À§Çؼ­´Â Àû¾îµµ N °³ÀÇ Àº´Ð À¯´ÏÆ®°¡ ÇÊ¿äÇÏ´Ù. <±×¸² 8> Àº ³×Æ®¿öÅ©°¡ ÇнÀÇÑ ÇØÀÇ ±âº»ÀûÀÎ ¿ø¸®¸¦ ³ªÅ¸³»°í ÀÖ´Ù. ±×¸²¿¡¼­ ½Ç¼±À¸·Î ³ªÅ¸³½ ¿¬°áÀº ¿¬°á°­µµ°¡ +1 À̸ç, Á¡¼±ÀÇ ¿¬°áÀº ¿¬°á°­µµ°¡ -1 ÀÌ´Ù. À¯´ÏÆ®¸¦ ³ªÅ¸³»´Â ¿ø³»ÀÇ ¼ýÀÚ´Â ±× À¯´ÏÆ®ÀÇ ¿ÀÇÁ¼ÂÀÌ´Ù. °¢°¢ÀÇÀº´Ð À¯´ÏÆ®´Â ÀÔ·Â ÆÐÅÏ ³»ÀÇ 1 ÀÇ °¹¼ö¸¦ ¼¼´Â °Í°ú °°Àº ¿ªÇÒÀ» ÇÑ´Ù.

<±×¸² 8>  Æи®Æ¼ ¹®Á¦ÇØÀÇ ¿ø¸®ÀûÀÎ ¼³¸íµµ

¿¹¸¦µé¸é <±×¸² 8> ÀÇ Á¦ÀÏ ¿ÞÂÊÀÇ Àº´Ð À¯´ÏÆ®´Â ÇÑ °³ ÀÌ»óÀÇ ÀÔ·Â À¯´ÏÆ®°¡ ON ÀÎ °æ¿ì¿¡ ON ÀÌ µÇ¸ç ±× ¿·ÀÇ À¯´ÏÆ®´Â 2 °³ ÀÌ»óÀÇ ON ÀÎ °æ¿ì¿¡ ON ÀÌ µÈ´Ù. ¸ðµç ÀÔ·Â À¯´ÏÆ®°¡ ON ÀÎ °æ¿ì¿¡´Â ¿ÞÂʺÎÅÍ m °³ ±îÁöÀÇ Àº´Ð À¯´ÏÆ®°¡ ON ÀÌ µÈ´Ù. Àº´Ð À¯´ÏÆ®·ÎºÎÅÍ Ãâ·Â À¯´ÏÆ®¿¡ÀÇ °áÇÕÀº +1, -1 À̹ø°¥¾Æ µÇ¾î Àֱ⠶§¹®¿¡ ¦¼ö°³ÀÇ Àº´Ð À¯´ÏÆ®°¡ ON ÀÏ °æ¿ì¿¡´Â Ãâ·Â À¯´ÏÆ®¿¡ÀÇ ÀÔ·ÂÀÇ ÇÕÀÌ 0 ÀÌ µÇ¸ç, Ȧ¼ö°³ÀÇ Àº´Ð À¯´ÏÆ®°¡ ON ÀÏ °æ¿ì¿¡´Â ÀÔ·ÂÀÇ ÃÑÇÕÀÌ 1 ÀÌ µÈ´Ù. <Ç¥ 1> Àº ½ÇÁ¦ÀÇ ½ÇÇè¿¡¼­ ¾ò¾îÁø ÇØÀÇ Çϳª¸¦ ³ªÅ¸³½´Ù. ÀÌÇØ´Â 16 °¡ÁöÀÇ ÀÔ·ÂÆÐÅÏÀ» °¢°¢ 2,825 ȸ Á¦½ÃÇÑ ÈÄ¿¡ ¾ò¾îÁø °ÍÀ̸ç ÇнÀ°è¼ö´Â 0.5¿´´Ù. Áï, ON ÀÌ µÇ´Â Àº´Ð À¯´ÏÆ®ÀÇ ¼ö´Â ÀÔ·Â À¯´ÏÆ® ³»¿¡ OFF ÀÎ °ÍÀÇ ¼ö¿Í °°´Ù. ±×·¯³ª ¿ø¸®ÀûÀ¸·Î´Â °°Àº °ÍÀÌ´Ù. ÁÖÀÇÇÒ °ÍÀº Àº´Ð À¯´ÏÆ®ÀÇ Ãþ¿¡ ³ªÅ¸³ª´Â ÆÐÅÏÀÌ ÀÔ·ÂÆÐÅϳ»ÀÇ ON ÀÇ °¹¼ö¸¸¿¡ ÀÇÇÑ °ÍÀ¸·Î µÇ¾îÀÖ´Â °ÍÀÌ´Ù. ÀÌ¿Í°°Àº ³»ºÎ Ç¥ÇöÀ̾߸»·Î Æи®Æ¼ ¹®Á¦¸¦ ÇØ°áÇϴµ¥ ÇÊ¿äÇÑ °ÍÀÌ´Ù.

<Ç¥ 1>

Number of on

Input Units

 

Hidden Unit

Pattern

 

Output

Value

0

1

2

3

4

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

1111

1011

1010

0010

0000

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

0

1

0

1

0

(3) ºÎȣȭ ¹®Á¦ (Encoding Problem)

¿¡Å¬¸® (Ackley), ÈùÆ° (Hinton), ¼¼Áî³ë½ºÅ° (Sejnowski) [ACK85] ´Â 1985 ³â¿¡ ÀÔ·Â À¯´ÏÆ®º¸´Ùµµ ÀûÀº ¼öÀÇ Àº´Ð À¯´ÏÆ®¸¦ »ç¿ëÇÏ¿© ¼­·Î Á÷±³ÇÏ°í ÀÖ´Â ÀÔ·ÂÆÐÅÏÀÇ ÁýÇÕÀ» Á÷±³ÇÏ°í ÀÖ´Â Ãâ·ÂÆÐÅÏÀÇ ÁýÇÕ¿¡ ´ëÀÀ½ÃÅ°´Â ¹®Á¦¸¦ ´Ù·ç¾ú´Ù. ÀÌ °æ¿ì, Àº´Ð À¯´ÏÆ®»óÀÇ °¢°¢ÀÇ ³»ºÎ Ç¥ÇöÀº ÀÔ·ÂÃþ»óÀÇ ³»ºÎ Ç¥Çöº¸´Ù È¿À²ÀûÀ¸·Î Ç¥ÇöµÇ¾î¾ß ÇÒ °ÍÀÌ´Ù.

N °³ÀÇ ÀÔ·ÂÆÐÅÏ°ú Ãâ·ÂÆÐÅÏÀ» ´ëÀÀ½ÃÅ°´Â ¹®Á¦¸¦ »ý°¢Çغ¸ÀÚ. Àº´Ð À¯´ÏÆ®¸¦ log2N °³ »ç¿ëÇÑ´Ù. ÀÌ ¹®Á¦¸¦ ÇØ°áÇϱâ À§ÇÏ¿© ³×Æ®¿öÅ©´Â N °³ÀÇ ÀÔ·ÂÆÐÅÏÀÇ °¢°¢À» Àº´ÐÃþ¿¡¼­ ±æÀÌ log2N ÀÇ ÀÌÁøºÎÈ£·Î Ç¥ÇöÇÏ´Â °ÍÀ» ÇнÀÇÒ °ÍÀÌ´Ù. <±×¸² 9> ¿¡ ÀÌ ¹®Á¦¸¦ Ç®±â À§ÇÏ¿© »ç¿ëÇÑ ³×Æ®¿öÅ©ÀÇ ±âº» ±¸Á¶¸¦ ³ªÅ¸³»¾ú´Ù. ¹®Á¦ÀÇ º»ÁúÀº N ºñÆ®ÀÇ ÆÐÅÏÀ» log2N ºñÆ®ÀÇ ÆÐÅÏ¿¡ ºÎȣȭÇÏ´Â °Í°ú ±× ºÎÈ£¸¦ º¹¿øÇÏ´Â °ÍÀÇ ÇнÀÀÌ´Ù. ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀ» »ç¿ëÇÏ¿© ¿©·¯ °¡Áö Å©±âÀÇ ºÎȣȭ ¹®Á¦¸¦ ½ÇÇèÇß´Ù.

¿©±â¿¡¼­´Â ±× Áß¿¡¼­ 8 ºñÆ®ÀÇ ÀÔ·ÂÆÐÅÏ, 3 °³ÀÇ Àº´Ð À¯´ÏÆ®¸¦ »ç¿ëÇÑ ¿¹¸¦ ¼Ò°³ÇÑ´Ù.

<±×¸² 9>  ºÎȣȭ ¹®Á¦¸¦ Ç®±â À§ÇÑ ³×Æ®¿öÅ©

¹®Á¦´Â <Ç¥ 2> ¿¡ ³ªÅ¸³½ °Íó·³ Ç×µî»ç»óÀÇ ÇнÀÀÌ´Ù. Áï, ÀÔ·ÂÆÐÅÏ¿¡¼­ ON ÀÌ µÈ À§Ä¡¿¡ Ãâ·Â À¯´ÏÆ®µµ ON ÀÌ µÇµµ·Ï ÇÏ´Â °ÍÀÌ´Ù. <Ç¥ 3> Àº ÇнÀÀÇ °á°ú¸¦ ³ªÅ¸³½´Ù. ³×Æ®¿öÅ©´Â Àº´ÐÃþ¿¡¼­ÀÇ Ç¥Çö¿¡ Áß°£°ª (0.5) À» »ç¿ëÇÑ °ÍÀ» ¾Ë ¼ö ÀÖ´Ù. ¹°·Ð Àº´ÐÃþ¿¡¼­ 1 À̳ª 0 ÀÇ °ª¸¸ °®´Â Çظ¦ °¡Áú ¼öµµ ÀÖ´Ù. ½ÇÁ¦·Î ±×·¯ÇÑ ÇØ°¡ ¾ò¾îÁö´Â °æ¿ìµµ ¸¹´Ù. ±×·¯³ª ÀÌ ¿¹¿¡¼­´Â ³×Æ®¿öÅ©¸¦ µÉ ¼ö ÀÖ´Â ÇÑ 1 À̳ª 0 ÀÇ °ªÀ» °®µµ·Ï ÇÏ¿´À¸³ª Áß°£°ªÀ» °®´Â Çظ¦ ¾ò¾ú´Ù. ´ÙÀ½¿¡ Áß°£°ªÀ» °®Áö ¾ÊÀ¸¸é ¾ÈµÇ´Â ¹®Á¦¿¡ ´ëÇÏ¿© °ËÅäÇغ¸ÀÚ.

<Ç¥ 2>

Input Patterns

 

Output Patterns

10000000

01000000

00100000

00010000

00001000

00000100

00000010

00000001

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

10000000

01000000

00100000

00010000

00001000

00000100

00000010

00000001

<Ç¥ 3>

Input Patterns

 

 

 

Output Patterns

10000000

01000000

00100000

00010000

00001000

00000100

00000010

00000001

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

.5

0

1

1

0

.5

1

0

0

1

1

1

1

0

0

0

0

0

0

1

1

1

.5

.5

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

10000000

01000000

00100000

00010000

00001000

00000100

00000010

00000001

<Ç¥ 4>

Input Patterns

 

Output Patterns

00

01

10

11

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

1000

0100

0010

0001

<Ç¥ 4> ´Â 2 ºñÆ®·Î ºÐ»ê Ç¥ÇöµÈ ÀÔ·ÂÀ» 4 ºñÆ® Ç¥ÇöÀÇ Ãâ·ÂÆÐÅÏ¿¡ ´ëÀÀ½ÃÅ°´Â ¹®Á¦¸¦ ³ªÅ¸³½´Ù. ÀÔ·ÂÆÐÅÏ°£ÀÇ À¯»ç°ü°è´Â Ãâ·ÂÆÐÅÏ°£ÀÇ °ü°è¿¡ ¹Ý¿µÇÏÁö ¾Ê¾Ò´Ù. ÀÌ ¹®Á¦¿¡ ´ëÇÏ¿© ´ÙÀ½°ú °°Àº ±¸Á¶ÀûÀÎ Á¦¾àÀ» °®´Â ³×Æ®¿öÅ©¸¦ »ç¿ëÇÏ¿© ½ÇÇèÇÏ¿´´Ù. µÎ °³ÀÇ ÀÔ·Â À¯´ÏÆ®´Â ÇϳªÀÇ Àº´Ð À¯´ÏÆ®¿Í¸¸ °áÇÕÇÏ°í, Àº´Ð À¯´ÏÆ®´Â ´Ù¸¥ 4 °³ÀÇ À¯´ÏÆ®¿Í °áÇÕÇÏ°í ÀÖ´Ù. ±×¸®°í 4 °³ÀÇ Àº´Ð À¯´ÏÆ®´Â Ãâ·Â À¯´ÏÆ®¿Í °áÇÕÇÏ°í ÀÖ´Ù. µû¶ó¼­ ÀÌ ³×Æ®¿öÅ©´Â ¸ÕÀú 4 °³ÀÇ ÀÔ·ÂÆÐÅÏÀÇ °¢°¢À» ÇϳªÀÇ Àº´Ð À¯´ÏÆ®ÀÇ ´Ù¸¥ °ªÀ¸·Î º¯È¯ÇÏ´Â °ÍÀ» ÇнÀÇÏÁö ¾ÊÀ¸¸é ¾ÈµÈ´Ù. ÀÌ 4 °³ÀÇ Áß°£°ªÀº ´ÙÀ½ÀÇ 4 °³ Àº´Ð À¯´ÏÆ®À§ÀÇ ºÐ»êÀûÀΠǥÇöÀ¸·Î º¯È¯ÇÏ°í, Ãâ·Â À¯´ÏÆ®À§ÀÇ ±¹¼ÒÀûÀΠǥÇöÀ¸·Î º¯È¯ÇÑ´Ù. ÇнÀ°è¼ö¸¦ 0.05, ÆÐÅÏÀÇ Á¦½Ã ȹ¼ö¸¦ 5,226 ·Î ÇÏ¿© ÇнÀÇÑ °á°ú¸¦ <Ç¥ 5> ¿¡ ³ªÅ¸³½´Ù. <Ç¥ 5>¿¡¼­ ¾Ë ¼ö ÀÖµíÀÌ °¢°¢ÀÇ ÀÔ·ÂÆÐÅÏÀº ÇϳªÀÇ Àº´Ð À¯´ÏÆ®ÀÇ ´Ù¸¥ »óÅ°ª¿¡ ´ëÀÀµÇ°í ÀÖ´Ù. ÀÌµé °ªÀº ´ÙÀ½ÀÇ Àº´ÐÃþÀ§ÀÇ ºÐ»êÀûÀΠǥÇö¿¡ ´ëÀÀµÇ°í, Ãâ·ÂÃþÀÇ 4 ºñÆ® Ç¥ÇöÀ¸·Î º¯È¯µÇ¾î ÀÖ´Ù. ¿ø¸®ÀûÀ¸·Î ÀÌ ¹æ¹ýÀº ÀÔ·ÂÆÐÅÏÀÇ ¼ö°¡ Á¦ÇѵǾî ÀÖÁö ¾ÊÁö¸¸, ÀÔ·ÂÆÐÅÏÀÇ ¼ö°¡ ¸¹¾ÆÁö¸é ±¸º°ÇØ¾ß ÇÒ »óÅ°ªÀÇ Â÷ÀÌ°¡ ÀÛ¾ÆÁö¹Ç·Î ³­À̵µ°¡ ³ô¾ÆÁø´Ù.

<Ç¥ 5>

Input Patterns

 

Singleton

Hidden Unit

 

Remaining Hidden Units

 

Output

Patterns

10

11

00

01

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

0

.2

.6

1

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

1

1

.5

0

1

1

0

0

1

0

0

0

0

0

.3

1

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

0010

0001

1000

0100

<±×¸² 10> Àº ÇнÀ ÈÄÀÇ ³×Æ®¿öÅ©¸¦ ³ªÅ¸³½´Ù. Àº´Ð À¯´ÏÆ®·ÎºÎÅÍ Ãâ·Â À¯´ÏÆ®·ÎÀÇ ¿¬°á°­µµ´Â ±×¸²À» ÀÌÇØÇϱ⠽±°ÔÇϱâ À§ÇÏ¿© »ý·«Çß´Ù. ±×¸²¿¡¼­ ½Ç¼±Àº ¾ç (+) À» ³ªÅ¸³»°í, Á¡¼±Àº À½ (-) À» ³ªÅ¸³½´Ù. 4 °³ÀÇ Áß°£°ªÀº ºÎÈ£°¡ ´Ù¸¥ ¾ÆÁÖ Å« °ªÀÇ °áÇÕ¿¡ ÀÇÇØ ¾ò¾îÁø´Ù. Á¦ 1 Ãþ¿¡¼­ Àº´ÐÃþÀÇ ÇÑÂÊ °áÇÕÀº Àº´Ð À¯´ÏÆ®¸¦ ¿ÏÀüÈ÷ ON À¸·Î ¸¸µé°í, ´Ù¸¥ ÇÑÂÊÀº ¿ÏÀüÈ÷ OFF ·Î ¸¸µç´Ù. µÎ °³ÀÇ °áÇÕÀÇ Â÷ÀÌ´Â ±×´ÙÁö Å©Áö ¾ÊÀ¸¹Ç·Î ¾çÂÊÀÇ ÀÔ·Â À¯´ÏÆ®°¡ ON ÀÎ °æ¿ì¿¡´Â  Àº´Ð À¯´ÏÆ®´Â 0 °ú 0.5 »çÀÌÀÇ °ªÀ» °¡Áø´Ù. ¾çÂÊ ¸ðµÎ OFF ÀÎ °æ¿ì´Â Àº´Ð À¯´ÏÆ®ÀÇ ¹ÙÀ̾°¡ °ÅÀÇ 0 À̹ǷΠ0.5 ¸¦ Á¶±Ý ³Ñ´Â °ªÀ» °¡Áø´Ù. Á¦ 2 Ãþ¿¡¼­ Àº´ÐÃþÀº Á¦ 1 ÃþÀÇ Àº´Ð À¯´ÏÆ®°¡ ¿ÏÀüÀÌ ON ÀÏ °æ¿ì¿¡´Â Á¦ÀÏ ¿À¸¥ÂÊÀÇ À¯´ÏÆ®¸¸ÀÌ ON ÀÌ µÇ°í ³ª¸ÓÁö´Â OFF °¡ µÈ´Ù. ¶Ç ÀüºÎ°¡ OFF ÀÎ °æ¿ì¿¡´Â Á嫆 ÀÌ¿ÜÀÇ 3 °³°¡ ON ÀÌ µÈ´Ù. À̹ÛÀÇ 2 °³ÀÇ °ª¿¡ °üÇؼ­´Â °¢°¢ ´Ù¸¥ ÆÐÅÏÀÌ Ãâ·ÂµÇµµ·Ï °áÇյǾî ÀÖ´Ù. ÀÌó·³ ³×Æ®¿öÅ©ÀÇ ÇнÀÀº ¸Å¿ì À¯¿¬ÇÏ´Ù. ÀÌ·¯ÇÑ ½ÇÇèÀ¸·ÎºÎÅÍ Àº´Ð À¯´ÏÆ®´Â ´ëºÎºÐ 1 ¶Ç´Â 0 ÀÇ °ªÀ» °¡ÁöÁö¸¸ °æ¿ì¿¡ µû¶ó¼­´Â Áß°£°ªÀ» °®´Â °ÍÀ» ¾Ë ¼ö ÀÖ´Ù. ¿©±â¼­ À¯´ÏÆ®°¡ 1 ¶Ç´Â 0 À» °®±â ½¬¿î ¼ºÇâÀº ½Ã±×¸ðÀ̵å ÇÔ¼ö°¡ S ÀÚÇüÀ» ÇÏ°í ÀÖ¾î, À¯´ÏÆ®ÀÇ ÀÔÃâ·ÂÀÇ Àý´ë°ªÀÌ Å©°Ô µÇ¸é, À¯´ÏÆ®ÀÇ °ªÀº 1 ¶Ç´Â 0 À¸·Î ¼ö·ÅÇϱ⠶§¹®ÀÌ´Ù. µû¶ó¼­ Áß°£°ªÀ» °®±â À§Çؼ­´Â À¯´ÏÆ® ÀÔ·ÂÀÇ Àý´ë°ªÀÌ ±×´ÙÁö Å©Áö ¾ÊÀº °ªÀ» °¡Á®¾ß ÇÑ´Ù. ÇÑÆí ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢¿¡¼­´Â ¸ðµç À¯´ÏÆ®°¡ °°Àº ÀÔÃâ·Â ÇÔ¼ö¸¦ »ç¿ëÇÑ´Ù´Â °¡Á¤ÀÌ ¾øÀ¸¹Ç·Î Áß°£°ªÀ» ¿øÇÏ´Â À¯´ÏÆ®¿¡ °üÇؼ­´Â ¼±ÇüÀÇ ÀÔÃâ·Â ÇÔ¼ö¸¦ »ç¿ëÇÏ°í, ´Ù¸¥ À¯´ÏÆ®¿¡¼­´Â ½Ã±×¸ðÀ̵带 »ç¿ëÇÏ´Â °æ¿ìµµ »ý°¢ÇÒ ¼ö ÀÖ´Ù. ¼±ÇüÀÇ À¯´ÏÆ®´Â °­·ÂÇÑ µ¿Àû¿µ¿ª (dynamical range) À» °¡Áö¹Ç·Î º¸´Ù °­·ÂÇÑ Áß°£°ª Ç¥ÇöÀ» »ç¿ëÇÒ ¼ö ÀÖ´Ù.

<±×¸² 10>  Áß°£°ªÀ» ÀÌ¿ëÇÑ ³×Æ®¿öÅ©

(4) ´ëĪ¼º ¹®Á¦ (Symmetry Problem)

´ëĪ¼º ¹®Á¦´Â ÀÔ·ÂÆÐÅÏÀÇ Á߽ɴëĪ ¿©ºÎ¸¦ ÆÇ´ÜÇÏ´Â ¹®Á¦ÀÌ´Ù. ÀÌ ¹®Á¦¿¡ ´ëÇÏ¿© ¿©·¯ °¡Áö Å©±âÀÇ ÀÔ·ÂÆÐÅÏ°ú Àº´Ð À¯´ÏÆ®¿¡ ´ëÇÏ¿© ½ÇÇèÇß´Ù. ½ÇÇè°á°ú ÀÔ·ÂÆÐÅÏÀÇ Å©±â¿¡ °ü°è¾øÀÌ 2 °³ÀÇ Àº´Ð À¯´ÏÆ®¸¸ ÀÖÀ¸¸é ´ëĪ¼º ¹®Á¦°¡ ÇØ°áµÊÀÌ º¸¿´´Ù. ³×Æ®¿öÅ©°¡ ¹ß°ßÇÑ ³»ºÎ Ç¥ÇöÀ» ÀÌÇØÇϱâ À§ÇÏ¿© ÀÔ·ÂÆÐÅÏÀÇ Å©±â¸¦ 6 À¸·Î ÇÑ ¿¹¸¦ <±×¸² 11> ¿¡ ³ªÅ¸³»¾ú´Ù. ±×¸²¿¡¼­ Áß¾Ó¿¡ ÀÖ´Â 6 °³´Â ÀÔ·Â À¯´ÏÆ®À̸ç, µÎ °³ÀÇ Àº´Ð À¯´ÏÆ®´Â »óÇÏ¿¡ ³ªÅ¸³»¾ú´Ù. ¶ÇÇÑ °¡Àå ¿À¸¥ÂÊÀÇ À¯´ÏÆ®´Â Ãâ·Â À¯´ÏÆ®ÀÌ´Ù. ÀÌ ÇØ´Â ÇнÀ°è¼ö¸¦ 0.1, °¢°¢ÀÇ ÆÐÅÏÀ» 1,208 ȸ¾¿ Á¦½ÃÇÑ ÈÄ ¾òÀº °ÍÀÌ´Ù. ±×¸²À» º¸±â ½±°Ô Çϱâ À§ÇÏ¿© 6 °³ÀÇ ÀÔ·Â À¯´ÏÆ®¸¦ Áß¾Ó¿¡ µÎ°í, 2 °³ÀÇ Àº´Ð À¯´ÏÆ®¸¦ »óÇÏ¿¡ µÎ¾ú´Ù. ´ëĪ¼ºÀ» ÆÇ´ÜÇÏ´Â Ãâ·Â À¯´ÏÆ®´Â ¿À¸¥ÂÊ¿¡ ±×·È´Ù. ÇØÀÇ Æ÷ÀÎÆ®´Â Á᫐ ´ëĪÀÇ À§Ä¡¿¡ ÀÖ´Â ÀÔ·Â À¯´ÏÆ®·ÎºÎÅÍ Àº´Ð À¯´ÏÆ®¿¡¼­ÀÇ ¿¬°á°­µµ°¡ Å©±â°¡ °°°í ºÎÈ£°¡ ¹Ý´ë°¡ µÇ¾î ÀÖ´Â °ÍÀÌ´Ù. ±×·¯¹Ç·Î ´ëĪÀûÀÎ ÀÔ·ÂÆÐÅÏÀÌ ÁÖ¾îÁö¸é 2 °³ÀÇ Àº´Ð À¯´ÏÆ®·ÎÀÇ ÀÔ·ÂÀÇ ÃÑÇÕÀÌ 0 ÀÌ µÈ´Ù. Àº´Ð À¯´ÏÆ®´Â À½ (-) ÀÇ ¹ÙÀ̾¸¦ °¡Áö°í ÀÖÀ¸¹Ç·Î À̵éÀÇ À¯´ÏÆ®´Â OFF °¡ µÈ´Ù. µû¶ó¼­ ¾ç (+) ÀÇ ¹ÙÀ̾¸¦ °®´Â Ãâ·Â À¯´ÏÆ®´Â ON ÀÌ µÈ´Ù.

<±×¸² 11>  ´ëĪ¼º ¹®Á¦¿¡ »ç¿ëÇÑ ³×Æ®¿öÅ©

¶Ç ´Ù¸¥ ÁÖ¸ñÇÒ Á¡Àº Áß½ÉÀÇ Á¿쿡 ÀÖ´Â 3 °³ÀÇ ¿¬°á°­µµÀÇ Å©±âÀÇ ºñÀ²ÀÌ ´ë·« 1:2:4 ÀÎ Á¡ÀÌ´Ù. ÀÌ°Í¿¡ ÀÇÇØ ÇÑÂÊ 3 °³ÀÇ ÀÔ·Â À¯´ÏÆ®·ÎºÎÅÍ Àº´Ð À¯´ÏÆ®·ÎÀÇ ÀÔ·ÂÀÇ ÃÑÇÕÀº 8 Á¾·ùÀÇ ÆÐÅÏ¿¡ ´ëÇÏ¿© ÀüºÎ ´Ù¸¥ °ªÀ» °®´Â´Ù. µû¶ó¼­ ºñ´ëĪÀûÀÎ ÀÔ·ÂÆÐÅÏ¿¡ ´ëÇÏ¿© ¿À¸¥ÂÊ ¹ÝÀ¸·ÎºÎÅÍÀÇ Àº´Ð À¯´ÏÆ®·ÎÀÇ ÀԷ°ú ¿ÞÂÊ ¹ÝÀ¸·ÎºÎÅÍÀÇ Àº´Ð À¯´ÏÆ®·ÎÀÇ ÀÔ·ÂÀÌ ¼­·Î »ó¼âµÇ´Â °æ¿ì´Â ÀÖÀ» ¼ö ¾ø´Ù. ¸¶Áö¸·À¸·Î 2 °³ÀÇ Àº´Ð À¯´ÏÆ®´Â °¢°¢ÀÇ ÀÔ·Â À¯´ÏÆ®·ÎºÎÅÍ ºÎÈ£°¡ ¼­·Î ´Ù¸¥ ¿¬°á°­µµ¸¦ °¡Áö°í ÀÖ´Ù. ÀÌ°Í¿¡ ÀÇÇØ ¾î¶°ÇÑ ºñ´ëĪÀûÀÎ ÀÔ·ÂÆÐÅÏ¿¡ ´ëÇؼ­µµ ¾î´À ÂÊÀ̵ç 1 °³ÀÇ Àº´Ð À¯´ÏÆ®´Â ON ÀÌ µÇ°í, Ãâ·Â À¯´ÏÆ®¸¦ OFF ·Î ÇÒ ¼ö ÀÖ´Ù. ´Ù½Ã ¸»ÇÏÀÚ¸é, ³×Æ®¿öÅ©ÀÇ ±¸Á¶´Â ÀÔ·ÂÆÐÅÏÀÌ ´ëĪÀÎ °æ¿ì´Â Àº´Ð À¯´ÏÆ®°¡ Ç×»ó OFF °¡ µÇ°í, ºñ´ëĪÀÎ °æ¿ì¿¡´Â ¹Ýµå½Ã Àº´Ð À¯´ÏÆ®ÀÇ 1 °³°¡ ON ÀÌ µÇµµ·Ï µÇ¾î ÀÖ´Ù.

(5) µ¡¼À ¹®Á¦

ÀÌ ¹®Á¦´Â 2 Áø¼öÀÇ µ¡¼ÀÀ» ³×Æ®¿öÅ©¸¦ ÀÌ¿ëÇÏ¿© ¼öÇàÇÏ´Â °ÍÀÌ´Ù. <±×¸² 12> ´Â ¹®Á¦ÀÇ ±âº» ±¸Á¶¿Í ÃÖ¼ÒÀÇ ³×Æ®¿öÅ©¿¡ ÀÇÇÑ Çظ¦ ³ªÅ¸³½´Ù. ³×Æ®¿öÅ©´Â 4 °³ÀÇ ÀÔ·Â À¯´ÏÆ®, 3 °³ÀÇ Ãâ·Â À¯´ÏÆ®, 2 °³ÀÇ Àº´Ð À¯´ÏÆ®µé·Î ±¸¼ºµÇ¾î ÀÖ´Ù. 2 °³ÀÇ ÀÔ·ÂÆÐÅÏ (2ºñÆ®) ÀÇ ÇÕÀÌ Ãâ·ÂÆÐÅÏÀÌ µÇµµ·Ï ±¸¼ºµÇ¾î ÀÖ´Ù. ÀÔ·ÂÃþÀÇ ¿ÞÂÊ¿¡¼­ µÎ ¹ø°¿Í ³× ¹ø°ÀÇ À¯´ÏÆ®°¡ ÇÏÀ§ ºñÆ®ÀÌ°í, ù ¹ø°¿Í ¼¼ ¹ø°ÀÇ À¯´ÏÆ®°¡ »óÀ§ ºñÆ®ÀÌ´Ù. ¿ì´ÜÀÇ Àº´Ð À¯´ÏÆ®´Â 2 °³ÀÇ »óÀ§ ºñÆ®°¡ ¾çÂÊ ¸ðµÎ ON ÀÌ µÇ°í, Á´ÜÀÇ Àº´Ð À¯´ÏÆ®´Â 2 °³ÀÇ »óÀ§ ºñÆ®°¡ ¸ðµÎ ON ÀÌ µÇ°Å³ª, µÑÁß Çϳª¿Í Á´ÜÀÇ Àº´Ð À¯´ÏÆ®°¡ ON ÀÎ °æ¿ì¿¡ ON ÀÌ µÈ´Ù. <±×¸² 12>¿¡¼­ ¿¬°á°­µµÀÇ °ªÀ» ³ªÅ¸³»Áö ¾ÊÀº °ÍÀº ¸ðµÎ 1 ÀÌ´Ù. Á¡¼±Àº ¾ïÁ¦¼º (-) ÀÇ ¿¬°á°­µµ¸¦ ³ªÅ¸³»¸ç, ¿ø³»ÀÇ ¼ýÀÚ´Â À¯´ÏÆ®ÀÇ ¹ÙÀ̾ÀÌ´Ù. Ãâ·ÂÀÇ ÃÖÇÏÀ§ ºñÆ®´Â ÀÔ·ÂÀÇ 2 °³ÀÇ ÇÏÀ§ ºñÆ®ÀÇ XOR ¸¦ °ªÀ¸·Î ÇÑ´Ù. XOR ¹®Á¦¸¦ Ç®±â À§ÇÏ¿© ¿ì´ÜÀÇ Àº´Ð À¯´ÏÆ®°¡ »ç¿ëµÇ¾ú´Ù. 2 °³ÀÇ ÇÏÀ§ ºñÆ®°¡ ¸ðµÎ ON ÀÎ °æ¿ì¿¡´Â Àº´Ð À¯´ÏÆ®°¡ ON ÀÌ µÇ°í, Ãâ·ÂÀÇ ÃÖÇÏÀ§ ºñÆ®´Â ¾ïÁ¦µÇ¾î OFF °¡ µÈ´Ù. ÇÏÀ§ ºñÆ® Áß¿¡¼­ 1 °³¸¸ ON ÀÎ °æ¿ì¿¡´Â Àº´Ð À¯´ÏÆ®´Â OFF ÀÌ°í, Ãâ·ÂÀÇ ÃÖÇÏÀ§ ºñÆ®´Â ON ÀÌ µÈ´Ù. Ãâ·ÂÀÇ Áß¾ÓÀÇ ºñÆ®¿¡ °üÇؼ­´Â Á» º¹ÀâÇÏ´Ù. ÀÌ ºñÆ®´Â ÀÔ·ÂÀÇ »óÀ§ ºñÆ® 2 °³¿Í ¿ì´ÜÀÇ Àº´Ð À¯´ÏÆ®¸¦ ÇÕÄ£ 3 °³ÀÇ À¯´ÏÆ® Áß È¦¼ö°³°¡ ON ÀÎ °æ¿ì¿¡ ON ÀÌ µÇÁö ¾ÊÀ¸¸é ¾ÈµÈ´Ù.

<±×¸² 12>  µ¡¼À°è»ê (2 ºñÆ®ÀÇ 2 Áø¼ö) ³×Æ®¿öÅ©

³×Æ®¿öÅ©ÀÇ µ¿ÀÛ ¿ø¸®¸¦ »ìÆ캸¸é ´ÙÀ½°ú °°´Ù. ¸ÕÀú, Á´ÜÀÇ Àº´Ð À¯´ÏÆ®´Â ÀÔ·ÂÀÇ »óÀ§ ºñÆ®¿Í ¿ì´ÜÀÇ Àº´Ð À¯´ÏÆ®·ÎºÎÅÍ ÀÔ·ÂÀ» ¹Þ¾Æ ±× Áß¿¡¼­ 2 °³ ÀÌ»óÀÌ ON ÀÏ °æ¿ì¿¡ ON ÀÌ µÈ´Ù. Ãâ·ÂÀÇ Áß¾Ó À¯´ÏÆ®´Â °°Àº 3 °³ÀÇ À¯´ÏÆ®·ÎºÎÅÍ ÀÔ·ÂÀ» ¹Þ°í ¶ÇÇÑ Á´ÜÀÇ Àº´Ð À¯´ÏÆ®·ÎºÎÅÍ ¿¬°á°­µµ -2 ÀÇ °áÇÕÀ» ¹Þ°í ÀÖ´Ù. µû¶ó¼­ 3 °³ÀÇ À¯´ÏÆ® Áß Çϳª°¡ ON ÀÎ °æ¿ì¿¡´Â Á´ÜÀÇ Àº´Ð À¯´ÏÆ®´Â OFF À̹ǷΠÃâ·ÂÀÇ Áß¾Ó À¯´ÏÆ®´Â ON ÀÌ µÇ°í, 3 °³ Áß¿¡ 2 °³°¡ ON ÀÎ °æ¿ì¿¡´Â Á´ÜÀÇ Àº´Ð À¯´ÏÆ®µµ ON ÀÌ µÇ¾î Ãâ·ÂÀÇ Áß¾Ó À¯´ÏÆ®¿¡ ¾ïÁ¦ÀûÀ¸·Î Àû¿ëÇÏ¿© Ãâ·ÂÀÇ Áß¾Ó À¯´ÏÆ®´Â OFF °¡ µÈ´Ù. ´õ¿íÀÌ 3 °³ ¸ðµÎ°¡ ON ÀÎ °æ¿ì´Â Á´ÜÀÇ Àº´Ð À¯´ÏÆ®·ÎºÎÅÍÀÇ ¾ïÁ¦¿¡ ÀÇÇØ 3 °³ÀÇ À¯´ÏÆ®ÀÇ ÀÔ·ÂÀÇ ÇÕÀÌ Å©°Ô µÇ¹Ç·Î Áß¾Ó À¯´ÏÆ®´Â ON ÀÌ µÇ´Â °ÍÀÌ´Ù.
Ãâ·ÂÀÇ ÃÖ»óÀ§ ºñÆ®´Â ¿ÞÂÊÀÇ Àº´Ð À¯´ÏÆ®°¡ ON ÀÏ °æ¿ì¿¡¸¸ ON ÀÌ µÇ¸é µÈ´Ù. ÀÌ·¸°Ô ÇÏ¿© <±×¸² 12> °¡ µ¡¼ÀÀ» ½ÇÇöÇÑ ¸Å¿ì ÄÄÆÑÆ®ÇÑ ³×Æ®¿öÅ©ÀÓÀ» ¾Ë ¼ö ÀÖ´Ù. ÀÌ ³×Æ®¿öÅ©ÀÇ ±¸Á¶´Â ¹®Á¦ÀÇ Å©±â°¡ Ä¿Áö´õ¶óµµ ±âº»ÀûÀÎ ¿ø¸®¸¦ ¹Ù²ÙÁö ¾Ê°í ÀϹÝÈ­°¡ °¡´ÉÇÏ´Ù. ÀϹÝÀûÀ¸·Î 2 °³ÀÇ m ºñÆ®ÀÇ 2 Áø¼ö¸¦ µ¡¼ÀÇϱâ À§Çؼ­´Â 2m °³ÀÇ ÀÔ·Â À¯´ÏÆ®¿Í m °³ÀÇ Àº´Ð À¯´ÏÆ®, m + 1 °³ÀÇ Ãâ·Â À¯´ÏÆ®°¡ ÇÊ¿äÇÏ´Ù.
°ø±³·Ó°Ôµµ ÀÌ ¹®Á¦¿¡¼­´Â Áö¿ª ÃÖ¼Ò°ªÀÌ °üÃøµÇ¾ú´Ù. ¸ðµç ÀÔ·Â À¯´ÏÆ®´Â ¸ðµç Àº´Ð À¯´ÏÆ®¿¡ ¿¬°áµÇ¾î ÀÖ°í, ¸ðµç Àº´Ð À¯´ÏÆ®´Â ¸ðµç Ãâ·Â À¯´ÏÆ®¿Í °áÇյǾî ÀÖÀ¸¸ç Àº´Ð À¯´ÏÆ®µé°£¿¡ ¼­·Î ¿¬°áÀ» °¡Áö°í ÀÖ´Â ±¸Á¶ÀÇ ³×Æ®¿öÅ©¸¦ »ç¿ëÇß´Ù. ³×Æ®¿öÅ©´Â <±×¸² 12> ¿¡ ³ªÅ¸³½ °Í°ú °°Àº º»ÁúÀûÀÎ Çظ¦ ¾òÀº °æ¿ìµµ ÀÖ¾úÁö¸¸ °ÅÀÇ ºñ½ÁÇÏ°Ô Áö¿ª ÃÖ¼ÒÁ¡¿¡ ºüÁ³´Ù. Áö¿ª ÃÖ¼ÒÁ¡¿¡ ºüÁø °ÍÀº Ãâ·ÂÀÇ ÃÖÇÏÀ§¿¡ °üÇÑ XOR ¹®Á¦°¡ ±×¸²¿¡ ³ªÅ¸³½ °Í°ú °°Àº ÇüÅ·ΠǮÁö ¸øÇÑ °æ¿ìÀÌ´Ù. Áï 2 °³ÀÇ Àº´Ð À¯´ÏÆ® Áß¿¡¼­ »óÀ§ÀÇ Àº´Ð À¯´ÏÆ®°¡ XOR ¸¦ À§ÇÏ¿© »ç¿ëµÈ´Ù¸é ºÒ°¡´ÉÇÏ´Ù.

°á±¹ ¹®Á¦´Â, µÎ ¹ø°ÀÇ Ãâ·Â À¯´ÏÆ®¿¡ °üÇÑ ÇнÀÀº ù ¹ø°ÀÇ Ãâ·Â À¯´ÏÆ®¿¡ °üÇÑ ÇнÀÀ» ÀüÁ¦·Î ÇÏ°í ÀÖÀ¸¹Ç·Î, ù ¹ø°ÀÇ Ãâ·Â À¯´ÏÆ®¿¡ °üÇÑ XOR ÀÇ ÇнÀÀ¸·Î ¾î´À ÂÊÀÇ Àº´Ð À¯´ÏÆ®¸¦ »ç¿ëÇÒ °ÍÀΰ¡ÀÌ´Ù. ÀÌ·¸°Ô ÇÏ¿© ¹ÝÁ¤µµ´Â Ʋ¸° Àº´Ð À¯´ÏÆ®°¡ óÀ½¿¡ »ç¿ëµÇ¾î ÇнÀÀÌ ½ÇÆÐÇÏ´Â °ÍÀÌ´Ù. ÀÌ °æ¿ì 11 + 11 ¡æ 110 (3 + 3 = 6) ÀÌ 11 + 11 ¡æ 100 À¸·Î À߸ø °è»êµÇ¾úÀ¸¸ç, ´Ù¸¥ °æ¿ì¿¡´Â Á¤È®ÇÑ °è»êÀ» Çß´Ù. ÀÌ ¹®Á¦ÀÇ Æ¯¼ºÀº Àº´Ð À¯´ÏÆ®°¡ ´ëµîÇÏÁö ¾ÊÀº ±¸Á¶¸¦ °¡Áö°í ÀÖ´Ù´Â Á¡ÀÌ´Ù. ´Ù¸¥ ¹®Á¦¿¡¼­´Â ¸ðµç Àº´Ð À¯´ÏÆ®°¡ ÀáÀçÀûÀ¸·Î µî°¡À̹ǷΠÀÌ·¯ÇÑ ¹®Á¦´Â ÀϾÁö ¾Ê´Â´Ù. ±×·¯³ª ÀÌ·¯ÇÑ ¹®Á¦¿¡´Â °£´ÜÇÑ ÇØ°á¹ýÀÌ Á¸ÀçÇÑ´Ù. Áï ¿©À¯ºÐÀÇ Àº´Ð À¯´ÏÆ®¸¦ »ç¿ëÇÏ¸é µÈ´Ù. ÀÌ·¸°Ô Çϸé óÀ½¿¡ Ʋ¸° ¼±ÅÃÀ» ÇÑ °æ¿ì¶óµµ ¹Ù¸¥ Çظ¦ ¾òÀ» °¡´É¼ºÀÌ ³²°Ô µÈ´Ù. ½ÇÁ¦ 2 ºñÆ®ÀÇ µ¡¼À¿¡ °üÇؼ­´Â ÇϳªÀÇ ¿©ºÐÀÇ Àº´Ð À¯´ÏÆ®¸¦ ÁغñÇϸé Ç×»ó ¹Ù¸¥ Çظ¦ ¾òÀ» ¼ö ÀÖ´Ù. ±×º¸´Ù »çÀÌÁî°¡ Å« ¹®Á¦ÀÇ °æ¿ì¿¡´Â 2 °³³ª 3 °³°¡ ÇÊ¿äÇÏ´Ù. 3 °³ÀÇ Àº´Ð À¯´ÏÆ®¸¦ »ç¿ëÇÑ 2 ºñÆ®ÀÇ µ¡¼ÀÀÇ ¿¹¸¦ <±×¸² 13> ¿¡ ³ªÅ¸³Â´Ù. <±×¸² 13> Àº ÇнÀ°è¼ö¸¦ 0.5, ÇнÀ Á¦½Ã Ƚ¼ö¸¦ 3,020 ȸ ÇÑ ÈÄÀÇ »óÅÂÀÌ´Ù. ¾Ë±â ½±°Ô Çϱâ À§ÇÏ¿© ³×Æ®¿öÅ©ÀÇ °áÇÕÀ» 4 °³·Î ³ª´©¾î ³ªÅ¸³Â´Ù.

<±×¸² 13>  µ¡¼ÀÀ» Çϱâ À§ÇØ ÇнÀµÈ ³×Æ®¿öÅ©

¸ÕÀú <±×¸² 13> ÀÇ (a) ¿¡´Â Àº´Ð À¯´ÏÆ®¿¡ÀÇ °áÇÕ°ú Àº´Ð À¯´ÏÆ®°£ÀÇ °áÇÕÀÌ ³ªÅ¸³ª ÀÖ´Ù. ÃÖÇÏÀ§ÀÇ Àº´Ð À¯´ÏÆ®´Â ÀÔ·ÂÀÇ ÇÏÀ§ ºñÆ® Áß¿¡ Çϳª¶óµµ ON ÀÌ ÀÖÀ¸¸é OFF °¡ µÈ´Ù. ¹Ù²Ù¾î ¸»Çϸé ÀÌ À¯´ÏÆ®´Â ÀÔ·ÂÀÇ ÇÏÀ§ ºñÆ®°¡ µÑ´Ù OFF ÀÎ °ÍÀ» °ËÃâÇÑ´Ù. ÃÖ»óÀ§ÀÇ Àº´Ð À¯´ÏÆ®´Â ÀÔ·ÂÀÇ ÇÕÀÌ 2 ÀÌ»óÀÇ °æ¿ì¿¡´Â ¾ðÁ¦³ª ON ÀÌ µÇµµ·Ï µÇ¾îÀÖ´Ù. Áß°£ÀÇ Àº´Ð À¯´ÏÆ®°¡ ÀÔ·ÂÀÇ ÇÕÀÌ 3 ÀÌÇÏÀÏ °æ¿ì¿¡´Â ¾ðÁ¦³ª ON ÀÌ µÇµµ·Ï µÇ¾î ÀÖ´Ù.
<±×¸² 13> ÀÇ (b) ´Â ÇÑÀÚ¸®ÀÇ Ãâ·Â À¯´ÏÆ®·ÎÀÇ °áÇÕÀ» ³ªÅ¸³½´Ù. ¿©±â¼­´Â XOR ÀÇ °æ¿ì°¡ °è»êµÇ´Â °ÍÀ» ¾Ë ¼ö ÀÖ´Ù. ¸ÕÀú ¾çÂÊÀÇ ÇÏÀ§ ºñÆ®°¡ OFF ÀÎ °æ¿ì¿¡´Â Àº´Ð À¯´ÏÆ®°¡ ON ÀÌ µÇ°í Ãâ·ÂÀ» ¾ïÁ¦ÇÑ´Ù. ¿ªÀ¸·Î ¾çÂÊÀÇ ÇÏÀ§ ºñÆ®°¡ ON ÀÎ °æ¿ì¿¡´Â À̵éÀÇ À¯´ÏÆ®°¡ Á÷Á¢ Ãâ·Â À¯´ÏÆ®¸¦ ¾ïÁ¦ÇÑ´Ù. ÇÏÀ§ ºñÆ® Áß Çϳª¸¸ ON ÀÎ °æ¿ì¿¡´Â Ãâ·Â À¯´ÏÆ®ÀÇ ¹ÙÀ̾¿¡ ÀÇÇØ Ãâ·Â À¯´ÏÆ®´Â ON ÀÌ µÈ´Ù. <±×¸² 13> ÀÇ (c) ´Â Áß°£ÀÇ Ãâ·Â À¯´ÏÆ®·ÎÀÇ °áÇÕÀ» ³ªÅ¸³»°í <±×¸² 13> ÀÇ (d) ¿¡´Â ÃÖ»óÀ§ÀÇ Ãâ·Â À¯´ÏÆ®·ÎÀÇ °áÇÕÀ» ³ªÅ¸³½´Ù. ÀÌ·¯ÇÑ °áÇÕ¿¡ ÀÇÇØ µ¡¼ÀÀÌ ¿Ã¹Ù¸£°Ô ¼öÇàµÇ°í ÀÖ´Â Áö¸¦ È®ÀÎÇϱâ´Â ±×¸® ½¬¿î ÀÏÀº ¾Æ´Ï´Ù. Áö±Ý±îÁö ¼Ò°³ÇÑ ¹®Á¦¿¡¼­´Â Àº´Ð À¯´ÏÆ®ÀÇ ¿ªÇÒÀ» ºÐ¼®ÇϱⰡ ±×´ÙÁö ¾î·ÆÁö ¾Ê¾Ò´Ù. ±×·¯³ª Àº´Ð À¯´ÏÆ®ÀÇ ¼ö°¡ ÇÊ¿ä ÀÌ»óÀ¸·Î ¸¹À» °æ¿ì¿¡´Â ºÐ¼®ÇϱⰡ ¸Å¿ì ¾î·Á¿öÁø´Ù. ÀÌ°ÍÀº ³×Æ®¿öÅ©°¡ ³»ºÎ Ç¥ÇöÀ¸·Î ±¹¼ÒÀûÀΠǥÇöÀ» »ç¿ëÇÏ´Â °æÇâÀÌ Àû±â ¶§¹®À̸ç, ÀϹÝÀûÀ¸·Î ¾Ë·ÁÁø ³»ºÎ Ç¥ÇöÀº ºÐ»êÀûÀΠǥÇöÀÌ ¸¹´Ù.

<Ç¥ 6> Àº 16 Á¾·ùÀÇ ÀԷ¿¡ ´ëÇÑ Àº´Ð À¯´ÏÆ®ÀÇ ¹ÝÀÀÀ» ³ªÅ¸³½´Ù.

<Ç¥ 6>

Input Patterns

 

Hidden Unit Patterns

 

Output Patterns

00 + 00

00 + 01

00 + 10

00 + 11

01 + 00

01 + 01

01 + 10

01 + 11

10 + 00

10 + 01

10 + 10

10 + 11

11 + 00

11 + 01

11 + 10

11 + 11

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

111

110

011

010

110

010

010

000

011

010

001

000

010

000

000

000

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

000

001

010

011

001

010

011

100

010

011

100

101

011

100

101

110

(6) ºÎÁ¤ ¹®Á¦ (The Negation Problem)

ºÎÁ¤ ¹®Á¦´Â n + 1 ºñÆ®ÀÇ ÀÌÁøÆÐÅÏÀ» ÀÔ·ÂÇÏ¿© n ºñÆ®ÀÇ ÀÌÁøÆÐÅÏÀ» Ãâ·ÂÇÏ´Â ¹®Á¦ÀÌ´Ù. n + 1 °³ÀÇ ÀÔ·Â Áß n °³´Â Ãâ·Â¿¡ ´ëÀÀÇÏÁö¸¸ ³ª¸ÓÁö Çϳª´Â Ưº°ÇÑ ¿ªÇÒÀ» ÇÑ´Ù. Áï ºñÆ®´Â ºÎÁ¤À» ³ªÅ¸³»´Â ºñÆ®·Î¼­ OFF ÀÎ °æ¿ì¿¡´Â ³²Àº n ºñÆ®´Â ±×´ë·Î Ãâ·ÂÀ¸·Î ³ªÅ¸³ªÁö¸¸, ON ÀÎ °æ¿ì¿¡´Â ³²Àº n ºñÆ®ÀÇ ºÎÁ¤À» °®´Â ÆÐÅÏÀ» Ãâ·ÂÇϵµ·Ï ÇØ¾ß ÇÑ´Ù. Áï ¹®Á¦´Â ºÎÁ¤ À¯´ÏÆ®¿Í ´Ù¸¥ 3 °³ÀÇ ÀÔ·Â À¯´ÏÆ®ÀÇ °¢°¢ÀÇ XOR ¸¦ ÃëÇÏ´Â °Í¿¡ ±ÍÂøÇÑ´Ù. <Ç¥ 7> Àº ´ëÀÀÇÏ´Â ÆÐÅÏÀ» ³ªÅ¸³½´Ù. ¿©±â¿¡¼­´Â Á´ÜÀÇ ºñÆ®°¡ ºÎÁ¤ ºñÆ®ÀÌÁö¸¸ ³×Æ®¿öÅ©´Â ±×°ÍÀ» ¾Ë ¼ö ¾øÀ¸¹Ç·Î ¾î¶² ºñÆ®°¡ ºÎÁ¤ ºñÆ®Àΰ¡µµ ÇнÀÇÏ¿©¾ß ÇÑ´Ù. ÀÔ·Â À¯´ÏÆ®·ÎºÎÅÍ ¸ðµç Àº´Ð À¯´ÏÆ®¿Í Ãâ·Â À¯´ÏÆ®¿¡ °áÇÕÀÌ ÀÖ°í, Àº´Ð À¯´ÏÆ®´Â ¸ðµç Ãâ·Â À¯´ÏÆ®¿Í °áÇÕÇÑ ³×Æ®¿öÅ©¸¦ »ç¿ëÇÏ¿© ½ÇÇèÇϴµ¥ ÇнÀÀÇ °á°ú´Â <±×¸² 14> ¿¡ ³ªÅ¸³Â´Ù.
ÀÌ ±×¸²¿¡¼­´Â ¿¬°á°­µµ°¡ 0 ÀÌ ¾Æ´Ñ °áÇÕ¸¸À» ³ªÅ¸³Â´Ù. ÇØ´äÀÇ ±âº»ÀûÀÎ ±¸Á¶´Â ÀÌ ±×¸²¿¡¼­ ¾Ë ¼ö ÀÖµíÀÌ ºÎÁ¤ ºñÆ®¿Í °¢°¢ÀÇ ÀÔ·Â ºñÆ®¿ÍÀÇ XOR ¸¦ ±¸ÇÏ´Â °ÍÀÌ´Ù. ¿À¸¥ÂÊÀÇ 2 °³ÀÇ ÀÔ·Â ºñÆ®´Â ºÎÁ¤ À¯´ÏÆ®¿Í ÀÔ·Â À¯´ÏÆ®ÀÇ ¾çÂÊÀÌ OFF µÇ´Â °ÍÀ» °ËÃâÇÏ´Â Àº´Ð À¯´ÏÆ®°¡ Çü¼ºµÇ¾î ÀÖ´Ù. ³²Àº ÇϳªÀÇ ÀÌ·Â ºñÆ®´Â ºÎÁ¤ À¯´ÏÆ®¿Í ÀÔ·Â ¾çÂÊÀÌ ON µÇ´Â °ÍÀ» °ËÃâÇÏ´Â Àº´Ð À¯´ÏÆ®°¡ Çü¼ºµÇ¾î ÀÖ´Ù. ÀÌ ¹®Á¦ÀÇ ÇØ´Â ÇнÀ°è¼ö¸¦ 0.25 ·Î ÇÏ°í °¢°¢ÀÇ ÆÐÅÏÀ» 5,000 ȸ Á¤µµ Á¦½ÃÇÏ¿© ¾ò¾ú´Ù.

<Ç¥ 7>

Input Patterns

 

Output Patterns

0000

0001

0010

0011

0100

0101

0110

0111

1000

1001

1010

1011

1100

1101

1110

1111

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

¡ª¡æ

000

001

010

011

100

101

110

111

111

110

101

100

011

010

001

000

 

<±×¸² 14>  ºÎÁ¤ ¹®Á¦·Î ÇнÀµÈ ³×Æ®¿öÅ©

(7) T-C ÆǺ° ¹®Á¦

Áö±Ý±îÁö ´Ù·ç¾ú´ø ¹®Á¦´Â ´ëĪ¼º ÆÇ´ÜÀ» Á¦¿ÜÇÏ°í ¼öÄ¡ÀûÀÎ ¹®Á¦¿´´Ù. ¿©±â¿¡¼­´Â º¸´Ù ±âÇÏÇÐÀûÀÎ ¹®Á¦·Î¼­ T ¿Í C ¸¦ ÆòÇàÀ̵¿°ú ȸÀü¿¡ °ü°è¾øÀÌ ÆǺ°ÇÏ´Â ¹®Á¦¸¦ ´Ù·ç°Ú´Ù. <±×¸² 15> ´Â ½ÇÇè¿¡ »ç¿ëµÈ ÆÐÅÏÀ» ³ªÅ¸³½´Ù. T ¿Í C ÀÇ ÆÐÅÏÀº ¸ðµÎ 5 °³ÀÇ Á¤¹æÇüÀ¸·Î ±¸¼ºµÇ¾î ÀÖÀ¸¸ç, Á¤¹æÇü ÇϳªÀÇ ºÎºÐ¸¸ ´Ù¸£´Ù. ´õ¿íÀÌ ¹Î½ºÅ°¿Í ÆÄÆÛÆ® [MIN69] °¡ ÁöÀûÇÑ °Íó·³ À̵éÀÇ ÆÐÅÏÀ¸·ÎºÎÅÍ 2 °³ÀÇ Á¤¹æÇüÀ» ¼±ÅÃÇÏ¿© ±×µé°£ÀÇ °Å¸®ÀÇ ÁýÇÕÀ» ¸¸µé¸é Á¤È®È÷ ÀÏÄ¡ÇÑ´Ù. ±×·¯¹Ç·Î ÀÌ°ÍÀ» ±¸º°Çϱâ À§Çؼ­´Â Àû¾îµµ 3 °³ ÀÌ»óÀÇ Á¤¹æÇüÀÇ Á¶ÇÕÀ» º¸Áö ¾ÊÀ¸¸é ¾ÈµÈ´Ù. ÀÌ·¯ÇÑ ÀÌÀ¯·Î ¹Î½ºÅ° µîÀº ÀÌ ¹®Á¦¸¦ Â÷¼ö 3 (order three) À̶ó°í ºÒ·¶´Ù. ÇнÀÀ» È¿°úÀûÀ¸·Î Çϱâ À§ÇÏ¿© Áö±Ý±îÁö¿Í´Â ´Ù¸¥ ±¸Á¶ÀÇ ³×Æ®¿öÅ©¸¦ »ç¿ëÇÏ¿´´Ù.

<±×¸² 15>  ½ÇÇè¿¡ »ç¿ëÇÑ ÀÔ·ÂÆÐÅÏ

<±×¸² 16>  T-C ÆǺ° ³×Æ®¿öÅ©

<±×¸² 16> Àº ³×Æ®¿öÅ©ÀÇ ±âº»ÀûÀÎ ±¸Á¶¸¦ ³ªÅ¸³½´Ù. ¸ðµç ÀÔ·Â À¯´ÏÆ®·ÎºÎÅÍ Àº´Ð À¯´ÏÆ®¿¡ ¿¬°áÀÌ ÀÖ´Â °ÍÀÌ ¾Æ´Ï¶ó, 2 Â÷¿øÀ¸·Î ³ª¿­ÇÏ¿´À» ¶§ °¢°¢ÀÇ Àº´Ð À¯´ÏÆ®´Â ÀÔ·ÂÃþÀÇ 3 × 3 ÀÇ ¿µ¿ªÀ¸·ÎºÎÅÍ ÀÔ·ÂÀ» ¹Þ´Â´Ù. Áï ±×¸²¿¡¼­ ÀÔ·ÂÃþ¿¡ ³ªÅ¸³½ °ãÃÄÁø °¢°¢ÀÇ Á¤¹æÇüÀÌ ´ëÀÀÇÏ´Â Àº´Ð À¯´ÏÆ®ÀÇ ¼ö¿ë¿µ¿ªÀÌ µÇ¾îÀÖ´Ù. ¸ðµç Àº´Ð À¯´ÏÆ®´Â ÇϳªÀÇ Ãâ·Â À¯´ÏÆ®¿¡ ¿¬°áµÇ¾î ÀÖ´Ù.
ÀԷ¿¡ ³ªÅ¸³½ ÆÐÅÏÀÌ T ÀÏ °æ¿ì¿¡ Ãâ·Â À¯´ÏÆ®ÀÇ °ªÀº 1, C ÀÇ °æ¿ì¿¡´Â 0 À» °®µµ·Ï ÇÑ´Ù. ´õ¿íÀÌ ÇнÀÀÌ Àå¼Ò¿¡ µû¶ó ÀÇÁ¸ÇÏÁö ¾Êµµ·Ï ¸ðµç Àº´Ð À¯´ÏÆ®´Â °°Àº °áÇÕÀÇ ¿¬°á°­µµ¸¦ ÇнÀÇϵµ·Ï ÇÑ´Ù. ÀÌ·¸°Ô ÇÏ¸é ¸ðµç Àº´Ð À¯´ÏÆ®´Â ¼ö¿ë¿µ¿ªÀ¸·ÎºÎÅÍÀÇ ÀԷ¿¡ ´ëÇÏ¿© µ¿ÀÏÇÑ ÇÔ¼ö¸¦ °è»êÇÏ°Ô µÈ´Ù. ÀÌ°Í¿¡ ÀÇÇØ °á°úÀûÀ¸·Î À§Ä¡ ºÒº¯¼ºÀÌ º¸ÀåµÊÀº ¹°·Ð ÀÔ·ÂÃþÀÇ ´ÜÀÇ ¿µÇâ (edge effects) µµ ÇÇÇÒ ¼ö ÀÖ´Ù.
ÀÌ·¯ÇÑ Á¦¾àÀ» ½ÇÇöÇϱâ À§Çؼ­´Â °£´ÜÇÏ°Ô µ¨Å¸ ±ÔÄ¢À¸·Î °è»êµÇ´Â °¢°¢ÀÇ À¯´ÏÆ®¿¡ ´ëÇÑ °áÇÕÀÇ ¼öÁ¤·®À» ¸ðµÎ ´õÇÏ¿©, ÀÌ°ÍÀ» ¹ÙÅÁÀ¸·Î ¸ðµç À¯´ÏÆ®¿¡ÀÇ ¿¬°á°­µµ¸¦ °°°Ô ¼öÁ¤ÇÑ´Ù. ÀÌ °á°ú ¸ðµç Àº´Ð À¯´ÏÆ®´Â µ¿ÀÏÇÑ Æ¯Â¡ÃßÃâ±âÀÇ º¹Á¦°¡ µÇ¾î, µ¿ÀÏ Æ¯Â¡ÃßÃâ±â°¡ ÀÔ·ÂÃþÀÇ ´Ù¸¥ ¿µ¿ª¿¡µµ ¸¹ÀÌ Á¸ÀçÇÏ´Â °Í°ú °°´Ù. ¶Ç ÇÑ °÷¿¡¼­ÀÇ ÇнÀÀÌ ÀÚµ¿ÀûÀ¸·Î Àüü¿¡ ÀüÆĵȴÙ.

À§¿Í °°Àº ³×Æ®¿öÅ©¸¦ »ç¿ëÇÏ¿© ¿©·¯ ¹ø ÇнÀÀ» ½ÇÇèÇÑ °á°ú ¿©·¯ °¡Áö Çظ¦ ¾ò¾ú´Ù. Çظ¦ ÀÌÇØÇϱâ À§Çؼ­´Â ¾î¶°ÇÑ ¼ö¿ë¿µ¿ªÀÌ Çü¼ºµÇ¾ú´Â°¡¸¦ º¸¸é µÈ´Ù. <±×¸² 17> Àº ¿©·¯ °³ÀÇ ¼ö¿ë¿µ¿ªÀ» ³ªÅ¸³½´Ù. <±×¸² 17> ÀÇ (a) ´Â ¾ÆÁÖ ±¹¼ÒÀûÀΠǥÇöÀÌ´Ù. ON Áß½É, OFF ÁÖº¯ÇüÀÇ ¼ö¿ë¿µ¿ªÀº ¿ì¼öÇÑ T °ËÃâ±â°¡ µÇ¾îÀÖ´Ù. ¿Ö³ÄÇÏ¸é ±×¸²Ã³·³ ¹èÄ¡µÈ T ´Â ÀÔ·ÂÇÕ +1 À» °®Áö¸¸ C ÀÇ °æ¿ì¿¡´Â ¾î¶»°Ô ¹èÄ¡ÇÏ¿©µµ ¾ç (+) ÀÇ ÀÔ·ÂÀ» °®´Â °æ¿ì´Â ¾ø´Ù. ÀÌ °ËÃâ±â¸¦ »ç¿ëÇÏ¿© Àº´Ð À¯´ÏÆ®ÀÇ ¹ÙÀ̾¸¦ Àû´çÈ÷ ¼³Á¤Çϸé T °¡ Á¸ÀçÇÏ´Â °æ¿ì¿¡´Â ¹Ýµå½Ã ÇϳªÀÇ Àº´Ð À¯´ÏÆ®°¡ ON ÀÌ µÇ°í, C ÀÇ °æ¿ì¿¡´Â ÇÑ °³µµ ON ÀÌ µÇÁö ¾Êµµ·Ï ÇÒ ¼ö°¡ ÀÖ´Ù. ÀÌ°ÍÀº ÀÏÁ¾ÀÇ µ¹±â°ËÃâ·Î¼­ T ÀÇ µ¹±âºÎ¸¦ °ËÃâÇÔÀ¸·Î¼­ T ¿Í C ¸¦ ½Äº°ÇÑ´Ù. <±×¸² 17> ÀÇ (b) ¿¡ ³ªÅ¸³½ ¼ö¿ë¿µ¿ªµµ T °ËÃâ±âÀÇ ÀÏÁ¾ÀÌ´Ù. T °¡ Á¦½ÃµÇ¸é ÇϳªÀÇ Àº´Ð À¯´ÏÆ®¿¡ÀÇ ÀÔ·ÂÀÌ +2 °¡ µÈ´Ù. C ÀÇ °æ¿ì¿¡´Â ¾î¶°ÇÑ Àº´Ð À¯´ÏÆ®µµ ÀÔ·ÂÀÌ +1 À» ³ÑÁö ¸øÇÑ´Ù. ±×¸²¿¡ ³ªÅ¸³½ °Íó·³ 90 µµ ¶Ç´Â 270 µµ ȸÀü½ÃŲ T ÀÇ °æ¿ì¿¡´Â ȾºÀÀÇ ¹Ø¿¡ ÀÖ´Â Àº´Ð À¯´ÏÆ® Áß Çϳª°¡ +2 ÀÇ ÀÔ·ÂÀ» ¹Þ´Â´Ù. ³ª¸ÓÁö µÎ °³ÀÇ °æ¿ì (0 µµ¿Í 180 µµ) ¿¡´Â T ÀÇ µ¹ÃâºÎºÐÀÌ °ËÃâµÈ´Ù. <±×¸² 17> ÀÇ (c) ´Â º¸´Ù ºÐ»êÀûÀΠǥÇöÀ» ³ªÅ¸³½´Ù. ±×¸²¿¡¼­ ¾Ë ¼ö ÀÖµíÀÌ T °¡ Á¦½ÃµÇ¸é 5 °³ÀÇ Àº´Ð À¯´ÏÆ®°¡ ON ÀÌ µÇ°í, C ÀÇ °æ¿ì¿¡´Â 3 °³¸¸ÀÌ ON ÀÌ µÈ´Ù. ÀÌ °æ¿ì¿¡µµ T ÀÇ µ¹±âºÎºÐ°ú C ÀÇ µ¹±âºÎºÐÀÇ Â÷ÀÌ°¡ °ËÃâ¿¡ ÀÌ¿ëµÇ¾ú´Ù. ¸¶Áö¸·À¸·Î Èï¹Ì·Î¿î ¿¹¸¦ <±×¸² 17> ÀÇ (d) ¿¡ ³ªÅ¸³Â´Ù. ÀÌ °æ¿ì¿¡´Â Àº´Ð À¯´ÏÆ®ÀÇ ¹ÙÀ̾¸¦ +1 ·Î ¼³Á¤ÇÑ´Ù. µû¶ó¼­ ÆÐÅÏÀÌ Á¶±ÝÀÌ¶óµµ ¼ö¿ë¿µ¿ª¿¡ Æ÷ÇÔÀÌ µÇ¸é Àº´Ð À¯´ÏÆ®´Â OFF °¡ µÈ´Ù. C ´Â T º¸´Ùµµ ÄÄÆÑÆ®ÇÏ¿© T °¡ 21 °³ÀÇ Àº´Ð À¯´ÏÆ®¸¦ OFF ·Î ÇÏ´Â °Í¿¡ ºñÇÏ¿© C ´Â 20 °³¸¦ OFF ½ÃÅ´À¸·Î½á ½Äº° °¡´ÉÇÏ´Ù. T-C ÆǺ° ¹®Á¦´Â 8 °³ÀÇ ÆÐÅÏÀ» ¾à 5,000 ~ 10,000 ȸ¸¦ Á¦½ÃÇÏ¿© Çظ¦ ¾ò¾ú´Ù.

<±×¸² 17> T-C ÆǺ°¹®Á¦ÀÇ ÇØ·Î ¾ò¾îÁø ¿©·¯ °¡Áö ¼ö¿ë¿µ¿ª

7. °á¾î

´ÜÃþ ÆÛ¼ÁÆ®·ÐÀÇ ¹®Á¦Á¡°ú Á¦ÇѼºÀÌ ¹Î½ºÅ°¿Í ÆÄÆÛÆ® [MIN69] ¿¡ ÀÇÇØ Ã¶ÀúÈ÷ ºÐ¼®µÇ°í ³­ ÈÄ ÆÛ¼ÁÆ®·Ð ¸ðµ¨¿¡ °üÇÑ ¿¬±¸´Â ¾à 20 ³â°£ °ÅÀÇ ¿Ü¸éµÇ¾î ¿Ô´Ù. ·¯¸áÇÏÆ® µîÀÌ PDP ¸ðµ¨À» °í¾ÈÇÏ°í³­ ÈÄ ´ÙÃþ ÆÛ¼ÁÆ®·Ð¿¡ ´ëÇÑ »õ·Î¿î °ü½ÉÀÌ ÀϾ´Ù. ÀÌ Àå¿¡¼­´Â ´ÙÃþ ÆÛ¼ÁÆ®·Ð ¸ðµ¨¿¡ °üÇÑ ¼³¸í°ú ´õºÒ¾î ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®Áò¿¡ °üÇÏ¿© »ìÆ캸¾Ò´Ù. ¶ÇÇÑ ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀ» ÀÌ¿ëÇÏ´Â ¿©·¯ °¡Áö Àû¿ë ¿¹µéÀ» »ìÆ캸¾Ò´Ù.

1 Àý¿¡¼­´Â ¸Ó¸®¸»À», 2 Àý¿¡¼­´Â ÀÔ·ÂÃþ, Àº´ÐÃþ ¹× Ãâ·ÂÃþÀ» °¡Áø ´ÙÃþ ÆÛ¼ÁÆ®·ÐÀÇ ±âº»ÀûÀÎ ±¸Á¶¿Í ÃþÀÇ °¹¼ö¿¡ µû¸¥ °áÁ¤ ±¸¿ªÀÇ Æ¯¼ºÀ» »ìÆì º¸¾Ò´Ù.
3 Àý¿¡¼­´Â ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀÇ ¹è°æÀ» »ìÆì º¸¾Ò´Ù. PDP ±×·ì¿¡ ÀÇÇÑ »ý¼º ¹è°æ°ú Áö¿ª ÃÖ¼Ò°ª ¼ö·Å µîÀÇ ´ÜÁ¡µéÀ» ±â¼úÇÏ¿´À¸¸ç, ÀÌ ¾Ë°í¸®ÁòÀÇ ¿ª»çÀûÀÎ ¹è°æÀ» »ìÆì º¸¾Ò´Ù.
4 Àý¿¡¼­´Â ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®Áò¿¡ ´ëÇÏ¿© ±â¼úÇÏ¿´´Ù. µ¨Å¸ ±ÔÄ¢À» ÃÖ±ÞÇÏ°­¹ýÀ» ÀÌ¿ëÇÏ¿© ¼ö½ÄÀ¸·Î À¯µµÇÏ¿´´Ù. ´ÙÀ½À¸·Î ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢À» À¯µµÇÏ¿´À¸¸ç 13 ´Ü°è·Î ³ª´« ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀÇ ÇнÀ°úÁ¤À» Ç÷οì íƮ¿Í ´õºÒ¾î ±â¼úÇÏ¿´´Ù.
5 Àý¿¡¼­´Â ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀÇ 3 °¡Áö Áß¿äÇÑ ¹®Á¦Á¡µéÀ» »ìÆ캸¾ÒÀ¸¸ç ÀÌ·¯ÇÑ ¹®Á¦Á¡À» ÇØ°áÇϱâ À§ÇÑ ÀÏ°ý ¼öÁ¤¹ý µî 8 °¡Áö °³¼±Ã¥À» ±â¼úÇÏ¿´´Ù.
6 Àý¿¡¼­´Â ´ÙÃþ ÆÛ¼ÁÆ®·ÐÀÇ Àû¿ë ¿¹µéÀ» »ìÆì º¸¾Ò´Ù. XOR ¹®Á¦, Æи®Æ¼ ¹®Á¦, ºÎȣȭ ¹®Á¦, ´ëĪ¼º ¹®Á¦, µ¡¼À ¹®Á¦, ºÎÁ¤ ¹®Á¦, T-C ÆǺ° ¹®Á¦ µîÀÇ ¼­¼ú°ú ´õºÒ¾î ½Ã¹Ä·¹À̼ÇÀ» ÅëÇÑ °á°úµéÀ» »ìÆì º¸¾Ò´Ù.

¢Â »ý°¢ÇÒ Á¡ ¢Â

1. ´ÙÃþ ÆÛ¼ÁÆ®·Ð¿¡¼­ ÃþÀÇ °¹¼ö¿¡ µû¸¥ °áÁ¤ ±¸¿ªÀº ¾î¶»°Ô ´Ù¸¥°¡?

2. µ¨Å¸ ±ÔÄ¢°ú ÀϹÝÈ­ µ¨Å¸ ±ÔÄ¢°úÀÇ À¯»ç¼º°ú Â÷ÀÌÁ¡µéÀ» ±â¼úÇϽÿÀ.

3. ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¾Ë°í¸®ÁòÀº ¹®ÀÚÀνÄÀ» ºñ·ÔÇÏ¿© ¿©·¯ ºÐ¾ßµé¿¡ ÀÀ¿ëµÇ°í ÀÖ´Ù. ±×·¯³ª ÀÌ ¾Ë°í¸®ÁòÀº ¿©·¯ °¡Áö ´ÜÁ¡µéµµ °¡Áö°í ÀÕ´Ù. À̵éÀ» ¿­°ÅÇÏ°í °£·«È÷ ¼³¸íÇϽÿÀ.

4. Àº´ÐÃþÀÇ °¹¼ö°¡ Çϳª ÀÌ»óÀÎ ÆÛ¼ÁÆ®·ÐÀ» ´ÙÃþ ÆÛ¼ÁÆ®·ÐÀ̶ó°í Á¤ÀÇÇÑ´Ù. Àº´ÐÃþÀÇ °¹¼ö°¡ ´Ã¾î³²¿¡ µû¸¥ Àå´ÜÁ¡µéÀ» »ý°¢ÇØ º¸½Ã¿À.

5. ¹éÇÁ·ÎÆÛ°ÔÀÌ¼Ç ÇнÀ ¸ðµ¨ÀÇ ´ÜÁ¡ÁßÀÇ Çϳª´Â Ãß°¡ÀûÀÎ ÇнÀÀÌ ºÒ°¡´ÉÇÏ´Ù´Â Á¡ÀÌ´Ù. ÀÌ°ÍÀº ¹«¾ùÀ» ÀǹÌÇϴ°¡?

6. Àΰ£ÀÇ µÎ³ú¸¦ ½Ã¹Ä·¹À̼ÇÇÏ·Á´Â °ÍÀÌ ½Å°æ¸Á ¿¬±¸ÀÇ ÁÖµÈ ¸ñÇ¥ÁßÀÇ ÇϳªÀÌ´Ù. ÃÖ±Ù¿¡ ³Î¸® ¾²ÀÌ°í ÀÖ´Â ´ÙÃþ ÆÛ¼ÁÆ®·Ð¿¡¼­ÀÇ ³ëµå ¿¬°á°ú Àΰ£ÀÇ ½Å°æ¼¼Æ÷¿ÍÀÇ ¿¬°áÀº ¾î¶² Á¡¿¡¼­ ¼­·Î ´Ù¸¥°¡?

7. ´ÜÃþ ÆÛ¼ÁÆ®·Ð¿¡¼­ ÇØ°áÀÌ ºÒ°¡´ÉÇÑ XOR ¹®Á¦°¡ ´ÙÃþ ÆÛ¼ÁÆ®·Ð¿¡¼­ ÇØ°áÀÌ °¡´ÉÇÑ ÀÌÀ¯¸¦ ¼³¸íÇÏ°í ÇØ°á±î´ÉÇÑ ³×Æ®¿öÅ©ÀÇ ¿¬°á°­µµµé°ú ÀÓ°è°ªÀ» Á¦½ÃÇϽÿÀ.