ÀúÀÚÀÇ ÀǵµÀÌµç ¾Æ´Ïµç ÀÌ Ã¥Àº »ó´çÈ÷ ¼öÇÐÀûÀΠü°è¸¦ °®Ãß°í ÀÖ´Ù. ¸Ó½Å·¯´×ÀÇ ±âº», ±âº» ¾Ë°í¸®Áò, ȸ±ÍºÐ¼®, ¼Æ÷Æ® º¤ÅÍ ¸Ó½Å(SVM), ½Å°æ¸Á°ú µö·¯´×, RNN°ú BPTT, QÇнÀ, DQN, ³ªÀÌºê º£ÀÌÁî ºÐ·ù µîÀ» À庰·Î ´Ù·é´Ù. ºÎ·ÏÀ¸·Î´Â ½Å°æ¸ÁÀÇ ÈÆ·Ã µ¥ÀÌÅÍ, ¿¢¼¿ÀÇ ÇØ Ã£±â ¼³Ä¡ ¹æ¹ý, ¸Ó½Å·¯´×À» À§ÇÑ º¤ÅÍ¿Í Çà·Ä, ¹ÌºÐÀÇ ±âº» Áö½Ä, ´Ùº¯¼ö ÇÔ¼öÀÇ ±Ù»ç °ø½Ä, ½Å°æ¸Á¿¡¼ À¯´ÖÀÇ ¿ÀÂ÷¿Í ±â¿ï±â °ü°è, ½Å°æ¸Á¿¡¼ À¯´Ö ¿ÀÂ÷ÀÇ ¡®¿ª¡¯ Á¡È½Ä, ¼øȯ ½Å°æ¸Á(RNN)¿¡¼ À¯´Ö ¿ÀÂ÷¿Í ±â¿ï±â °ü°è, BP¿Í BPTT¿¡¼ µµ¿òÀÌ µÇ´Â Á¡È½ÄÀÇ º¹½À, ¼øȯ ½Å°æ¸Á¿¡¼ À¯´Ö ¿ÀÂ÷ÀÇ ¡®¿ª¡¯ Á¡È½Ä, Áßȸ±Í¹æÁ¤½ÄÀ» ±¸ÇÏ´Â ¹æ¹ý µîÀ» Á¦°øÇÑ´Ù. ÀΰøÁö´ÉÀÇ ±¸Á¶, ¼öÇÐÀû ¸ðµ¨°ú ¾Ë°í¸®ÁòÀÇ ¿ø¸®°¡ ±Ã±ÝÇѵ¥ ¿¢¼¿·Î ½ÇÇàÀ» Çغ¸¸é¼ ½±°Ô ±× ÀÛµ¿ ¿ø¸®¸¦ ÀÌÇØÇÏ°í ½ÍÀº µ¶ÀÚµéÀ» À§ÇÑ 3ÆíÀ¸·Î ¼¼ ¹ø° ´ÜÃ߸¦ ä¿öÁִ åÀ¸·Î Àϵ¶À» Ãßõ µå¸°´Ù.
µµÄì µµ¿¡¼ ž µµÄì±³À°´ëÇб³(ÇöÀçÀÇ ¾²Äí¹Ù ´ëÇб³) ÀÌÇкΠ¼öÇаú¸¦ Á¹¾÷ÇÑ µÚ Ä¡¹ÙÇö¸³°íµîÇб³¿¡¼ ÇлýµéÀ» °¡¸£ÃÆ´Ù. ÇöÀç´Â ¼öÇÐÀ̳ª °úÇÐ °ü·Ã ¼ÀûÀ» ÁýÇÊÇÏ´Â ÀÛ°¡·Î È°µ¿ ÁßÀÌ´Ù.
Çѱ¹¿¡ ¼Ò°³µÈ Ã¥À¸·Î´Â ¡º±×¸²À¸·Î ¼³¸íÇÏ´Â °³³ä ½ï½ï Åë°èÇС», ¡ººñÁÖ¾ó °í±³¼öÇдëÀü¡», ¡º½±°Ô ÀÌÇØÇÏ´Â Åë°èÇС», ¡º¹ýÄ¢, ¿ø¸®, °ø½ÄÀ» ½±°Ô Á¤¸®ÇÑ ¼öÇÐ »çÀü¡» µî Åë°è¿Í ¼öÇп¡ °üÇÑ ¼ÀûÀÌ ´Ù¼öÀ̸ç, ¡º°úÇÐ ÀâÇлçÀü¡» µî °úÇÐ °ü·Ã ¼Àûµµ ÀÖ´Ù.
ÀÌ Ã¥ÀÇ »ç¿ë¹ý ¸Ó¸®¸»¿ªÀÚ ¼¹®1Àå ¸Ó½Å·¯´×ÀÇ ±âº» -1 ¸Ó½Å·¯´×°ú AI¡¢±×¸®°í µö·¯´×¢º AI¶õ ¢º AI¡¢¸Ó½Å·¯´×¡¢µö·¯´× ¢º ¸Ó½Å·¯´×ÀÇ ¿ªÇÒ -2 ÁöµµÇнÀ°ú ºñÁöµµÇнÀ ¢º AI¸¦ À§ÇÑ µ¥ÀÌÅÍ ¢º ÁöµµÇнÀ°ú ºñÁöµµÇнÀ, °ÈÇнÀ 2Àå ¸Ó½Å·¯´×À» À§ÇÑ ±âº»ÀûÀÎ ¾Ë°í¸®Áò -1 ¸ðµ¨ÀÇ ÃÖÀûÈ¿Í ÃÖ¼ÒÁ¦°ö¹ý ¢º ÃÖÀûȶõ ¢º ÃÖ¼ÒÁ¦°ö¹ý ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ ÃÖ¼ÒÁ¦°ö¹ý ¢º µ¥ÀÌÅÍÀÇ Å©±â¿Í ÆĶó¹ÌÅÍÀÇ ¼ö ¢º ¿¢¼¿ ½Ç½À -2 ÃÖÀûÈ °è»êÀÇ ±âº»ÀÌ µÇ´Â °æ»çÇÏ°¹ý ¢º °æ»çÇÏ°¹ýÀÇ ¾ÆÀ̵ð¾î¢º ±Ù»ç °ø½Ä°ú ³»ÀûÀÇ °ü°è ¢º °æ»çÇÏ°¹ýÀÇ ±âº»½Ä ¢º °æ»çÇÏ°¹ý°ú »ç¿ë ¹æ¹ý ¢º 3 º¯¼ö ÀÌ»óÀÎ °æ¿ì °æ»çÇÏ°¹ýÀ» È®Àå ¢º hÀÇ ÀÇ¹Ì¿Í °æ»çÇÏ°¹ýÀÇ ÁÖÀÇÇÒ Á¡ ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ °æ»çÇÏ°¹ý -3 ¶ó±×¶ûÁöÀÇ ¿Ïȹý°ú ½Ö´ë ¹®Á¦ ¢º ¶ó±×¶ûÁöÀÇ ¿Ïȹý ¢º ¶ó±×¶ûÁö ½Ö´ë ¹®Á¦¢º ±¸Ã¼ÀûÀÎ °è»ê ¢º ¿¢¼¿·Î È®ÀÎ -4 ¸óÅ×Ä«¸¦·Î¹ýÀÇ ±âº» ¢º ¸óÅ×Ä«¸¦·Î¹ýÀ¸·Î r¸¦ »êÃ⢺ ¿¢¼¿À» ÀÌ¿ëÇÑ ¸óÅ×Ä«¸¦·Î¹ý -5 À¯Àü ¾Ë°í¸®Áò .¢º À¯Àü ¾Ë°í¸®ÁòÀ¸·Î ÃÖ¼Ú°ª ¹®Á¦¸¦ ÇØ°á ¢º xÀÇ È常¦ °ñ¶ó 2Áø¼ö Ç¥½Ã ¢º ȯ°æ¿¡ ÀûÇÕÇÑ °ÍÀ» ¡®¼±Åᯠ¢º ¿ì¼öÇÑ °³Ã¼¸¦ ¸¸µé±â À§ÇÑ ¡®±³Â÷¡¯ ¢º µ¹¿¬º¯ÀÌ ¢º ÀÌ»óÀÇ 3¿¬»êÀ» ¿©·¯ ¹ø ¹Ýº¹ ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ À¯Àü ¾Ë°í¸®Áò -6 º£ÀÌÁî Á¤¸® ¢º Á¶°ÇºÎ È®·ü ¢º °ö¼À Á¤¸® ¢º º£ÀÌÁî Á¤¸®¢º º£ÀÌÁî Á¤¸®ÀÇ Çؼ® ¢º ¿øÀÎÀÇ È®·ü ¢º º£ÀÌÁî Á¤¸®ÀÇ ÀϹÝÈ¢º ¿ìµµ, »çÀüÈ®·ü, »çÈÄÈ®·ü ¢º À¯¸íÇÑ ¿¹Á¦·Î º£ÀÌÁî Á¤¸®¸¦ È®ÀÎ ¢º º£ÀÌÁî Á¤¸®´Â ÇнÀÀ» Ç¥Çö ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ º£ÀÌÁî Á¤¸® 3Àå ȸ±ÍºÐ¼® -1 Áßȸ±ÍºÐ¼® ¢º Áßȸ±ÍºÐ¼®¢º Áßȸ±ÍºÐ¼®ÀÇ È¸±Í¹æÁ¤½Ä À̹ÌÁö ¢º ȸ±Í¹æÁ¤½ÄÀ» ±¸ÇÏ´Â ¹æ¹ý ¢º ȸ±Í¹æÁ¤½ÄÀ» ÀÌ¿ëÇÑ ºÐ¼® -2 Áßȸ±ÍºÐ¼®À» ¿¢¼¿·Î üÇè ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ È¸±ÍºÐ¼® 4Àå ¼Æ÷Æ® º¤ÅÍ ¸Ó½Å(SVM£© -1 ¼Æ÷Æ® º¤ÅÍ ¸Ó½Å(SVM)ÀÇ ¾Ë°í¸®Áò¢º ±¸Ã¼ÀûÀÎ ¿¹ .¢º ¸¶ÁøÀÇ ÃÖ´ëȸ¦ ½ÄÀ¸·Î Ç¥Çö¢º ½Ö´ë ¹®Á¦·Î º¯È¯ ¢º °è»êÇϱ⠽±µµ·Ï º¯Çü ¢º ¼Æ÷Æ® º¤ÅÍ¿Í »ó¼öÇ× c ±¸Çϱâ -2 ¼Æ÷Æ® º¤ÅÍ ¸Ó½Å(SVM)À» ¿¢¼¿·Î üÇ袺 ¿¢¼¿À» ÀÌ¿ëÇÑ SVM 5Àå ½Å°æ¸Á°ú µö·¯´× -1 ½Å°æ¸Á ±âº» ´ÜÀ§ÀÎ ´º·± ¢º ½Å°æ¸Á°ú ½Å°æ¸ÁÀÇ ±âº» ´ÜÀ§ÀÎ ´º·±¢º °¡ÁßÄ¡¿Í ÀÓ°ì°ª, È°¼ºÈ ÇÔ¼ö °ªÀÇ ÀÇ¹Ì ¢º ¡®ÀÔ·ÂÀÇ ¼±ÇüÇÕ¡¯ÀÇ ³»Àû Ç¥Çö¢º ¿¢¼¿·Î À¯´ÖÀÇ µ¿ÀÛÀ» ÀçÇö -2 À¯´ÖÀ» Ãþº°·Î ³ª¿ÇÑ ½Å°æ¸Á ¢º ±¸Ã¼ÀûÀÎ ¿¹ ¢º À¯´Ö À̸§°ú ÆĶó¹ÌÅÍ À̸§¿¡ °üÇÑ ±ÔÄ¢ ¢º ½Å°æ¸ÁÀ» ½ÄÀ¸·Î Ç¥Çö ¢º ½Å°æ¸Á Ãâ·ÂÀÇ ÀÇ¹Ì ¢º °¡ÁßÄ¡¿Í ÀÓ°ì°ªÀÇ °áÁ¤ ¹æ¹ý°ú ¸ñÀû ÇÔ¼ö ¢º ¿ÀÂ÷¿ªÀüÆĹýÀÇ Çʿ伺¢º Á¦°ö¿ÀÂ÷ÀÇ ½ÄÇ¥Çö -3 ¿ÀÂ÷¿ªÀüÆĹý(¹éÇÁ·ÎÆÛ°ÔÀ̼ǹý£©¢º º¹ÀâÇÑ ¸ñÀû ÇÔ¼ö ¢º ¸ñÀû ÇÔ¼ö EÀÇ ±â¿ï±â´Â Á¦°ö¿ÀÂ÷ ±â¿ï±âÀÇ ÇÕ ¢º À¯´ÖÀÇ ¿ÀÂ÷ ¥ä¸¦ µµÀÔ ¢º ±â¿ï±â¸¦ À¯´ÖÀÇ ¿ÀÂ÷ d·ÎºÎÅÍ »êÃâ ¢º Ãâ·ÂÃþÀÇ ¡®À¯´Ö ¿ÀÂ÷¡¯ jO d ¸¦ »êÃ⢺ ¿ÀÂ÷¿ªÀüÆĹýÀ¸·Î ±¸ÇÏ´Â Áß°£ÃþÀÇ ¡®À¯´Ö ¿ÀÂ÷ jH d -4 ¿ÀÂ÷¿ªÀüÆĹýÀ» ¿¢¼¿·Î üÇè ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ ¿ÀÂ÷¿ªÀüÆĹý ¢º »õ·Î¿î ¼ýÀÚ·Î Å×½ºÆ® 6Àå RNN°ú BPTT -1 ¼øȯ ½Å°æ¸Á(RNN£©ÀÇ ±¸Á¶ ¢º ±¸Ã¼ÀûÀÎ ¿¹ ¢º µ¥ÀÌÅÍÀÇ Çü½Ä°ú Á¤´ä ·¹ÀÌºí¢º ½Å°æ¸Á¿¡ ±â¾ïÀ» °¡Áö°Ô ÇÑ RNN ¢º ¼ö½ÄÀ» ¸¸µé±â À§ÇÑ Áغñ ¢º À¯´ÖÀÇ ÀÔÃâ·ÂÀ» ¼ö½ÄÀ¸·Î Ç¥Çö ¢º ±¸Ã¼ÀûÀÎ ½ÄÀ¸·Î Ç¥Çö ¢º ÃÖÀûȸ¦ À§ÇÑ ¸ñÀû ÇÔ¼ö -2 ½Ã°£ ¿ªÀüÆÄ(Backpropagation through time, BPTT£© ¢º À¯´ÖÀÇ ¿ÀÂ÷¿Í ±â¿ï±â ¢º ±âÀ»±âÀÇ °è»ê½ÄÀ» À¯µµ ¢º kO d , ( ) j2 H d , ( ) i 1 H d ÀÇ °ü°è¸¦ Á¡È½ÄÀ¸·Î Ç¥Çö -3 BPTT¸¦ ¿¢¼¿·Î üÇè .¢º ¿¢¼¿À» ÀÌ¿ëÇÑ BPTT7Àå QÇнÀ -1 °ÈÇнÀ°ú QÇнÀ ¢º °ÈÇнÀÀÇ ´ëÇ¥ÀûÀÎ ±â¹ýÀÎ QÇнÀ ¢º QÇнÀÀ» °³¹Ì·ÎºÎÅÍ ÀÌÇØ ¢º ¸Ó½Å·¯´×°ú °ÈÇнÀ -2 QÇнÀÀÇ ¾Ë°í¸®Áò¢º QÇнÀÀ» ±¸Ã¼ÀûÀÎ ¿¹·Î ÀÌÇØ ¢º °³¹Ì·ÎºÎÅÍ ¹è¿ì´Â QÇнÀÀÇ ¿ë¾î ¢º Q°ª ¢º Q°ªÀÌ ±â·ÏµÈ ±¸Ã¼ÀûÀÎ Àå¼Ò¢º Q°ªÀÇ Ç¥¿Í °³¹ÌÀÇ ´ëÀÀ ¢º Áï½Ãº¸»ó ¢º QÇнÀÀÇ ¼ö½Ä¿¡¼ ÀÌ¿ëµÇ´Â ±âÈ£ÀÇ ÀÇ¹Ì ¢º Q°ªÀÇ °»½Å ¢º ÇнÀ·ü ¢º QÇнÀÀÇ ±âÈ£·Î ´Ù½Ã Ç¥Çö ¢º ¥å-greedy¹ýÀ¸·Î ¸ðÇèÀ» ÇÏ´Â °³¹Ì ¢º ÇнÀÀÇ Á¾·á Á¶°Ç -3 QÇнÀÀ» ¿¢¼¿·Î üÇè ¢º ¿öÅ©½ÃÆ® ÀÛ¼º »óÀÇ À¯ÀÇÁ¡ ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ QÇнÀ 8Àå DQN -1 DQNÀÇ »ç°í¹æ½Ä ¢º DQNÀÇ ±¸Á¶ -2 DQNÀÇ ¾Ë°í¸®Áò¢º °³¹Ì·ÎºÎÅÍ ¹è¿ì´Â DQN ¢º DQNÀÇ ÀÔÃâ·Â¢º DQNÀÇ ¸ñÀû ÇÔ¼ö -3 DQNÀ» ¿¢¼¿·Î üÇè ¢º ¿¹Á¦ÀÇ È®ÀÎ ¢º ½Å°æ¸Á°ú È°¼ºÈ ÇÔ¼öÀÇ °¡Á¤¢º ÃÖÀûÈ µµ±¸·Î ÇØ Ã£±â¸¦ À̿뢺 ¿¢¼¿À» ÀÌ¿ëÇÑ DQN 9Àå ³ªÀÌºê º£ÀÌÁî ºÐ·ù -1 ³ªÀÌºê º£ÀÌÁî ºÐ·ù ¾Ë°í¸®Áò ¢º º£ÀÌÁî ÇÊÅÍÀÇ ±¸Á¶ ¢º ³ªÀÌºê º£ÀÌÁî ºÐ·ù ¢º ±¸Ã¼ÀûÀÎ ¿¹ .¢º ¹®Á¦¸¦ º£ÀÌÁî ½ÄÀ¸·Î Á¤¸® ¢º °ø½Ä Áغñ ¢º »çÀü È®·üÀÇ ¼³Á¤ ¢º º£ÀÌÁî °»½ÅÀ» ÃæºÐÈ÷ È°¿ë -2 º£ÀÌÁî ºÐ·ù¸¦ ¿¢¼¿·Î üÇè ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ ³ªÀÌºê º£ÀÌÁî ºÐ·ù ºÎ·Ï -A ½Å°æ¸ÁÀÇ ÈÆ·Ã µ¥ÀÌÅÍ -B ÇØ Ã£±âÀÇ ¼³Ä¡ ¹æ¹ý -C ¸Ó½Å·¯´×À» À§ÇÑ º¤ÅÍÀÇ ±âÃÊ Áö½Ä¢º º¤ÅÍÀÇ ¼ººÐ Ç¥½Ã ¢º º¤ÅÍÀÇ ³»Àû ¢º Äڽà ½´¹Ù¸£Ã÷ ºÎµî½Ä -D ¸Ó½Å·¯´×À» À§ÇÑ Çà·ÄÀÇ ±âÃÊ Áö½Ä ¢º Çà·ÄÀ̶õ¢º Çà·ÄÀÇ ÇÕ°ú Â÷, »ó¼ö¹è¢º Çà·ÄÀÇ °ö ¢º ¾Æ´Ù¸¶¸£ °ö ¢º ÀüÄ¡Çà·Ä ¢º ½ÄÀ» °£°áÇÏ°Ô ¸¸µå´Â Çà·Ä -E ¸Ó½Å·¯´×À» À§ÇÑ ¹ÌºÐÀÇ ±âÃÊ Áö½Ä¢º ¹ÌºÐÀÇ Á¤ÀÇ¿Í ÀÇ¹Ì ¢º ¸Ó½Å·¯´×¿¡¼ ÀÚÁÖ ³ªÅ¸³ª´Â ÇÔ¼öÀÇ ¹ÌºÐ °ø½Ä ¢º ¹ÌºÐÀÇ ¼ºÁú ¢º 1º¯¼ö ÇÔ¼ö ÃÖ¼Ú°ªÀÇ ÇÊ¿äÁ¶°Ç ¢º ´Ùº¯¼ö ÇÔ¼ö¿Í Æí¹ÌºÐ ¢º ´Ùº¯¼ö ÇÔ¼öÀÇ ÃÖ¼Ú°ªÀÇ ÇÊ¿äÁ¶°Ç¢º ¿¬¼â¹ýÄ¢ -F ´Ùº¯¼ö ÇÔ¼öÀÇ ±Ù»ç °ø½Ä¢º 1º¯¼ö ÇÔ¼öÀÇ ±Ù»ç °ø½Ä ¢º 2º¯¼ö ÇÔ¼öÀÇ ±Ù»ç °ø½Ä ¢º ´Ùº¯¼ö ÇÔ¼öÀÇ ±Ù»ç °ø½Ä -G NN¿¡¼ À¯´ÖÀÇ ¿ÀÂ÷¿Í ±â¿ï±âÀÇ °ü°è -H NN¿¡¼ À¯´Ö ¿ÀÂ÷ÀÇ ¡®¿ª¡¯Á¡È½Ä -I RNN¿¡¼ À¯´Ö ¿ÀÂ÷¿Í ±â¿ï±âÀÇ °ü°è -J BP, BPTT¿¡¼ µµ¿òÀÌ µÇ´Â Á¡È½ÄÀÇ º¹½À ¢º ¼ö¿ÀÇ ÀÇ¹Ì¿Í ±âÈ£¢º ¼ö¿°ú Á¡È½Ä -K RNN¿¡¼ À¯´Ö ¿ÀÂ÷ÀÇ ¡®¿ª¡¯ Á¡È½Ä ¢º ½Ä£ÛK3£ÝÀÇ Áõ¸í ¢º ½Ä£ÛK5£ÝÀÇ Áõ¸í ¢º ½Ä£ÛK4£ÝÀÇ Áõ¸í . -L Áßȸ±Í¹æÁ¤½ÄÀ» ±¸ÇÏ´Â ¹æ¹ý ¢º ¿¢¼¿À» ÀÌ¿ëÇÑ DQN ã¾Æº¸±â(Index)