सामग्री
प्रश्नः
कृत्रिम आवर्ती मज्जासंस्थेसंबंधी नेटवर्क नेहमीच का कठीण असतात?
उत्तरः
कृत्रिम आवर्ती न्यूरल नेटवर्क प्रशिक्षित करण्याची अडचण त्यांच्या जटिलतेशी संबंधित आहे.
वारंवार न्यूरल नेटवर्क प्रशिक्षित करणे का अवघड आहे हे सांगण्याचा एक सोपा मार्ग म्हणजे ते फीडफॉरवर्ड न्यूरल नेटवर्क नाहीत.
फीडफॉरवर्ड न्यूरल नेटवर्कमध्ये, सिग्नल फक्त एक मार्ग हलवतात. सिग्नल इनपुट लेयर वरुन विविध छुप्या थरांकडे आणि पुढे प्रणालीच्या आउटपुट लेयरवर जाते.
याउलट, वारंवार न्यूरल नेटवर्क आणि इतर विविध प्रकारच्या न्यूरल नेटवर्कमध्ये सिग्नलच्या अधिक हालचाली होतात. "अभिप्राय" नेटवर्क म्हणून वर्गीकृत, वारंवार न्यूरल नेटवर्कमध्ये पुढे आणि मागे दोन्ही प्रवास करणारे सिग्नल असू शकतात आणि नेटवर्कमध्ये क्रमांक किंवा मूल्ये परत दिली गेलेल्या नेटवर्कमध्ये विविध "लूप" असू शकतात. तज्ञ हे त्यांच्या स्मरणशक्तीशी संबंधित वारंवार न्यूरल नेटवर्क्सच्या पैलूशी संबंधित आहेत.
याव्यतिरिक्त, आवर्त न्यूरल नेटवर्कवर परिणाम करणारी आणखी एक प्रकारची गुंतागुंत आहे. याचे एक उत्कृष्ट उदाहरण म्हणजे नैसर्गिक भाषा प्रक्रियेच्या क्षेत्रात.
अत्याधुनिक नैसर्गिक भाषेच्या प्रक्रियेमध्ये, तंत्रिका नेटवर्कला गोष्टी लक्षात ठेवण्यास सक्षम असणे आवश्यक आहे. हे देखील कॉन मध्ये इनपुट घेणे आवश्यक आहे. समजा असा एखादा प्रोग्राम आहे ज्यास अन्य शब्दाच्या एका वाक्यात एखाद्या शब्दाचे विश्लेषण किंवा भविष्यवाणी करण्याची इच्छा आहे. उदाहरणार्थ, सिस्टमचे मूल्यमापन करण्यासाठी पाच शब्दांची लांबी निश्चित असू शकते. म्हणजे न्यूरल नेटवर्कला या शब्दासाठी प्रत्येक शब्द इनपुट ठेवणे आवश्यक आहे, तसेच या शब्दांच्या शब्दांची “आठवण” ठेवण्याची किंवा प्रशिक्षित करण्याची क्षमता देखील आहे. त्या आणि इतर तत्सम कारणास्तव, वारंवार येणा ne्या न्यूरल नेटवर्कमध्ये सिस्टममध्ये हे थोडे लपलेले लूप आणि फीडबॅक असतात.
या गुंतागुंतमुळे नेटवर्क प्रशिक्षित करणे अवघड होते, असे तज्ञांनी दु: ख व्यक्त केले. याचे स्पष्टीकरण देण्याचा एक सर्वात सामान्य मार्ग म्हणजे स्फोट होणे आणि ग्रेडियंट समस्येचा नाश करणे. मूलभूतपणे, नेटवर्कचे वजन एकतर मोठ्या संख्येने पाससह विस्फोट किंवा मूल्ये नष्ट होण्यास कारणीभूत ठरेल.
न्यूरल नेटवर्कचे पायनियर जेफ हिंटन हे वेबवर या इंद्रियगोचरचे स्पष्टीकरण सांगतात की बॅकवर्ड रेषीय पासेसमुळे लहान वजन वेगाने लहान होईल आणि मोठ्या प्रमाणात स्फोट होतील.
ही समस्या, तो पुढे म्हणतो, लांब क्रम आणि बर्‍याच वेळेच्या चरणांमुळे आणखीनच वाईट होते, ज्यामध्ये सिग्नल वाढतात किंवा क्षय होतात. वजन आरंभ करण्यास मदत होऊ शकते, परंतु ती आव्हाने आवर्ती न्यूरल नेटवर्क मॉडेलमध्ये तयार केली जातात. थेरेस हा नेहमीच त्यांच्या विशिष्ट डिझाइन आणि बिल्डशी संबंधित मुद्दा असतो. मूलत:, काही जटिल प्रकारचे न्यूरो नेटवर्क खरोखर सहजपणे व्यवस्थापित करण्याच्या आमच्या क्षमतेचे उल्लंघन करतात. आम्ही व्यावहारिकदृष्ट्या असीम प्रमाणात जटिलता तयार करू शकतो परंतु आम्ही बर्‍याचदा अंदाज आणि स्केलेबिलिटी आव्हाने वाढत असल्याचे पाहतो.