सामग्री
सादरः अल्टाएमएल
प्रश्नः
काही कंपन्या आधुनिक एआय सिस्टममध्ये "मानवी अभिप्राय नियंत्रणे" जोडण्याचा विचार का करीत आहेत?
उत्तरः
अत्याधुनिक एआय तंत्रज्ञानासह काम करणार्‍या काही कंपन्या या प्रणालींसाठी मानवी नियंत्रणे स्थापित करण्याचे काम करीत आहेत, मशीन शिक्षण आणि सखोल शिक्षण साधनांना काही थेट मानवी निरीक्षण करतात. या कंपन्या एकतर लहान खेळाडू नाहीत - Google ची दीपमाईंड आणि एलोन मस्कची ओपनएआय ही दोन प्रमुख कंपन्यांची कृत्रिम बुद्धिमत्ता प्रगतीविषयी हातभार लावत आहेत. हे लक्षात घेऊन, निकाल भिन्न - उदाहरणार्थ, दीपमाईंड जनतेला महत्त्वाचा डेटा पुरविण्यास नकार देण्याची इच्छा नसल्यामुळे वादाचा विषय झाला आहे, तर ओपनएआय जास्त आहे, उघडा कृत्रिम बुद्धिमत्ता नियंत्रित करण्याच्या त्याच्या कार्याबद्दल.
बिल गेट्स यासारख्या उल्लेखनीय गोष्टीदेखील या विषयावर विचारल्या गेल्या आहेत, असे गेट्स म्हणाले की कृत्रिम सतर्कविवेकबुद्धीच्या उदयाबद्दल चिंता करणारे अनेक लोक आहेत जे काही प्रकारे मानवी नियंत्रणापलीकडे जाऊ शकते. कस्तुरीने त्याच्या दृष्टीकोनातून “नकली एआय” च्या संभाव्यतेविषयी काही चिंताजनक भाषादेखील दिली आहे.
कंपन्या एआय वर मानवी नियंत्रणे लागू करण्याचे काम करत आहेत हे सर्वात तातडीचे कारण आहे - ही कल्पना आहे की काही तांत्रिक एकात्मतेमुळे एखाद्या अति-शक्तिशाली संवेदनशील तंत्रज्ञानाची अंमलबजावणी होईल ज्यामुळे मानव केवळ नियंत्रित करू शकत नाही. मानवी महत्वाकांक्षेच्या प्रारंभापासूनच, आम्ही आपल्यावर चालवलेल्या शक्तींवर नियंत्रण ठेवू शकतो याची खात्री करण्यासाठी आम्ही साधने ठेवली आहेत - मग तो लगाम आणि हार्नेस असलेले घोडे असो, इन्सुलेटेड वायर्समधील वीज असो किंवा इतर कोणत्याही प्रकारची नियंत्रण यंत्रणा असो. नियंत्रण हा जन्मजात मानवी कार्य आहे आणि म्हणूनच जगातील सर्वांना हे समजते की कृत्रिम बुद्धिमत्ता वास्तविक कार्यक्षमतेच्या जवळ येताच, ती शक्ती कायम ठेवण्यासाठी मनुष्य स्वतःची थेट नियंत्रणे लागू करतो.
तथापि, सुपर-इंटेलिजेंट रोबोट्सची भीती हे एकमेव कारण नाही की कंपन्या मशीन लर्निंग आणि एआय प्रकल्पांवर मानवी नियंत्रणे लागू करतात. मशीनचे पक्षपात करणे हे आणखी एक प्रमुख कारण आहे - अशी कल्पना आहे की कृत्रिम बुद्धिमत्ता प्रणाली बहुतेक वेळा प्रश्नातील डेटाचे मूल्यांकन कसे करतात यावर मर्यादित असतात - जेणेकरून ते सिस्टममधील मूळ पूर्वाग्रह वर्धित करतात. मशीनी शिक्षणाशी संबंधित बहुतेक व्यावसायिक आयटी सिस्टमविषयी भयानक कथा सांगू शकतात जे मानवी वापरकर्ता गटांना समान वागणूक देऊ शकत नाहीत - मग ते लिंग असो की वांशिक असमानता, किंवा आमच्या मानवी समाजातील बारकावे समजून घेण्यात यंत्रणेतील काही अन्य अपयश आणि आम्ही लोकांशी कसा संवाद साधतो.
एका अर्थाने, आम्ही कदाचित सिस्टमवर मानवी नियंत्रणे ठेवू कारण आम्हाला भीती आहे की ते खूप शक्तिशाली असू शकतात - किंवा वैकल्पिकरित्या, कारण आम्हाला वाटते की ते पुरेसे शक्तिशाली नसतील. मानवी नियंत्रणे अधिक सुस्पष्टता प्रदान करण्यासाठी मशीन शिक्षण डेटा सेट लक्ष्यित करण्यात मदत करतात. ते फक्त संगणक स्वतःच शिकू शकत नाहीत अशा कल्पनांना पुष्टी देण्यास मदत करतात, एकतर मॉडेल पुरेसे परिष्कृत नसलेले आहे, कारण एआय आतापर्यंत प्रगती करत नाही आहे किंवा काही गोष्टी फक्त मानवी आकलनाच्या प्रांतात आहेत. कृत्रिम बुद्धिमत्ता काही गोष्टींसाठी उत्तम असते - उदाहरणार्थ, बक्षीस आणि स्कोअर-आधारित सिस्टीममुळे कृत्रिम बुद्धिमत्तेने अत्यंत जटिल बोर्ड गेम “गो” येथे एखाद्या मानवी खेळाडूला हरवले - परंतु इतर गोष्टींसाठी ही प्रोत्साहन-आधारित प्रणाली आहे पूर्णपणे अपुरी
थोडक्यात, कृत्रिम बुद्धिमत्ता प्रकल्प कसे कार्य करतात यामध्ये थेट मानवी गुंतवणूकी ठेवण्यासाठी अनेक सक्तीची कारणे आहेत. अगदी कृत्रिम बुद्धिमत्ता तंत्रज्ञानदेखील स्वतःहून बरेच विचार करू शकतात - परंतु भावना आणि सामाजिक गोष्टींसारख्या गोष्टींवर प्रक्रिया करू शकणार्‍या वास्तविक जैविक मानवी मेंदूशिवाय, ते मानवी मार्गाने मोठे चित्र पाहू शकत नाहीत.
एक कुशल मशीन शिक्षण कंपनी व्यवसाय आणि विषय-विषयातील तज्ञ आणि मशीन लर्निंग डेव्हलपर यांच्या मोठ्या व्यवसायातील अडचणी सोडविण्याच्या कौशल्यांच्या मिश्रणात हे शिल्लक उंचावण्यास मदत करू शकते.
