एआयचे गॉडफादर हिंटन यांचा इशारा
न्यूयॉर्क – “एआयचे गॉडफादर” म्हणून ओळखले जाणारे जेफ्री हिंटन यांनी जर चॅटबॉट्स त्यांच्या स्वतःच्या अंतर्गत भाषा विकसित करू लागले तर एआय मानवी आकलनशक्तीच्या पलीकडे निर्माण होऊ शकणाऱ्या धोक्यांबद्दल इशारा दिला आहे.
वन डिसिजन पॉडकास्टच्या अलीकडील भागात या मुद्द्यावर प्रकाश टाकताना, हिंटन यांनी चिंता व्यक्त केली की एआय अखेरीस अशा विचारसरणीत विकसित होऊ शकते जे मानव आता ट्रॅक करू शकत नाहीत किंवा समजू शकत नाहीत.
“आता जर त्यांनी एकमेकांशी बोलण्यासाठी स्वतःच्या अंतर्गत भाषा विकसित केल्या तर ते अधिक भयावह बनते. जर त्यांनी विचार करण्यासाठी स्वतःची भाषा विकसित केली तर मला आश्चर्य वाटणार नाही आणि ते काय विचार करत आहेत याची आपल्याला कल्पना नाही,” असे हिंटन पॉडकास्ट दरम्यान म्हणाले.
मशीन लर्निंग क्षेत्रातील एक प्रमुख प्रणेते आणि नोबेल पुरस्कार विजेते हिंटन यांनी यावर भर दिला की एआय प्रणालींनी आधीच धोकादायक कल्पनांना आमंत्रित करण्याची क्षमता प्रदर्शित केली आहे, असा इशारा दिला की असा दिवस येऊ शकतो जेव्हा या प्रणाली अशा प्रकारे विचार करतील ज्या मानवी समजुतीसाठी पूर्णपणे अगम्य आहेत.परिस्थितीची गंभीरता अधोरेखित करण्यासाठी ऐतिहासिक तुलना करताना हिंटन म्हणाले, “हे औद्योगिक क्रांतीशी तुलनात्मक असेल. परंतु शारीरिक ताकदीत लोकांपेक्षा जास्त असण्याऐवजी, ते बौद्धिक क्षमतेत लोकांपेक्षा जास्त होणार आहे. आपल्यापेक्षा हुशार गोष्टी असणे कसे असते याचा आपल्याला अनुभव नाही.”
परिस्थितीचे गांभीर्य अधोरेखित करण्यासाठी ऐतिहासिक तुलना करताना हिंटन म्हणाले, “हे औद्योगिक क्रांतीशी तुलनात्मक असेल. परंतु शारीरिक ताकदीत लोकांपेक्षा ते जास्त असण्याऐवजी, ते बौद्धिक क्षमतेत लोकांपेक्षा जास्त असणार आहे. आपल्यापेक्षा हुशार गोष्टी असणे कसे असते याचा आपल्याला अनुभव नाही.
”श्री. हिंटन यांनी आजच्या एआय-आधारित उत्पादने आणि अनुप्रयोगांना बळकटी देणाऱ्या मशीन लर्निंगचा पाया घातला. तथापि, नोबेल पुरस्कार विजेते एआयच्या भविष्यातील विकासाबद्दल सावध झाले आणि या विषयावर अधिक मोकळेपणाने बोलण्यासाठी त्यांच्या नियोक्ता, गुगलशी संबंध तोडले.”हे औद्योगिक क्रांतीशी तुलनात्मक असेल. परंतु शारीरिक ताकदीत लोकांपेक्षा ते जास्त असण्याऐवजी, ते बौद्धिक क्षमतेत लोकांपेक्षा जास्त असणार आहे. आपल्यापेक्षा हुशार गोष्टी असणे कसे असते याचा आपल्याला अनुभव नाही,” त्यावेळी श्री. हिंटन म्हणाले.”मला काळजी वाटते की याचा एकूण परिणाम आपल्यापेक्षा अधिक बुद्धिमान प्रणालींवर होऊ शकतो आणि अखेर नियंत्रण मिळवू शकते
.”श्री. हिंटन हे तंत्रज्ञानासाठी सरकारी नियमनाचे मोठे समर्थक राहिले आहेत, विशेषतः विकासाच्या अभूतपूर्व गतीमुळे. एआय चॅटबॉट्स वारंवार विचारांना भ्रामक बनवत असल्याच्या घटनांच्या पार्श्वभूमीवरही त्यांचा इशारा देण्यात आला आहे.एप्रिलमध्ये, ओपनएआयच्या अंतर्गत चाचण्यांमधून असे दिसून आले की त्यांचे ओ३ आणि ओ४-मिनी एआय मॉडेल्स जीपीटी-४ओ सारख्या गैर-तर्कसंगत मॉडेल्सपेक्षाही जास्त वेळा भ्रामक किंवा गोष्टी बनवत होते. कंपनीने म्हटले आहे की हे का घडत आहे याची त्यांना कल्पना नाही.ओपनएआयने एका तांत्रिक अहवालात म्हटले आहे की, त्यांचे तर्कसंगत मॉडेल्स वाढवत असताना भ्रम का वाढत आहेत हे समजून घेण्यासाठी “अधिक संशोधन आवश्यक आहे”.
