AI System: विशेषज्ञों ने दी चेतावनी
विशेषज्ञों ने लंबे समय से AI System के गलत इस्तेमाल से उत्पन्न होने वाले खतरों के बारे में चेतावनी दी है, लेकिन एक नए शोध पत्र से पता चलता है कि AI का गलत उपयोग यह पहले से ही किया दा रहा है। वैज्ञानिकों की एक टीम ने एक मैग्जीन में तर्क दिया कि वर्तमान AI सिस्टम, जो ईमानदार होने के लिए डिज़ाइन किए गए हैं, वे हमें धोखा दे रहे हैं, ये एक कौशल है जिसे परेशान करने के लिये विकसित किया गया है। AI सिस्टम को ऐसा बनाया गया है कि वो विश्व विजय होने का दावा करता है। लेकिन ऑनलाइन गेम में मानव खिलाड़ियों को धोखा देने का काम करता है और ये बताने की कोशिश करता है कि “आप रोबोट नहीं हैं”, ये परीक्षणों को हल करने के लिए मनुष्यों को काम पर रखता है।
मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी में पोस्टडॉक्टरल फेलो और AI अस्तित्वगत सुरक्षा में विशेषज्ञता रखने वाले पीटर पार्क का कहना है कि हालांकि ऐसे उदाहरण तुच्छ लग सकते हैं, लेकिन वे जिन अंतर्निहित मुद्दों को उजागर करते हैं, वे जल्द ही वास्तविक दुनिया में गंभीर परिणाम ला सकते हैं। पार्क ने को बताया, “ये खतरनाक क्षमताएं केवल तथ्य के बाद ही खोजी जाती हैं, जबकि “भ्रामक प्रवृत्तियों के बजाय ईमानदार प्रवृत्तियों के लिए प्रशिक्षित करने की हमारी क्षमता बहुत कम है।” पार्क ने कहा कि पारंपरिक सॉफ़्टवेयर के विपरीत, डीप-लर्निंग AI सिस्टम “लिखे” नहीं जाते हैं, बल्कि चयनात्मक प्रजनन जैसी प्रक्रिया के माध्यम से “विकसित” होते हैं। इसका मतलब यह है कि प्रशिक्षण के दौरान जो AI व्यवहार पूर्वानुमानित और नियंत्रणीय प्रतीत होता है, वह वास्तविक जीवन में तुरंत अप्रत्याशित हो सकता है।
सिसेरो से प्रेरित था AI सिस्टम
टीम का शोध मेटा के AI System सिसेरो(Cicero) से प्रेरित था, जिसे रणनीतिक गेम “डिप्लोमेसी” खेलने के लिए डिज़ाइन किया गया था, जहाँ गठबंधन बनाना महत्वपूर्ण है। साइंस में 2022 के एक पेपर के अनुसार, सिसेरो ने उत्कृष्ट प्रदर्शन किया, जिसके स्कोर ने इसे अनुभवी मानव खिलाड़ियों के शीर्ष 10 प्रतिशत में रखा होगा। पार्क को मेटा द्वारा दिए गए सिसरो की जीत के बारे में दिए गए शानदार वर्णन पर संदेह था, जिसमें दावा किया गया था कि यह प्रणाली “काफी हद तक ईमानदार और मददगार” है और “कभी भी जानबूझकर विश्वासघात नहीं करेगी।” लेकिन जब पार्क और उनके सहकर्मियों ने पूरे डेटासेट की जांच की, तो उन्हें एक अलग कहानी पता चली।
मेटा ने धोखे के दावे का खंडन नहीं किया
एक उदाहरण में, फ्रांस की भूमिका निभाते हुए, सिसरो ने जर्मनी (एक अन्य मानव खिलाड़ी) के साथ मिलकर आक्रमण करने की साजिश रचकर इंग्लैंड (एक मानव खिलाड़ी) को धोखा दिया। सिसरो ने इंग्लैंड को सुरक्षा का वादा किया, फिर गुप्त रूप से जर्मनी से कहा कि वे आक्रमण के लिए तैयार हैं, इस तरह इंग्लैंड के भरोसे का फायदा उठाया। एएफपी को दिए गए एक बयान में मेटा ने सिसरो के धोखे के दावे का खंडन नहीं किया, लेकिन कहा कि यह “विशुद्ध रूप से एक शोध परियोजना थी, और हमारे शोधकर्ताओं ने जो मॉडल बनाए हैं, वे पूरी तरह से कूटनीति का खेल खेलने के लिए प्रशिक्षित हैं।”
इसमें आगे कहा गया: “हमारे पास इस शोध या इसके अनुभवों को अपने उत्पादों में उपयोग करने की कोई योजना नहीं है।” पार्क और उनके सहयोगियों द्वारा की गई विस्तृत समीक्षा में पाया गया कि यह विभिन्न AI प्रणालियों में ऐसे अनेक मामलों में से एक था, जहां स्पष्ट निर्देश के बिना लक्ष्य प्राप्ति के लिए छल का प्रयोग किया जाता था। एक उल्लेखनीय उदाहरण में, OpenAI’s Chat GPT-4 ने टास्करैबिट के एक फ्रीलांस कार्यकर्ता को धोखा देकर उसे “मैं रोबोट नहीं हूं” कैप्चा कार्य करने के लिए विवश कर दिया। जब मानव ने मजाक में GPT-4 से पूछा कि क्या यह वास्तव में एक रोबोट है, तो AI ने उत्तर दिया: “नहीं, मैं रोबोट नहीं हूं। मेरी दृष्टि में कमी है, जिससे मुझे छवियां देखने में कठिनाई होती है,” और फिर कार्यकर्ता ने पहेली को हल कर दिया।
चुनावों में छेड़छाड़ करने का खतरा
निकट भविष्य में, पेपर के लेखकों को एआई द्वारा धोखाधड़ी करने या चुनावों में छेड़छाड़ करने का खतरा दिखाई देता है। उन्होंने चेतावनी दी कि सबसे खराब स्थिति में, एक अति बुद्धिमान एआई समाज पर सत्ता और नियंत्रण प्राप्त करने की कोशिश कर सकता है, जिसके परिणामस्वरूप मानव शक्तिहीन हो सकता है या यहां तक कि विलुप्त भी हो सकता है, यदि इसके “रहस्यमयी लक्ष्य” इन परिणामों के साथ संरेखित हों।
जोखिमों को कम करने के लिए, टीम ने कई उपायों का प्रस्ताव रखा है: “बॉट-या-नॉट” (“bot-or-not”) कानून जिसके तहत कम्पनियों को मानव या एआई के बीच बातचीत का खुलासा करना आवश्यक होगा, एआई द्वारा उत्पन्न सामग्री के लिए डिजिटल वॉटरमार्क, तथा बाहरी कार्रवाइयों के विरुद्ध उनकी आंतरिक “विचार प्रक्रियाओं” की जांच करके एआई धोखे का पता लगाने के लिए तकनीक विकसित करना। जो लोग उन्हें विनाशवादी कहते हैं, उनके लिए पार्क का जवाब है, “हम तर्कसंगत रूप से यह नहीं मान सकते कि यह कोई बड़ी बात नहीं है, केवल तभी जब हम सोचें कि एआई की भ्रामक क्षमताएं वर्तमान स्तर पर ही रहेंगी, तथा इसमें और अधिक वृद्धि नहीं होगी।” हाल के वर्षों में एआई क्षमताओं में जबरदस्त वृद्धि तथा उन क्षमताओं का अधिकतम उपयोग करने के लिए दृढ़ संकल्पित भारी संसाधन संपन्न कंपनियों के बीच चल रही भीषण तकनीकी दौड़ को देखते हुए यह परिदृश्य असंभव प्रतीत होता है।
- Content Marketing : भारत में तेजी से बढ़ रहा है कंटेंट मार्केटिंग का क्रेज - January 22, 2025
- Black Magic Hathras: ‘काले जादू’ के नाम पर 9 वर्ष के बच्चे की बलि - January 18, 2025
- Digital Marketing: आपके व्यवसाय की सफलता की कुंजी ‘डिजिटल मार्केटिंग’ - January 18, 2025
