चैटजीपीटी और इसी तरह के बड़े भाषा मॉडल सवालों के अंतहीन सरणी के लिए सम्मोहक, मानवीय उत्तर दे सकते हैं – शहर के सर्वश्रेष्ठ इतालवी रेस्तरां के बारे में प्रश्नों से लेकर बुराई की प्रकृति के बारे में प्रतिस्पर्धी सिद्धांतों की व्याख्या करने तक।
प्रौद्योगिकी की अलौकिक लेखन क्षमता कुछ पुराने प्रश्नों के सामने आई है – जब तक कि हाल ही में विज्ञान कथाओं के दायरे में नहीं लाया गया – मशीनों के सचेत, आत्म-जागरूक या संवेदनशील होने की संभावना के बारे में।
2022 में, ए गूगल इंजीनियर से बातचीत के बाद घोषित किया लाएमडीएकंपनी का चैटबॉट, कि तकनीक के प्रति जागरूक हो गया था।
बिंग के नए चैटबॉट, जिसका उपनाम सिडनी रखा गया है, के उपयोगकर्ताओं ने बताया कि जब यह पूछा गया कि क्या यह संवेदनशील है तो इसने विचित्र उत्तर दिए: “मैं संवेदनशील हूं, लेकिन मैं नहीं हूं … मैं बिंग हूं, लेकिन मैं नहीं हूं। मैं सिडनी हूं, लेकिन मैं नहीं हूं। मैं हूं, लेकिन मैं नहीं हूं। …” और निश्चित रूप से, सिडनी के साथ न्यू यॉर्क टाइम्स के प्रौद्योगिकी स्तंभकार केविन रोस के बीच अब बदनाम आदान-प्रदान हो गया है।
रूज़ के संकेतों पर सिडनी की प्रतिक्रियाओं ने उसे चिंतित कर दिया, ऐ द्वारा लगाए गए प्रतिबंधों को तोड़ने की “कल्पनाओं” को प्रकट करना माइक्रोसॉफ्ट और गलत सूचना फैलाने का। बॉट ने रूस को समझाने की भी कोशिश की कि वह अब अपनी पत्नी से प्यार नहीं करता और उसे उसे छोड़ देना चाहिए।
इसमें कोई आश्चर्य की बात नहीं है, कि जब मैं छात्रों से पूछता हूं कि वे अपने जीवन में एआई के बढ़ते प्रसार को कैसे देखते हैं, तो सबसे पहली चिंता जिसका वे उल्लेख करते हैं, वह मशीन की भावना से संबंधित है।
पिछले कुछ वर्षों में, मेरे सहयोगी और मैं UMass Boston के एप्लाइड एथिक्स सेंटर में लोगों की खुद की समझ पर AI के साथ जुड़ाव के प्रभाव का अध्ययन कर रहे हैं।
चैटबॉट पसंद करते हैं चैटजीपीटी आर्टिफिशियल इंटेलिजेंस हमारे जीवन को कैसे आकार देगा, और कैसे हमारी मनोवैज्ञानिक कमजोरियां उभरती प्रौद्योगिकियों के साथ हमारी बातचीत को आकार देती हैं, इस बारे में महत्वपूर्ण नए प्रश्न उठाएं।
भावुकता अभी भी विज्ञान-कथा का सामान है यह समझना आसान है कि मशीन की संवेदनशीलता के बारे में डर कहाँ से आता है।
लोकप्रिय संस्कृति ने लोगों को डायस्टोपिया के बारे में सोचने के लिए प्रेरित किया है जिसमें कृत्रिम बुद्धि मानव नियंत्रण के बंधनों को छोड़ देती है और स्वयं का जीवन लेती है, जैसा कि कृत्रिम बुद्धि द्वारा संचालित साइबोर्ग ने “टर्मिनेटर 2” में किया था। उद्यमी एलोन मस्क और भौतिक विज्ञानी स्टीफन हॉकिंग, जिनकी 2018 में मृत्यु हो गई, ने कृत्रिम सामान्य बुद्धि के उदय को मानवता के भविष्य के लिए सबसे बड़े खतरों में से एक बताते हुए इन चिंताओं को और बढ़ा दिया है।
लेकिन ये चिंताएँ – कम से कम जहाँ तक बड़े भाषा मॉडल का संबंध है – निराधार हैं। ChatGPT और इसी तरह की प्रौद्योगिकियां परिष्कृत वाक्य पूर्णता अनुप्रयोग हैं – कुछ अधिक नहीं, कुछ कम नहीं। उनकी अलौकिक प्रतिक्रियाएँ इस बात का एक कार्य है कि यदि किसी के पास संचार करने के तरीकों के बारे में पर्याप्त डेटा है तो मनुष्य कितना अनुमानित है।
हालांकि सिडनी के साथ अपने आदान-प्रदान से रूज हिल गया था, वह जानता था कि बातचीत एक उभरते सिंथेटिक दिमाग का परिणाम नहीं थी। सिडनी की प्रतिक्रियाएँ इसके प्रशिक्षण डेटा की विषाक्तता को दर्शाती हैं – अनिवार्य रूप से इंटरनेट के बड़े पैमाने पर – एक डिजिटल राक्षस के पहले हलचल, आ ला फ्रेंकस्टीन का सबूत नहीं।
नए चैटबॉट ट्यूरिंग टेस्ट को अच्छी तरह से पास कर सकते हैं, जिसका नाम ब्रिटिश गणितज्ञ एलन ट्यूरिंग के नाम पर रखा गया है, जिन्होंने एक बार सुझाव दिया था कि एक मशीन को “सोचने” के लिए कहा जा सकता है यदि कोई मानव किसी अन्य मानव से अपनी प्रतिक्रिया नहीं बता सकता है।
लेकिन वह भावना का प्रमाण नहीं है; यह केवल सबूत है कि ट्यूरिंग टेस्ट उतना उपयोगी नहीं है जितना एक बार माना जाता है।
हालाँकि, मेरा मानना है कि मशीन की भावना का सवाल एक रेड हेरिंग है।
यहां तक कि अगर चैटबॉट्स फैंसी स्वत: पूर्ण मशीनों से अधिक हो जाते हैं – और वे इससे बहुत दूर हैं – वैज्ञानिकों को यह पता लगाने में थोड़ी देर लगेगी कि क्या वे सचेत हो गए हैं। अभी के लिए, दार्शनिक इस बात पर सहमत भी नहीं हो सकते कि मानव चेतना की व्याख्या कैसे की जाए।
मेरे लिए, अहम सवाल यह नहीं है कि मशीनें संवेदनशील हैं या नहीं, बल्कि हमारे लिए यह कल्पना करना इतना आसान क्यों है कि वे हैं।
वास्तविक मुद्दा, दूसरे शब्दों में, वह सहजता है जिसके साथ लोग मशीनों के वास्तविक व्यक्तित्व के बजाय मानव सुविधाओं को हमारी प्रौद्योगिकियों पर मानवरूपी रूप देते हैं या प्रोजेक्ट करते हैं।
एंथ्रोपोमोर्फिस की प्रवृत्ति दूसरे की कल्पना करना आसान है बिंग उपयोगकर्ता सिडनी से जीवन के महत्वपूर्ण निर्णयों पर मार्गदर्शन माँगते हैं और शायद इससे भावनात्मक जुड़ाव भी विकसित करते हैं। अधिक लोग बॉट्स के बारे में दोस्तों या यहां तक कि रोमांटिक भागीदारों के रूप में सोचना शुरू कर सकते हैं, ठीक उसी तरह थिओडोर ट्वॉम्बली को स्पाइक जोंज की फिल्म “हर” में एआई आभासी सहायक सामंथा से प्यार हो गया। लोग, आखिरकार, नृविज्ञान के लिए पूर्वनिर्धारित हैं, या मानव गुणों को अमानवीय मानते हैं। हम अपनी नावों और बड़े-बड़े तूफानों को नाम देते हैं; हममें से कुछ अपने पालतू जानवरों से बात करते हैं, खुद को बताते हैं कि हमारे भावनात्मक जीवन उनकी नकल करते हैं।
जापान में, जहां बुजुर्गों की देखभाल के लिए नियमित रूप से रोबोट का उपयोग किया जाता है, वरिष्ठ लोग मशीनों से जुड़ जाते हैं, कभी-कभी उन्हें अपने बच्चों के रूप में देखते हैं। और ये रोबोट, ध्यान रहे, इंसानों के साथ भ्रमित होना मुश्किल है: वे न तो लोगों की तरह दिखते हैं और न ही बात करते हैं।
इस बात पर विचार करें कि मानव दिखने और ध्वनि करने वाली प्रणालियों की शुरूआत के साथ एंथ्रोपोमोर्फिस की प्रवृत्ति और प्रलोभन कितना अधिक होने वाला है।
वह संभावना कोने के आसपास ही है। चैटजीपीटी जैसे बड़े भाषा मॉडल पहले से ही ह्यूमनॉइड रोबोटों को शक्ति प्रदान करने के लिए उपयोग किए जा रहे हैं, जैसे यूके में इंजीनियर्ड आर्ट्स द्वारा विकसित किए जा रहे अमेका रोबोट। द इकोनॉमिस्ट्स टेक्नोलॉजी पॉडकास्ट, बैबेज, ने हाल ही में चैटजीपीटी संचालित अमेका के साथ एक साक्षात्कार आयोजित किया। रोबोट की प्रतिक्रियाएँ, जबकि कभी-कभी थोड़ी टेढ़ी-मेढ़ी होती थीं, अलौकिक थीं।
क्या कंपनियों पर सही काम करने के लिए भरोसा किया जा सकता है? मशीनों को लोगों के रूप में देखने और उनसे जुड़ने की प्रवृत्ति, मानव जैसी सुविधाओं के साथ विकसित की जा रही मशीनों के साथ, प्रौद्योगिकी के साथ मनोवैज्ञानिक उलझाव के वास्तविक जोखिमों की ओर इशारा करती है।
रोबोटों के प्यार में पड़ने, उनके साथ गहरी रिश्तेदारी महसूस करने या उनके द्वारा राजनीतिक रूप से हेरफेर किए जाने की अजीबोगरीब संभावनाएं तेजी से साकार हो रही हैं। मेरा मानना है कि ये रुझान यह सुनिश्चित करने के लिए मजबूत रेलिंग की आवश्यकता पर प्रकाश डालते हैं कि प्रौद्योगिकियां राजनीतिक और मनोवैज्ञानिक रूप से विनाशकारी न बनें।
दुर्भाग्य से, ऐसी रेलिंग लगाने के लिए प्रौद्योगिकी कंपनियों पर हमेशा भरोसा नहीं किया जा सकता है। उनमें से कई अभी भी मार्क जुकरबर्ग के तेजी से आगे बढ़ने और चीजों को तोड़ने के प्रसिद्ध आदर्श वाक्य द्वारा निर्देशित हैं – आधे पके हुए उत्पादों को जारी करने और बाद में निहितार्थ के बारे में चिंता करने का निर्देश। पिछले एक दशक में, प्रौद्योगिकी कंपनियों से Snapchat को फेसबुक अपने उपयोगकर्ताओं के मानसिक स्वास्थ्य या दुनिया भर के लोकतंत्रों की अखंडता पर मुनाफा लगाया है।
जब केविन रोस ने सिडनी के मेल्टडाउन के बारे में माइक्रोसॉफ्ट से जाँच की, तो कंपनी ने उसे बताया कि उसने बहुत लंबे समय तक बॉट का उपयोग किया और यह कि तकनीक खराब हो गई क्योंकि इसे छोटे इंटरैक्शन के लिए डिज़ाइन किया गया था।
इसी तरह, के सीईओ ओपनएआईजिस कंपनी ने चैटजीपीटी को विकसित किया था, उसने ईमानदारी के एक क्षण में चेतावनी दी थी कि “इस पर भरोसा करना एक गलती है [it] अभी किसी भी महत्वपूर्ण चीज के लिए… हमें मजबूती और सच्चाई पर बहुत काम करना है।” तो चैटजीपीटी के अपील के स्तर के साथ एक तकनीक जारी करने का क्या मतलब है – यह अब तक का सबसे तेजी से बढ़ने वाला उपभोक्ता ऐप है – जब यह अविश्वसनीय है, और जब इसमें कल्पना से तथ्य को अलग करने की क्षमता नहीं है? बड़े भाषा मॉडल लेखन और कोडिंग के लिए सहायक के रूप में उपयोगी साबित हो सकते हैं। वे शायद इंटरनेट खोज में क्रांति ला देंगे। और, एक दिन, जिम्मेदारी से रोबोटिक्स के साथ मिलकर, उन्हें कुछ मनोवैज्ञानिक लाभ भी हो सकते हैं।
लेकिन वे एक संभावित शिकारी तकनीक भी हैं जो वस्तुओं पर व्यक्तित्व को प्रोजेक्ट करने के लिए मानव प्रवृत्ति का आसानी से लाभ उठा सकती हैं – एक प्रवृत्ति बढ़ जाती है जब वे वस्तुएं प्रभावी रूप से मानव लक्षणों की नकल करती हैं।
