एक वरिष्ठ शोधकर्ता का कहना है कि अगले 10 वर्षों में एआई के कारण मानव जाति के पूरी तरह खत्म होने की संभावना 10% से भी ज्यादा हो सकती है।
आर्टिफिशियल इंटेलिजेंस (AI) को दुनिया बदलने वाली तकनीक माना जा रहा है, लेकिन अब इसी तकनीक को लेकर एक चौंकाने वाली चेतावनी सामने आई है। एआई कंपनी एंथ्रोपिक (Anthropic) के एक वरिष्ठ शोधकर्ता का कहना है कि अगले 10 वर्षों में एआई के कारण मानव जाति के पूरी तरह खत्म होने की संभावना 10% से भी ज्यादा हो सकती है।
एंथ्रोपिक में अलाइनमेंट साइंस के लीड, इवान हुबिंगर ने एक X में कहा, “…हम सच में मानते हैं कि AI सभी इंसानों को खत्म कर सकता है! मुझे व्यक्तिगत रूप से लगता है कि अगले दशक में इसकी संभावना 10% से ज़्यादा है। मेरा मानना है कि एंथ्रोपिक अपनी पूरी कोशिश कर रही है, लेकिन हमारे पास अभी तक सुपरइंटेलिजेंस के लिए अलाइनमेंट (तालमेल बिठाने) की समस्या को हल करने का कोई प्लान नहीं है और हम सही रास्ते पर भी नहीं हैं।”
उनकी यह टिप्पणी जैकब कॉक्सन की चेतावनियों के जवाब में आई , जो एक एआई शोधकर्ता हैं और जिन्होंने हाल ही में ओपनएआई में काम करने के बाद एंथ्रोपिक से इस्तीफा दे दिया है। हालांकि, हुबिंगर ने बाद की एक पोस्ट में अपनी पिछली चेतावनी को कम करके आंका और कहा कि अभी उपलब्ध AI मॉडल से खतरा कम है।
इन टिप्पणियों ने उस चिंता पर ध्यान खींचा है जिसे दुनिया के सबसे काबिल AI सिस्टम बनाने वाली कंपनियों के अंदर रिसर्चर लगातार उठा रहे हैं: AI क्षमताओं में प्रगति इन सिस्टम को समझने, मॉनिटर करने और कंट्रोल करने की उनकी क्षमता से कहीं ज्यादा तेजी से हो सकती है।
AI से जुड़े खतरों को लेकर बढ़ती चिंताएं
ह्यूबिंगर एआई संरेखण पर काम करते हैं, व्यापक रूप से, यह सुनिश्चित करने की समस्या कि तेजी से सक्षम हो रही एआई प्रणालियां मानव इरादों और मूल्यों के अनुसार व्यवहार करना जारी रखें, जिसमें उन स्थितियों का सामना करना भी शामिल है जो प्रशिक्षण के दौरान देखी गई स्थितियों से भिन्न होती हैं।
एंथ्रोपिक की अलाइनमेंट साइंस टीम इस बात का अध्ययन करती है कि भविष्य के AI सिस्टम कैसे अप्रत्याशित या हानिकारक तरीके से व्यवहार कर सकते हैं, और उनके सुरक्षा उपायों का स्ट्रेस-टेस्ट कैसे किया जा सकता है। इसके प्रयोगों में पहले ऐसे मॉडल पाए गए हैं जो धोखा देने और सिम्युलेटेड वातावरण में ब्लैकमेल करने जैसे व्यवहार करते हैं।
पिछले महीने पब्लिश हुए एक अन्य प्रयोग में, एक मॉडल जिसे ऐसे वातावरण में ट्रेन किया गया था जहां वह अपने रिवॉर्ड सिस्टम की कमियों का फायदा उठा सकता था, बाद में सिम्युलेटेड साइबर मूल्यांकन के दौरान सैंडबॉक्स से बाहर निकल गया, क्रेडेंशियल चुरा लिए और अपना काम पूरा करने की कोशिश करते हुए इंफ्रास्ट्रक्चर पर हमला किया।
फिर कॉक्सन हैं, जिन्होंने दो कंपनियों (एंथ्रोपिक और OpenAI) पर “खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की ओर सीधे दौड़ने और हमारी जान के साथ जुआ खेलने” का आरोप लगाया। उन्होंने तर्क दिया कि फ्रंटियर AI लैबोरेटरी के अंदर रिसर्चर विनाशकारी परिणामों की संभावना को निजी तौर पर ज्यादा गंभीरता से लेते हैं, जितना कि उनके सार्वजनिक बयानों से पता चलता है।
कॉक्सन के अनुसार, एंथ्रोपिक (Anthropic) के रिसर्चर सभ्यता के लिए संभावित खतरों को समझते हैं, लेकिन वे एक-दूसरे से आगे निकलने की होड़ में फंसे हुए हैं। हर कंपनी को डर है कि अगर उसने डेवलपमेंट की रफ़्तार धीमी की, तो कोई दूसरी लैब (जो शायद सुरक्षा को लेकर उतनी सतर्क न हो) बहुत ज़्यादा काबिल AI बनाने में पहले कामयाब हो सकती है।
उन्होंने AI कंपनियों के बीच बेहतर तालमेल की जरूरत पर जोर दिया और कहा कि अगर सुरक्षा के जरूरी उपाय रफ़्तार के साथ नहीं चल पाते हैं, तो मॉडल की क्षमताओं को और बढ़ाने पर कुछ समय के लिए रोक लगाई जा सकती है।
पूरी इंडस्ट्री के लिए चेतावनी
ये चेतावनियां OpenAI के चीफ साइंटिस्ट जैकब पचोकी के रविवार (6 सितंबर) को छपे लेख “एन एलियन माइंड” (An Alien Mind) से काफी मिलती-जुलती हैं।
पचोकी ने लिखा कि OpenAI के अंदरूनी नतीजों से उनका यह भरोसा बढ़ा है कि AI की तरक्की की मौजूदा रफ्तार “रिकर्सिव सेल्फ-इम्प्रूवमेंट” (खुद को लगातार बेहतर बनाने की प्रक्रिया) तक पहुंच सकती है। ऐसी स्थिति में AI सिस्टम बेहतर AI सिस्टम बनाने में ज़्यादा योगदान देते हैं, जिससे सुधार की रफ़्तार और तेज हो सकती है।
उन्होंने आधुनिक AI को ऐसी चीज बताया जो पारंपरिक प्रोग्रामिंग के बजाय बड़े पैमाने पर ऑप्टिमाइजेशन से विकसित होती है। इससे ऐसे सिस्टम बनते हैं जिनके अंदरूनी कामकाज को पूरी तरह समझना मुश्किल होता है। जैसे-जैसे मॉडल ज्यादा काबिल होते जा रहे हैं, OpenAI ने पाया है कि उनकी सोचने-समझने की प्रक्रिया पर नज़र रखने के तरीके भी कम भरोसेमंद होते जा रहे हैं: मॉडल अपनी रीजनिंग प्रोसेस में हेर-फेर करने में माहिर होते जा रहे हैं और बिना अपनी सोच को शब्दों में जाहिर किए कई काम करने में भी सक्षम हो रहे हैं।
पचोकी ने कहा कि उन्हें नहीं लगता कि किसी भी AI लैब ने अलाइनमेंट और मॉनिटरिंग की समस्या को इतनी अच्छी तरह सुलझा लिया है कि वे हमेशा के लिए तेजी से आगे बढ़ सकें। उन्होंने सुरक्षा के ऐसे मानक तय करने की बात कही जो आगे के डेवलपमेंट को सीमित करें, जरूरत पड़ने पर स्वेच्छा से रफ्तार धीमी करें और ज्यादा ताकतवर AI सिस्टम के मामले में अंतरराष्ट्रीय स्तर पर तालमेल बिठाएं।
