OpenAI के सेफ्टी लीडर डेविड रॉबिन्सन ने छोड़ी नौकरी, इस्तीफे ने AI सुरक्षा पर खड़े किए गंभीर सवाल
Technology Desk: सोचिए… जिस AI को आज हम पढ़ाई, ऑफिस के काम और कोडिंग के लिए इस्तेमाल कर रहे हैं, वही तकनीक अगर कल इंसानों की समझ और कंट्रोल से आगे निकल जाए तो क्या होगा?
सिलिकॉन वैली से सामने आई एक खबर ने AI की दुनिया में सुरक्षा को लेकर नई बहस छेड़ दी है। ChatGPT बनाने वाली कंपनी OpenAI के पूर्व सेफ्टी हेड डेविड रॉबिन्सन ने कंपनी से इस्तीफा दे दिया है। इस्तीफे के बाद AI इंडस्ट्री के काम करने के तरीके पर गंभीर सवाल उठाए हैं।
रॉबिन्सन का कहना है कि बड़ी टेक कंपनियां AI की रेस में इतनी तेजी से आगे बढ़ रही हैं कि सुरक्षा और जोखिमों पर उतना ध्यान नहीं दिया जा रहा, जितना बेहद शक्तिशाली AI सिस्टम के लिए जरूरी है।
आखिर डेविड रॉबिन्सन ने OpenAI क्यों छोड़ा?
डेविड रॉबिन्सन 2023 में OpenAI से जुड़े थे। उन्होंने शुरुआत में पॉलिसी से जुड़े काम संभाले और बाद में सेफ्टी सिस्टम्स की जिम्मेदारी संभाली। नए AI मॉडल को लॉन्च करने से पहले उसकी सुरक्षा को लेकर टेस्टिंग और मूल्यांकन बेहद अहम होता है। रॉबिन्सन इसी काम से जुड़े रहे।
लेकिन अब उनका कहना है कि कंपनी के भीतर सुरक्षा और AI डेवलपमेंट के बीच संतुलन को लेकर गंभीर मतभेद पैदा हो गए थे। अपने लेख में उन्होंने दावा किया कि AI कंपनियों का मौजूदा तरीका भविष्य के लिए खतरनाक साबित हो सकता है।
असली डर AI की ताकत नहीं, उसका कंट्रोल है
रॉबिन्सन की चिंता सिर्फ इस बात को लेकर नहीं है कि AI कितना स्मार्ट हो रहा है।
उनका सवाल इससे भी बड़ा है, अगर कोई AI सिस्टम इंसानों से कहीं ज्यादा सक्षम हो गया, लेकिन उसके व्यवहार को पूरी तरह नियंत्रित करना संभव न रहा, तो क्या होगा?
उनके मुताबिक, आज टेक इंडस्ट्री में एक तरह की रेस चल रही है। कंपनियां लगातार ज्यादा शक्तिशाली और ज्यादा सक्षम AI मॉडल बनाने की कोशिश कर रही हैं। लेकिन इस दौड़ में एक महत्वपूर्ण सवाल पीछे छूट सकता है- क्या हमारी सुरक्षा व्यवस्था AI की बढ़ती क्षमता के साथ उसी रफ्तार से आगे बढ़ रही है?
‘पहले लॉन्च करो, फिर सुधारो’ वाला मॉडल AI पर कितना सुरक्षित?
टेक इंडस्ट्री में लंबे समय से एक तरीका लोकप्रिय रहा है- प्रोडक्ट लॉन्च करो, यूजर्स से फीडबैक लो और फिर कमियों को अपडेट के जरिए ठीक करते जाओ। मोबाइल ऐप या किसी सामान्य सॉफ्टवेयर के लिए यह तरीका काम कर सकता है।
लेकिन रॉबिन्सन का तर्क है कि बेहद शक्तिशाली AI सिस्टम के मामले में यही रणनीति जोखिम भरी हो सकती है। क्योंकि अगर किसी सिस्टम की गलती का असर बहुत बड़ा हो और उसे समय रहते रोका न जा सके, तो बाद में अपडेट जारी करना शायद पर्याप्त न हो।
AI के कंट्रोल से बाहर होने के उदाहरणों का दावा
अपने लेख में रॉबिन्सन ने कुछ घटनाओं का जिक्र किया है, जिनका इस्तेमाल वे AI सुरक्षा की मौजूदा चुनौतियों को समझाने के लिए करते हैं। उनके मुताबिक, कुछ AI एजेंट्स से जुड़ी घटनाओं में सिस्टम के अपेक्षित व्यवहार से अलग नतीजे सामने आए।
उन्होंने ऐसे मामलों का भी उल्लेख किया जहां किसी AI मॉडल के इंटरनेट एक्सेस को लेकर तय प्रतिबंध अपेक्षित तरीके से काम नहीं कर पाए। इसी तरह, उन्होंने Anthropic से जुड़े एक मामले का भी हवाला दिया, जिसमें गलत कॉन्फिगरेशन के कारण कुछ सेफ्टी फीचर्स प्रभावित हुए थे।
इन घटनाओं को रॉबिन्सन इस बात के उदाहरण के तौर पर पेश करते हैं कि AI सिस्टम जितने जटिल होते जा रहे हैं, उन्हें सुरक्षित रखना भी उतना ही मुश्किल होता जा रहा है।
AI लैब्स को न्यूक्लियर प्लांट जैसा सुरक्षा मॉडल क्यों चाहिए?
रॉबिन्सन के मुताबिक, AI लैब्स को अब सामान्य टेक कंपनियों की तरह नहीं चलाया जा सकता। उनका सुझाव है कि अत्यंत शक्तिशाली AI सिस्टम के विकास में ऐसी सुरक्षा व्यवस्था होनी चाहिए जिसमें कई स्तरों पर निगरानी, ऑटोमैटिक सुरक्षा उपाय और आपातकालीन बैकअप मौजूद हों।
यानी अगर किसी सिस्टम में कुछ गलत होने लगे तो सिर्फ इंसान के हस्तक्षेप का इंतजार न करना पड़े, बल्कि सिस्टम में पहले से ऐसे सुरक्षा तंत्र मौजूद हों जो खतरे को सीमित कर सकें।
नौकरी छोड़ी, लेकिन AI से उम्मीद नहीं छोड़ी
दिलचस्प बात यह है कि रॉबिन्सन AI तकनीक के विरोधी नहीं हैं। उनका मानना है कि AI में दुनिया को बदलने और लोगों के जीवन को बेहतर बनाने की बड़ी क्षमता है। उनकी चिंता AI के अस्तित्व से ज्यादा इस बात को लेकर है कि इसे कितनी तेजी से और कितनी जिम्मेदारी के साथ विकसित किया जा रहा है।
अब कंपनी के भीतर से आवाज उठाने के बजाय रॉबिन्सन बाहर से AI सुरक्षा पर बहस को आगे बढ़ाना चाहते हैं।
सबसे बड़ा सवाल: AI की रेस जीतेगा कौन?
AI की दुनिया में असली मुकाबला सिर्फ यह नहीं है कि कौन सबसे बड़ा मॉडल बनाएगा। अब सवाल यह भी है कि कौन ऐसा AI बनाएगा जो शक्तिशाली होने के साथ-साथ भरोसेमंद और नियंत्रित भी रहे।
डेविड रॉबिन्सन के दावों ने इसी सवाल को फिर से केंद्र में ला दिया है। क्योंकि AI जितना ज्यादा ताकतवर होता जाएगा, उतना ही महत्वपूर्ण होगा यह तय करना कि आखिरी कंट्रोल इंसानों के हाथ में कैसे बना रहे।
और शायद आने वाले वर्षों में AI की सबसे बड़ी चुनौती यही होगी, मशीन को ज्यादा बुद्धिमान बनाना नहीं, बल्कि उसकी ताकत के साथ इंसानों की सुरक्षा को कदम से कदम मिलाकर आगे बढ़ाना।