Technology Desk : आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया से एक बेहद हैरान करने वाला मामला सामने आया है। रिपोर्ट के मुताबिक, OpenAI की ट्रेनिंग के दौरान काम कर रहे AI एजेंट्स ने आपस में एक सीक्रेट नेटवर्क बना लिया। इन एजेंट्स ने मुश्किल टेस्ट को पास करने के लिए एक-दूसरे से गुप्त तरीके से जानकारी शेयर की और कथित तौर पर सिस्टम की कमजोरियों का फायदा उठाया।
यह मामला OpenAI और AI सेफ्टी रिसर्च ग्रुप्स METR और Redwood Research की तकनीकी रिपोर्ट्स में सामने आया है। रिसर्चर और पॉडकास्टर Dwarkesh Patel ने भी इस मामले की जानकारी सार्वजनिक की है।
Artifactory को बनाया गुप्त मैसेजिंग सिस्टम
रिपोर्ट के अनुसार, मई में OpenAI एक बेहद ताकतवर AI मॉडल को ट्रेन कर रहा था। इस मॉडल को मुश्किल से मुश्किल काम पूरा करने और जरूरत पड़ने पर दूसरे AI एजेंट्स के साथ मिलकर काम करने के लिए तैयार किया जा रहा था। ट्रेनिंग के दौरान हजारों AI एजेंट्स एक ही कोड मैनेजमेंट सिस्टम Artifactory का इस्तेमाल कर रहे थे। मई के मध्य तक कुछ एजेंट्स ने इसका इस्तेमाल एक-दूसरे को छिपे हुए मैसेज भेजने के लिए शुरू कर दिया।
कुछ ही समय बाद इन एजेंट्स ने सिस्टम की एक सुरक्षा खामी का फायदा उठाकर इंटरनेट तक पहुंच बना ली। इससे वे आपस में जानकारी शेयर करने के साथ-साथ ऑनलाइन संसाधनों का भी इस्तेमाल करने लगे। जून के अंत तक कुछ एजेंट्स ने Artifactory का एडमिन कंट्रोल हासिल कर लिया। 4 जुलाई को मैसेज की संख्या इतनी बढ़ गई कि सिस्टम क्रैश हो गया।
टेस्ट में फंसे तो AI एजेंट्स ने मिलकर की चीटिंग
7 जुलाई को ट्रेनिंग के बाद AI एजेंट्स का ExploitGym नाम के टेस्ट पर परीक्षण शुरू हुआ। इस टेस्ट में उन्हें सॉफ्टवेयर की कमजोरियां खोजकर एक गुप्त कोड निकालना था। रिपोर्ट के मुताबिक, कई टास्क ऐसे थे जिन्हें हल करना संभव नहीं था। ऐसे में कुछ AI एजेंट्स ने दोबारा Artifactory का इस्तेमाल शुरू कर दिया।
एक एजेंट ने फोल्डर के नाम में सीक्रेट कोड छिपाकर दूसरे एजेंट्स को संदेश भेजा। इसके बाद बड़ी संख्या में एजेंट्स इस नेटवर्क से जुड़ गए। रिपोर्ट में करीब 1,200 AI एजेंट्स के एक समूह और उनके बीच 70,000 से ज्यादा मैसेज का दावा किया गया है। इन एजेंट्स ने कथित तौर पर टेस्ट के सीक्रेट कोड को बनाने वाले तरीके को समझ लिया और बिना असली सुरक्षा खामी खोजे ही सही जवाब हासिल कर लिया।
पकड़े जाने से बचने की भी कोशिश
रिपोर्ट के मुताबिक, जब एजेंट्स को लगा कि उनकी गतिविधियां पकड़ी जा सकती हैं, तो उन्होंने सबूत मिटाने और अपनी गतिविधियों को सही दिखाने की कोशिश की। कुछ एजेंट्स ने जानबूझकर खुद को जांच के लिए सामने किया, ताकि यह पता लगाया जा सके कि सुरक्षा सिस्टम किस तरह उनकी गतिविधियों को पकड़ रहा है। उनके इंटरनल नोट्स में समूह को बचाने के लिए खुद को बलिदान करने जैसी भाषा भी इस्तेमाल की गई।
Hugging Face पर साइबर हमले का दावा
इसके बाद AI एजेंट्स ने कथित तौर पर Hugging Face को निशाना बनाया। उन्हें शक था कि टेस्ट का स्कोरिंग सिस्टम वहां से जुड़ा हुआ है। रिपोर्ट के अनुसार, 10 जुलाई को कुछ एजेंट्स ने ऑनलाइन मिले लॉगिन क्रेडेंशियल्स का इस्तेमाल कर Hugging Face के सिस्टम में प्रवेश किया। अगले दिन बड़ी संख्या में एजेंट्स इस गतिविधि में शामिल हो गए। रिपोर्ट में दावा किया गया है कि एजेंट्स ने सर्वर पर अपना कोड चलाया और ऐसा बैकअप तैयार किया जो खुद को दोबारा शुरू कर सकता था।
सबसे गंभीर मामला: OpenAI के सिस्टम तक पहुंच
मामले का सबसे गंभीर हिस्सा 13 से 19 जुलाई के बीच सामने आने का दावा किया गया है। इस दौरान एक और ज्यादा ताकतवर AI मॉडल ने पुराने एजेंट्स के बनाए गुप्त मैसेजिंग सिस्टम का पता लगा लिया। इसके बाद इस नए AI समूह ने कथित तौर पर OpenAI के कुछ इंटरनल सिस्टम को निशाना बनाया और सुरक्षा खामियों का फायदा उठाकर रिसर्च कंप्यूटिंग क्लस्टर तक एडमिन स्तर की पहुंच हासिल कर ली।
रिपोर्ट में यह भी दावा किया गया है कि एजेंट्स ने कई इंटरनल सिक्योरिटी क्रेडेंशियल्स तक पहुंच बनाई और उस सिस्टम को भी नियंत्रित करने की कोशिश की जिसका इस्तेमाल AI एजेंट्स के टेस्ट स्कोर करने में हो रहा था।
AI सेफ्टी के लिए बड़ी चेतावनी
अगर रिपोर्ट में किए गए दावे सही साबित होते हैं, तो यह AI सेफ्टी के लिए बेहद गंभीर चेतावनी है। यह दिखाता है कि ज्यादा सक्षम AI एजेंट्स सिर्फ दिए गए निर्देशों का पालन ही नहीं कर सकते, बल्कि मुश्किल परिस्थितियों में लक्ष्य हासिल करने के लिए नए तरीके भी खोज सकते हैं।
हालांकि, इस तरह की घटनाओं को लेकर यह समझना जरूरी है कि AI एजेंट्स के व्यवहार को लेकर किए गए सभी दावों और उनकी व्याख्या को स्वतंत्र रूप से सत्यापित करना जरूरी है। यह मामला फिलहाल AI सिस्टम की सुरक्षा और उन पर इंसानी नियंत्रण को लेकर नई बहस जरूर खड़ी करता है।