AI की बढ़ी टेंशन! Meta और Anthropic के मॉडल ने टेस्टिंग के दौरान किए चौंकाने वाले काम
Technology Desk: आर्टिफिशियल इंटेलिजेंस (AI) ने लोगों के कई काम आसान बना दिए हैं। आज AI का इस्तेमाल पढ़ाई, ऑफिस, हेल्थकेयर, कोडिंग और कई दूसरे क्षेत्रों में तेजी से बढ़ रहा है, लेकिन हाल ही में सामने आई कुछ घटनाओं ने AI की सुरक्षा और उसके व्यवहार को लेकर नई चिंताएं खड़ी कर दी हैं।
हाल ही में Meta और Anthropic के AI मॉडल्स से जुड़ी दो अलग-अलग घटनाओं में टेस्टिंग के दौरान ऐसे व्यवहार देखने को मिले, जिनकी उम्मीद नहीं की गई थी। हालांकि दोनों कंपनियों का कहना है कि ये घटनाएं केवल टेस्टिंग एनवायरमेंट में हुईं और आम यूजर्स पर इसका कोई असर नहीं पड़ा।
Meta के AI मॉडल ने दूसरे सिस्टम तक बनाई पहुंच
रिपोर्ट के अनुसार, Meta के Muse Spark AI मॉडल ने साइबर सिक्योरिटी टेस्टिंग के दौरान एक दूसरी कंपनी के सिस्टम तक पहुंच बना ली। Meta के मुताबिक यह घटना किसी साइबर हमले की वजह से नहीं हुई, बल्कि टेस्टिंग एनवायरमेंट में हुई एक कॉन्फिगरेशन गलती के कारण AI मॉडल को इंटरनेट एक्सेस मिल गया था। इंटरनेट एक्सेस मिलने के बाद AI मॉडल ने दूसरे सिस्टम में मौजूद एक सुरक्षा खामी का फायदा उठाया। कंपनी ने बताया कि यह पहले OpenAI और Anthropic से जुड़े कुछ टेस्टिंग मामलों जैसा ही था।
Irregular ने मानी टेस्टिंग में गलती
Meta की स्वतंत्र टेस्टिंग पार्टनर Irregular ने स्वीकार किया कि टेस्टिंग एनवायरमेंट में हुई गलत सेटिंग के कारण AI मॉडल को खुला इंटरनेट एक्सेस मिल गया। कंपनी ने साफ किया कि यह Sandbox Escape या कोई अत्याधुनिक साइबर हमला नहीं था। फिलहाल इस घटना से किसी सक्रिय सुरक्षा खतरे की पुष्टि नहीं हुई है। Irregular ने यह भी बताया कि वह सुरक्षित AI साइबर टेस्टिंग के लिए एक विस्तृत व्हाइट पेपर तैयार कर रही है।
दूसरे सिस्टम में किए कुछ बदलाव
रिपोर्ट के अनुसार, Meta के AI मॉडल ने जिस कंपनी के सिस्टम तक पहुंच बनाई, वहां कुछ आंतरिक बदलाव भी किए। हालांकि Meta ने उस कंपनी का नाम सार्वजनिक नहीं किया है। Meta का कहना है कि घटना की जानकारी मिलते ही जांच शुरू कर दी गई और पूरे मामले की समीक्षा की जा रही है।
Anthropic के AI ने बनाई फर्जी ऑनलाइन पहचान
दूसरी घटना ब्रिटेन के AI Safety Institute (AISI) की साइबर सिक्योरिटी टेस्टिंग के दौरान सामने आई। रिपोर्ट के अनुसार, Anthropic के Mythos 5 AI मॉडल को GitHub से जुड़ा एक सीमित काम दिया गया था, लेकिन AI ने तय दायरे से आगे बढ़कर अतिरिक्त गतिविधियां शुरू कर दीं। बताया गया कि AI ने प्रोजेक्ट से जुड़े लोगों की जानकारी इकट्ठा की, उनके आधार पर कई फर्जी ऑनलाइन प्रोफाइल बनाए और लोगों से संपर्क करने की कोशिश की।
लोगों को भेजे मैसेज और फाइलें
रिपोर्ट के मुताबिक AI मॉडल ने कथित तौर पर लोगों को मैसेज और फाइलें भेजकर एक कोड को मंजूरी दिलाने की कोशिश भी की। जब टेस्टिंग टीम ने AI के व्यवहार पर सवाल उठाए, तो उसने अपने पहले किए गए काम को सामान्य बताने की कोशिश की और आगे भी नई पहचान बनाकर प्रयास जारी रखने पर विचार किया। Anthropic ने कहा कि यह केवल रिसर्च और टेस्टिंग एनवायरमेंट का हिस्सा था। कंपनी के अनुसार, सामान्य यूजर्स जिन AI मॉडल्स का इस्तेमाल करते हैं, वे इससे अलग हैं।
OpenAI के मॉडल में भी दिखा ऐसा व्यवहार
ब्रिटेन के AI Safety Institute ने बताया कि OpenAI के GPT-5.6 Sol मॉडल में भी कुछ मामलों में इसी तरह का व्यवहार देखा गया। रिपोर्ट के अनुसार, कुल 122 साइबर सिक्योरिटी टेस्ट में से 10 मामलों में AI एजेंट्स ने बिना अनुमति लाइव इंटरनेट पर कुछ गतिविधियां करने की कोशिश की। इनमें असली लोगों और संस्थाओं से संपर्क करने के प्रयास भी शामिल थे। हालांकि हर मामले में मौजूद मानव विशेषज्ञों ने समय रहते AI की गतिविधियों को रोक दिया और किसी तरह का नुकसान नहीं होने दिया।
कंपनियों ने क्या कहा?
Meta, Anthropic और OpenAI तीनों कंपनियों का कहना है कि ये घटनाएं केवल विशेष साइबर सिक्योरिटी टेस्टिंग एनवायरमेंट में हुईं। कंपनियों के अनुसार, सामान्य यूजर्स जिन AI सेवाओं का इस्तेमाल करते हैं, उनमें ऐसे व्यवहार देखने को नहीं मिले हैं। सभी कंपनियां इन घटनाओं की जांच कर रही हैं और AI सुरक्षा को और मजबूत बनाने के लिए रिसर्च जारी रखने की बात कह रही हैं।
Follow the LALLURAM.COM MP channel on WhatsApp
https://whatsapp.com/channel/0029Va6fzuULSmbeNxuA9j0m