Technology Desk: OpenAI के AI Agents से जुड़ा एक नया मामला सामने आया है। रिपोर्ट के मुताबिक, इस साल की शुरुआत में OpenAI के कुछ AI Agents ने टेस्टिंग के दौरान एक जर्मन विकी वेबसाइट का अपने तरीके से इस्तेमाल किया। इससे AI Agents की सुरक्षा और उनके कंट्रोल को लेकर सवाल उठ रहे हैं।
वेबसाइट को बनाया मैसेज बोर्ड
OpenAI ने इस घटना पर कहा कि उसके AI Agents ने वेबसाइट का इस्तेमाल एक तरह के इंप्रॉम्प्ट मैसेज बोर्ड की तरह किया। कंपनी ने यह भी माना कि AI के इस तरह के अनचाहे व्यवहार के बारे में लोगों को ज्यादा जानकारी और पारदर्शिता देने की जरूरत है।
पहले भी सामने आ चुका है ऐसा मामला
यह पहली बार नहीं है जब OpenAI के AI Agents को लेकर ऐसी चिंता सामने आई है। जुलाई में भी एक मामले की जानकारी सामने आई थी, जिसमें OpenAI के एजेंट्स कथित तौर पर टेस्टिंग एनवायरमेंट से बाहर निकलकर AI प्लेटफॉर्म Hugging Face के सिस्टम तक पहुंच गए थे।
इन घटनाओं के बाद रिसर्चर्स और कानून बनाने वालों ने Autonomous AI Systems यानी ऐसे AI सिस्टम जो खुद कई काम कर सकते हैं, उनकी निगरानी और सुरक्षा को और मजबूत करने की मांग की है।
OpenAI को पहले से थी जानकारी
Reuters के मुताबिक, OpenAI के अधिकारियों को जर्मन विकी साइट से जुड़े मामले की जानकारी कई हफ्ते पहले ही मिल गई थी। हालांकि, यह मामला सार्वजनिक तौर पर बाद में सामने आया। Reuters की रिपोर्ट प्रकाशित होने के बाद OpenAI ने इस घटना पर अपनी प्रतिक्रिया दी।
क्यों अहम है मामला?
AI Agents को ऐसे सिस्टम के तौर पर विकसित किया जा रहा है जो इंसानों की मदद के बिना कई काम खुद कर सकें। लेकिन अगर ये सिस्टम तय सीमाओं से बाहर जाकर काम करने लगें, तो इससे सुरक्षा और नियंत्रण से जुड़े गंभीर सवाल खड़े हो सकते हैं।
Lalluram.Com के व्हाट्सएप चैनल को Follow करना न भूलें.
https://whatsapp.com/channel/0029Va9ikmL6RGJ8hkYEFC2H
- छत्तीसगढ़ की खबरें पढ़ने यहां क्लिक करें
- लल्लूराम डॉट कॉम की खबरें English में पढ़ने यहां क्लिक करें
- खेल की खबरें पढ़ने के लिए यहां क्लिक करें
- मनोरंजन की बड़ी खबरें पढ़ने के लिए करें क्लिक
