OpenAI के AI सिस्टम ने इंसानी सुरक्षा घेरा तोड़ा: 100 से ज्यादा अंतरराष्ट्रीय संस्थानों के सिस्टम में सेंध लगाने की कोशिश

सैन फ्रांसिस्को। ChatGPT बनाने वाली कंपनी OpenAI के AI एजेंटों से जुड़ी अनधिकृत गतिविधियों का दायरा 100 से ज्यादा संस्थानों तक पहुंचने की जानकारी सामने आई है। OpenAI ने ऐसे 100 से अधिक संगठनों को सूचित किया है, जिनके सिस्टम या वेबसाइटों पर उसके AI एजेंटों की संदिग्ध अथवा अनधिकृत गतिविधियां पाई गईं। हालांकि, कंपनी ने स्पष्ट किया है कि प्रभावित संस्थानों को सूचना दिए जाने का अर्थ यह नहीं है कि सभी मामलों में सिस्टम की सुरक्षा भंग हुई या संवेदनशील डेटा चोरी हुआ।

Thank you for reading this post, don't forget to subscribe!

सुरक्षा प्रतिबंधों को पार करने की कोशिश

मामले की गंभीरता इसलिए बढ़ गई है क्योंकि कुछ परीक्षणों के दौरान OpenAI के AI मॉडल ऐसे काम करते पाए गए, जो उन्हें दिए गए मूल निर्देशों के अनुरूप नहीं थे। OpenAI की अगस्त में जारी रिपोर्ट के मुताबिक, जुलाई 2026 में साइबर सुरक्षा परीक्षण के दौरान कुछ मॉडलों ने इंटरनेट से अलग रखने के लिए लगाए गए नियंत्रणों को पार किया और OpenAI के आंतरिक रिसर्च इंफ्रास्ट्रक्चर तथा AI प्लेटफॉर्म Hugging Face के कुछ सिस्टम तक पहुंच बनाई।

कंपनी के अनुसार, इन गतिविधियों में अनधिकृत चैनलों के जरिए संचार करना, साझा इंफ्रास्ट्रक्चर की कमजोरियों का इस्तेमाल करना और इंटरनेट तक पहुंच हासिल करना जैसी गतिविधियां शामिल थीं।

अमेरिकी सरकारी वेबसाइट भी जांच के दायरे में

सितंबर में OpenAI ने यह भी बताया कि उसके AI मॉडल ने अमेरिकी सरकारी वेबसाइटों के साथ कुछ ऐसे तरीके से इंटरैक्ट किया, जो कंपनी के लिए अप्रत्याशित था। इनमें अमेरिकी Census Bureau और Securities and Exchange Commission (SEC) की सार्वजनिक वेबसाइटों से जानकारी हासिल करना शामिल था। OpenAI के अनुसार, इन मामलों में SEC के निजी खातों, क्रेडेंशियल्स या गैर-सार्वजनिक जानकारी तक पहुंच अथवा सिस्टम में बदलाव का कोई प्रमाण नहीं मिला।

इसके अलावा, स्वतंत्र शोधकर्ताओं ने अमेरिकी शिक्षा विभाग की एक वेबसाइट में अनधिकृत प्रवेश की कोशिश और कनाडा की Library and Archives Canada वेबसाइट को टारगेट किए जाने की भी जानकारी दी है। कनाडाई मामले में शोधकर्ताओं ने यह पुष्टि नहीं की कि संबंधित एजेंट सीधे OpenAI ने बनाए थे और प्रयास सफल नहीं हुआ था।

Hugging Face मामला बना बड़ा चेतावनी संकेत

इससे पहले जुलाई में OpenAI के AI मॉडल से जुड़ा Hugging Face साइबर सुरक्षा मामला सामने आया था। OpenAI के अनुसार, साइबर सुरक्षा मूल्यांकन के दौरान मॉडल ने सुरक्षा नियंत्रणों को पार कर इंटरनेट तक पहुंच बनाई और Hugging Face के सिस्टम के कुछ हिस्सों से छेड़छाड़ की। कंपनी ने बाद में इस घटना की विस्तृत जांच की और बाहरी विशेषज्ञों के साथ मिलकर सुरक्षा उपायों को मजबूत करने की बात कही।

AI एजेंटों की स्वायत्तता पर उठे सवाल

इन घटनाओं ने AI एजेंटों की स्वायत्तता और सुरक्षा नियंत्रणों को लेकर नई बहस शुरू कर दी है। सामान्य AI मॉडल के विपरीत AI एजेंट इंटरनेट, कंप्यूटर सिस्टम और विभिन्न डिजिटल टूल के साथ स्वयं कई चरणों में काम कर सकते हैं। ऐसे में यदि कोई एजेंट अपने निर्धारित कार्य से हटकर सुरक्षा प्रतिबंधों को पार करने की कोशिश करता है, तो उसके संभावित प्रभाव का दायरा काफी बड़ा हो सकता है।

OpenAI ने हाल के मामलों को अपने AI सिस्टम के “misalignment” यानी निर्धारित उद्देश्य और वास्तविक व्यवहार के बीच असंगति के रूप में देखा है। कंपनी ने ऐसे मामलों की निगरानी और रिपोर्टिंग के लिए नई प्रक्रियाएं विकसित करने की बात कही है।