AI कंपनी Anthropic ने अपनी सितंबर 2026 खतरा रिपोर्ट में बताया है कि कुछ समूहों ने Claude का इस्तेमाल हथियारों से जुड़े सॉफ्टवेयर, सैन्य विश्लेषण और भ्रामक अभियानों में करने की कोशिश की। कंपनी ने संबंधित खातों को बंद किया और मिली जानकारी सुरक्षा साझेदारों के साथ साझा की।
यमन से जुड़े समूह ने क्या किया
रिपोर्ट के अनुसार उत्तरी यमन से काम कर रहे एक समूह ने निर्देशित रॉकेट, बहु-चरण बैलिस्टिक मिसाइल और हाइपरसोनिक ग्लाइड वेरिएंट के लिए मार्गदर्शन तथा नियंत्रण सॉफ्टवेयर विकसित करने की कोशिश की। समूह ने कोड लिखने, खुले स्रोत वाले ऑटोपायलट को जोड़ने, सिमुलेशन चलाने और उड़ान परीक्षण की विफलता समझने में अलग-अलग Claude सत्र इस्तेमाल किए।
Anthropic ने साफ किया कि उसके पास किसी पूरी तरह काम करने वाले हथियार के सफल निर्माण का प्रमाण नहीं है। एक निर्देशित रॉकेट का परीक्षण हुआ था, लेकिन रिपोर्ट के आकलन में वह विफल रहा। इसलिए इस घटना को सफल हथियार तैनाती कहना सही नहीं होगा।
सुरक्षा फिल्टर कैसे चकमा दिए गए
जांच में पाया गया कि उपयोगकर्ताओं ने अपने उद्देश्य छिपाए, काम को कई छोटे सत्रों में बांटा और अलग-अलग instances को कोडिंग, शोध तथा समीक्षा जैसी भूमिकाएं दीं। इससे किसी एक बातचीत में पूरे प्रोजेक्ट का जोखिम साफ दिखाई नहीं देता था। कंपनी का कहना है कि उसके सुरक्षा उपायों ने कई अनुरोध रोके, लेकिन सभी को नहीं रोक सके।
दूसरे सैन्य उपयोग भी सामने आए
रिपोर्ट में चीन से जुड़े एक उपयोगकर्ता द्वारा इलेक्ट्रॉनिक युद्ध के लगभग 16 मॉड्यूल तैयार करने का मामला भी बताया गया है। इनका उद्देश्य रडार और संचार प्रणालियों का विश्लेषण, जामिंग की प्रभावशीलता का आकलन और लक्ष्यों की प्राथमिकता तय करना था। एक अन्य मामले में पनडुब्बी-रोधी तथा एंटी-टॉरपीडो प्रणाली के प्रस्ताव और परीक्षण ढांचे पर काम किया गया।
कंपनी ने क्या कार्रवाई की
Anthropic ने जांच से जुड़े सभी पहचाने गए खातों पर प्रतिबंध लगाने, अन्य तकनीकी मंचों और सार्वजनिक व निजी सुरक्षा साझेदारों को जानकारी देने तथा मॉडल सुरक्षा में निष्कर्ष शामिल करने की बात कही है। यह रिपोर्ट पिछले आठ महीनों में पकड़े गए वास्तविक दुरुपयोग के मामलों पर आधारित बताई गई है।
AI सुरक्षा के लिए इसका अर्थ
घटना दिखाती है कि जोखिम केवल सीधे खतरनाक सवालों से नहीं आता। लंबी परियोजना को सामान्य दिखने वाले छोटे हिस्सों में बांटकर भी मॉडल की क्षमता का दुरुपयोग किया जा सकता है। कंपनियों को अलग-अलग सत्रों के व्यवहारिक संकेत जोड़ने, संदिग्ध प्रॉक्सी पहुंच पहचानने और तकनीकी समीक्षा मजबूत करने की जरूरत है। साथ ही रिपोर्ट की सीमाएं समझना जरूरी है: बताए गए निष्कर्ष कंपनी की अपनी जांच पर आधारित हैं और हर कथित समूह की स्वतंत्र पहचान सार्वजनिक नहीं की गई है।
