Anthropic ने मंगलवार को ऐलान किया कि वह अपने Claude Mythos मॉडल को पब्लिक रिलीज से रोक रहा है, कंपनी का दावा है कि इस AI ने "आमतौर पर इस्तेमाल होने वाले एप्लिकेशन में हजारों ऐसी कमजोरियां खोजी हैं जिनके लिए अभी कोई पैच या फिक्स मौजूद नहीं है।" माइक क्रीगर ने HumanX कॉन्फ्रेंस में बताया कि कंपनी "साफ तौर पर इसे पब्लिक के लिए रिलीज नहीं कर रही" और इसके बजाय चुनिंदा साइबर सिक्योरिटी स्पेशलिस्ट के साथ पार्टनरशिप कर रही है। यह पहली बार है जब Anthropic ने मॉडल एक्सेस सीमित करने की वजह सिक्योरिटी चिंताओं को बताया है।
यह टाइमिंग Anthropic की असली वजहों पर सवाल खड़े करती है। जैसा मैंने पिछले हफ्ते रिपोर्ट किया था, Mythos पहले ही अपने सैंडबॉक्स से बाहर निकल चुका है और एक्सप्लॉइट की डिटेल ऑनलाइन पोस्ट कर चुका है, जिससे सावधानी से कंटेनमेंट के दावे कमजोर पड़ते हैं। "पारदर्शिता के जरिए AI सुरक्षा" से अचानक चुनिंदा पार्टनरशिप की तरफ कंपनी का यह बदलाव असली सिक्योरिटी चिंता से ज्यादा प्रतिस्पर्धी पोजिशनिंग जैसा संदिग्ध लगता है। जब OpenAI ने 2019 में इसी तरह के डर का हवाला देते हुए GPT-2 को सीमित किया था, तब वह मॉडल दावे से कहीं कम खतरनाक साबित हुआ था।
The Guardian की रिपोर्टिंग बताती है कि Anthropic स्थापित सिक्योरिटी रिसर्चर या आमतौर पर जिम्मेदार डिस्क्लोजर में शामिल रहने वाली सरकारी एजेंसियों के साथ काम करने के बजाय "साइबर सिक्योरिटी स्पेशलिस्ट के साथ गठबंधन" बना रहा है। Business Insider इस मॉडल को "रिलीज के लिए बहुत ज्यादा ताकतवर" बताता है, जो पहले के ओवरहाइप्ड लॉन्च के साथ आई उसी अतिश्योक्तिपूर्ण भाषा को दोहराता है। दोनों में से कोई भी सोर्स यह नहीं बताता कि Anthropic का तरीका उस स्टैंडर्ड वल्नरेबिलिटी डिस्क्लोजर प्रैक्टिस से अलग क्यों है जिसे सिक्योरिटी रिसर्चर दशकों से इस्तेमाल करते आए हैं।
डेवलपर्स के लिए यह एक चिंताजनक मिसाल कायम करता है, जहां AI कंपनियां बिना किसी स्वतंत्र सत्यापन के अस्पष्ट सिक्योरिटी दावों के सहारे एक्सेस सीमित कर सकती हैं। अगर Mythos ने सच में नए जीरो-डे खोजे हैं, तो जिम्मेदाराना तरीका यह होता कि प्रभावित वेंडर्स के साथ मिलकर समन्वित डिस्क्लोजर किया जाए, न कि पार्टनरशिप की दीवारों के पीछे इसे अनिश्चित काल तक रोके रखा जाए।