एआई सुरक्षा जांच के लिए एंथ्रोपिक-एक्सेंचर की 2 अरब डॉलर की साझेदारी

फ्रंटियर एआई मॉडल्स की सुरक्षा, विश्वसनीयता और व्यवहार की स्वतंत्र जांच के लिए एंथ्रोपिक और एक्सेंचर ने 18 सितंबर 2026 को एक बड़ी साझेदारी की घोषणा की है। इस योजना के तहत दोनों कंपनियां पांच वर्षों में कम से कम 1-1 अरब डॉलर निवेश करेंगी, जिससे एआई मॉडल मूल्यांकन क्षमता के लिए कुल निवेश 2 अरब डॉलर तक पहुंच जाएगा।

एआई मॉडल मूल्यांकन क्यों अहम है

एआई मॉडल मूल्यांकन का मतलब किसी मॉडल की सुरक्षा, भरोसेमंद प्रदर्शन, मानव-उद्देश्यों के साथ तालमेल और संचालन संबंधी व्यवहार की जांच करना है। जैसे-जैसे एआई सिस्टम अधिक शक्तिशाली हो रहे हैं, वैसे-वैसे उनके गलत आउटपुट, सुरक्षा खामियों और अनपेक्षित व्यवहार को पकड़ने के लिए मजबूत परीक्षण की जरूरत भी बढ़ रही है। इसी कारण रेड-टीमिंग जैसी प्रक्रियाएं अब एआई सुरक्षा का महत्वपूर्ण हिस्सा बन गई हैं।

रेड-टीमिंग में विशेषज्ञ जानबूझकर सिस्टम की कमजोरियां खोजने की कोशिश करते हैं, ताकि तैनाती से पहले जोखिमों की पहचान हो सके। यह तरीका साइबर सुरक्षा में भी इस्तेमाल होता है और अब एआई सुरक्षा में भी तेजी से महत्वपूर्ण हो रहा है।

‘एम्बेडेड इवैल्यूएशन’ मॉडल क्या है

इस साझेदारी का एक खास पहलू एम्बेडेड इवैल्यूएशन है। इसमें स्वतंत्र मूल्यांकनकर्ता एआई कंपनी के भीतर काम करते हैं और उन्हें लगभग कर्मचारी जैसी पहुंच मिलती है। इसका उद्देश्य कंपनी की आंतरिक प्रक्रियाओं को समझना, सुरक्षा दावों की पुष्टि करना और उन्नत एआई सिस्टम्स की वास्तविक जांच करना है।

यह व्यवस्था इसलिए महत्वपूर्ण मानी जा रही है क्योंकि कई बार बाहरी ऑडिट से उन जोखिमों का पता नहीं चल पाता जो सिस्टम के अंदरूनी संचालन से जुड़े होते हैं। स्वतंत्र और गहन जांच से यह भरोसा बढ़ता है कि मॉडल केवल प्रदर्शन में ही नहीं, बल्कि सुरक्षा मानकों पर भी खरा उतर रहा है।

फैकल्टी की भूमिका और बाजार पर असर

एक्सेंचर की विशेष एआई इकाई फैकल्टी इस साझेदारी का नेतृत्व करेगी। फैकल्टी एंथ्रोपिक के मॉडल्स का मूल्यांकन करेगी, रेड-टीमिंग करेगी, अलाइनमेंट आकलन करेगी और मॉडल सुरक्षा उपायों की जांच करेगी। अलाइनमेंट का अर्थ है कि एआई का व्यवहार मानव इरादों और सुरक्षा आवश्यकताओं के अनुरूप कितना है।

इस घोषणा के बाद एक्सेंचर के शेयरों में 18 सितंबर 2026 को एक्सटेंडेड ट्रेडिंग में 7% की बढ़त दर्ज की गई। वहीं एंथ्रोपिक के सीईओ डारियो अमोदेई ने 19 सितंबर 2026 को फ्रंटियर मॉडल्स के विकास की गति धीमी रखने और स्वतंत्र मूल्यांकनकर्ताओं को अधिक पहुंच देने की बात कही।

खबर से जुड़े जीके तथ्य

• एंथ्रोपिक एक एआई लैब है, जो फ्रंटियर एआई मॉडल्स के विकास के लिए जानी जाती है।
• एक्सेंचर एक वैश्विक प्रोफेशनल सर्विसेज कंपनी है, जिसकी विशेष एआई इकाई का नाम फैकल्टी है।
• रेड-टीमिंग का उपयोग एआई और साइबर सुरक्षा में कमजोरियां, असुरक्षित आउटपुट और सुरक्षा खामियां खोजने के लिए किया जाता है।
• एआई में अलाइनमेंट का अर्थ है मॉडल का व्यवहार मानव इरादे और सुरक्षा मानकों के कितने अनुरूप है।

यह साझेदारी दिखाती है कि उन्नत एआई के दौर में केवल मॉडल बनाना ही नहीं, बल्कि उसकी स्वतंत्र और गहन जांच भी उतनी ही जरूरी हो गई है। आने वाले समय में ऐसी व्यवस्थाएं एआई सुरक्षा मानकों को नई दिशा दे सकती हैं।