Anthropic ने Claude Mythos AI को उजागर किया, जो हैकिंग में मनुष्यों से तेज़ होने का दावा करता है

Anthropic ने Claude Mythos का प्रीव्यू प्रस्तुत किया, एक AI मॉडल जिसे उसने कहा कि वह कुछ हैकिंग और साइबर सुरक्षा कार्यों में मनुष्यों से तेज़ हो सकता है, जिससे संयुक्त राज्य में बहस छिड़ गई। ^[1]

यह मॉडल महत्वपूर्ण है क्योंकि बैंक और अन्य वित्तीय संस्थाएँ डरती हैं कि इसका उपयोग रक्षा प्रणालियों को तोड़ने के लिए किया जा सकता है, जबकि नियामक चिंतित हैं कि यह प्रौद्योगिकी रक्षात्मक उपकरणों और आक्रामक हथियारों के बीच की रेखा को धुंधला कर देती है। फेडरल रिज़र्व के अध्यक्ष की बैंकों के CEOs के साथ बैठक ने ऐसी क्षमताओं को संबोधित करने की तात्कालिकता पर बल दिया। आलोचकों ने कहा कि मॉडल के व्यापक परिनियोजन से पहले कड़े शासन की आवश्यकता है। ^[1][4][3]

Anthropic ने कहा कि Claude Mythos स्वायत्त रूप से कमजोरियों की पहचान कर सकता है और मानव विशेषज्ञ से तेज़ी से हमले शुरू कर सकता है। "Claude Mythos एक नई पीढ़ी के AI मॉडलों का प्रतिनिधित्व करता है जो स्वायत्त हमले पहले से अधिक प्रभावी ढंग से कर सकते हैं," फ़ोर्ब्स के टिम कीरी ने कहा। यह दावा कि प्रणाली विशिष्ट पेनिट्रेशन‑टेस्टिंग कार्यों में मनुष्यों से बेहतर प्रदर्शन कर सकती है, ने साइबर सुरक्षा समुदाय में आश्चर्य और चिंता दोनों को उत्पन्न किया है। ^[2]

प्रतिक्रिया स्वरूप, Anthropic ने प्रीव्यू तक पहुँच को सीमित कर दिया, मॉडल को एक उच्च‑जोखिम प्रौद्योगिकी के रूप में माना। "Anthropic का अपना शक्तिशाली Claude Mythos Preview तक पहुँच प्रतिबंधित करने का निर्णय AI को उच्च‑जोखिम प्रौद्योगिकियों के समान मानने की दिशा में एक महत्वपूर्ण बदलाव दर्शाता है, जिसके लिए कड़े शासन ढांचे आवश्यक हैं," IAPP विश्लेषण के लेखक ने कहा। कंपनी ने बताया कि ये प्रतिबंध दुरुपयोग को रोकने के लिए हैं, जबकि वह नीति निर्माताओं के साथ सुरक्षा मानकों पर काम कर रही है। ^[3]

उद्योग के पर्यवेक्षकों ने कहा कि यह कदम AI शक्ति के कुछ ही अमेरिकी फर्मों में बढ़ती एकाग्रता को उजागर करता है। "Anthropic का Mythos के रिलीज़ को सीमित करने का निर्णय AI शक्ति के कुछ ही अमेरिकी कंपनियों के हाथों में केंद्रित होने के प्रश्न उठाता है," AOL Finance टिप्पणीकार ने कहा। यह भावना व्यापक चिंताओं को प्रतिबिंबित करती है कि उन्नत आक्रामक AI संसाधन‑सम्पन्न संस्थानों और छोटे इकाइयों के बीच अंतर को बढ़ा सकता है। ^[1]

नियामक अब यह आकलन कर रहे हैं कि मौजूदा साइबर‑सुरक्षा ढाँचे AI‑प्रेरित खतरों को समायोजित कर सकते हैं या नहीं। विधायकों ने कहा कि हथियारीकृत हो सकने वाले AI उपकरणों के लिए नई प्रकटीकरण आवश्यकताओं पर विचार किया जा रहा है, और फेडरल रिज़र्व से अपेक्षा है कि वह ऐसी प्रौद्योगिकियों के बोर्ड‑स्तर जोखिम मूल्यांकन पर मार्गदर्शन जारी करेगा। यह बहस उन्नत AI को एक महत्वपूर्ण बुनियादी ढाँचे के रूप में मानने की दिशा में बदलाव को संकेत देती है, जिसके लिए परमाणु या बायोटेक क्षेत्रों के समान निगरानी आवश्यक है। ^[4]