Anthropic شرکت د 2024 کال د سپتمبر په 9 کې په نوم Claude Feibel 5 یو نوی AI ماډل وړاندې کړ [1].
دا لومړی ځل دی چې په امریکا کې مستقر دې شرکت خپل یو له لوړ prestasiجه ماډلونو څخه یو عامه لاسرسي لپاره disponibil کړی دی. دا ګام یوې پراخې ډلې ته اجازه ورکوي چې پرمختللو AI وړتیاو ته لاسرسی ومومي، په عین حال کې چې د شرکت د خلاص لاسرسي اړوند خطرونو د مدیریت وړتیا هم په ازمایست کې ده.
د شرکت د معلوماتو له مخې، Claude Feibel 5 د Claude Mythos ماډل سره برابره پرفورمنس وړاندې کوي [2]، چې هغه تر اوسه منتشر شوی نه دی. Anthropic د دې خالي ځای په ډکولو سره هدف لري چې عامه خلکو ته د خپلو داخلي څیړنو د ثبات په قرباني کولو پرته د عصري ګټې وړاندې کړي.
د دې ټیکنالوژۍ د ناوړه ګټې اخیستنې څخه د مخنیوي لپاره، Anthropic ځانګړي امنیتي تدابیر اعمال کړي دي [1]. دا سیسټم داسې ډیزاین شوی چې هغه پوښتنې پیژاندي چې د سایبر حملې یا بیولوژیکي او کیمیاوۍ وسلو د جوړولو اړوندې وي. کله چې ماډل داسې لارښوونې (prompts) تشخیص کړي، نو پوښتنه یوې کمزوره ماډل ته لیژي [1].
دا لیږدونکی میکانیزم ډاډ ورکوي چې د AI تر ټولو وړمن ورژن څخه د خطرناکې لارښوونې د تولید لپاره ګټه نه اخيستل کیږي. شرکت د خطرناکو غوښتنو د یو کم وړتیا لرونکي سیسټم ته د لیږد په لاره د لوی پیمانه زیانونو احتمالات کموي، په داسې حال کې چې د ګټورو کارونو لپاره د ماډل عمومي ګټه ساتي [1].
Anthropic چې مرکزي دفتر یې د San Francisco Bay Area کې دی، د ماډل شفافیت او خوندیتوب ترمنځ د توازن په ترلاسه کولو باندې خپل تمرکز ساتي [1]. د Claude Feibel 5 ځای پر ځای کول د یوې آزمایشي قضیې په توګه کار کوي چې څنګه شرکت د عامه لاسرسي او د احتمالي مهلک ناوړه ګټې اخیستنې د مخنیوي ترمنځ فشار اداره کوي [2].
“Claude Feibel 5 د Claude Mythos ماډل سره برابره پرفورمنس وړاندې کوي”
د Claude Feibel 5 خپرول د Anthropic د ستراتیژۍ په لور یو بدلون ښیي چې عامه لاسرسي ته priority ورکوي. د 'کمزورې ماډل ته لیږد' د امنیتي جوړښت په پلي کولو سره، شرکت هڅه کوي چې د 'دوګنې ګټې' (dual-use) معضله حل کړي—چې چیرې یو وسیله د تولیدیت لپاره ګټوره وي خو په غلطو لاسونو کې خطرناکه وي—او دا کار د ټیکنالوژۍ د بشپړ بندیز پرته ترسره کوي.
