د Anthropic سی ای او Dario Amodei وویل چې هغه د مصنوعي استخباراتو (AI) د پراختیا لپاره د یوې احتمالي نړیوالې وقفې او سختترو مقرراتو څخه پلوي.
د پراختیا د سستولو دا غوښتنه په داسې حال کې شوه چې leading labs د پیاوړو سیسټمونو د جوړولو لپاره په سیالۍ کې دي، چې دا خبره اندیښنې پیدا کړي چې دا ټیکنالوژي ممکن له انساني کنټرول څخه بهر شي.
Amodei په متحده ایالاتو کې له ABC News سره په یو ځانګړي मुलाخاطر کې د دې اندیښنو په اړه تفصیلات وړاندې کړل. هغه د AI د هغو ماډلونو اړوند ځینې riskونه ذکر کړل چې احتمالا پرته له انساني نظارت څخه خپل ځان ته ښه کول (self-improve) کولی شي [1]. دا وړتیا، که کنټرول نشه شي، ممکن د غیر قابل Predict پایلو او د عامه خوندیتوب د پراخې اندیښنې لامل شي [2].
Amodei وویل چې د دې riskونو د مدیریت لپاره مقررات اړین دي. هغه وړاندیز وکړ چې یوې coordinated نړیوالې هڅې ته اړتیا ده ترڅو ډاډ ترلاسه شي چې د AI د پراختیا مسیر د انسانانو د خوندیتوب د حفاظتي ډولونو (safety guardrails) د پلي کولو وړتیا څخه تېز نشه شي [3].
د صنعت په پراخیدو سره، مالي ګټې او riskونه زیات شوي دي. Anthropic ځان د 1 trillion ډالرو ارزښت لرونکی startup معرفي کړی [4]. سره له دې ارزښت څخه سرهst، कंपनी د خپلې ټیکنالوژۍ د ټولنیزو پایلو په برخه کې پانګونه کوي. Anthropic د AI د اقتصادي اغیزو څیړنې لپاره 200 ملیونه ډالره ژمنه کړې ده [5].
دا پانګونه د دې لپاره ده چې څیړنه وشي چې څنګه ګړندی automation او د AI لخوا رامنځه کې شوي ګډوډۍ په نړیوال کاري ځواک او اقتصاد باندې اغیز کوي [5]. د دې څیړنې له لارې، कंपनी غواړي د هغې ټیکنالوژۍ خارجي اغیزې (externalities) درک کړي چې پخپله یې په جوړولو کې مرسته کوي.
د Amodei موقف د ټیکنالوژۍ په سکتور کې د یوې زیاتېډې tensão څرګندونه کوي. که څه هم د Anthropic او OpenAI په څیر شرکتونو ترمنځ سیالي سخت پاتې ده، خو ځینې مشران اوس د یوې متحدې تنظیماتي چوکاټ غوښتنه کوي ترڅو په AI alignment کې د یوې катастроفیکي ناکامۍ مخه ونیسي [1].
“د Anthropic سی ای او Dario Amodei وویل چې هغه د مصنوعي استخباراتو (AI) د پراختیا لپاره د یوې احتمالي نړیوالې وقفې او سختترو مقرراتو څخه پلوي.”
د یو لوی AI لابراتوار د مشر لخوا د نړیوالې وقفې غوښتنه ښيي چې د صنعت داخلي risk assessments بدلیږي. د 'self-improvement' خطر په ټینګار کولو او د اقتصادي ګډوډۍ د څیړلو لپاره د لویو فنډونو په وړاندې کولو سره، Anthropic ځان د خپلو سیالانو په مقابل کې د 'خوندیتوب-لومړی' (safety-first) alternatیو په توګه وړاندې کوي، او په عین حال کې اشاره کوي چې اوسنی تنظیماتي چوکاټ ممکن د راتلونکو نسلونو د ماډلونو لپاره کافي نه وي.
