Anthropic د مصنوعي استخباراتو (AI) په پراختیا کې د یوې همغږې او تصدیک وړ وقفې غوښتنه کوي ترڅو د دې څخه ډاډ ترلاسه شي چې انسانان پر دې ټیکنالوژۍ خپل کنټرول نه له لاسه ورکوي [1].
دا خبرداری په داسې حال کې وړاندې کیږي چې د AI ماډلونه په داسې سرعت سره پرمخ ځي چې ممکن د خوندې کنټرولونو له رامنځه کېدو څخه تېز وي. شرکت وړاندیز کوي چې که سیسټمونه پرته له څارنې ځان ته ښه کول پیل کړي، دا ممکن د ټولنې لپاره وجودي خطرونه رامنځه کړي [2, 4].
Anthropic، چې د OpenAI پخوانیو څېړونکو لخوا تاسیس شوی، ویل یې چې د دې شرکت نوي سیسټمونه ممکن ډېر ژر پرته له انساني مداخلې څخه ځان ته ښه کړي [2]. شرکت وویل چې د داسې یو بدلون لویې اغېزې مدیریت کولو لپاره وخت ته اړتیا ده، نو ځکه د پراختیا په سرعت کې کموالی اړین دی [1].
د Anthropic یکیمؤسس جک کلارک (Jack Clark) وویل: "موږ یوې همغږې وقفې ته اړتیا لرو ترڅو ډاډ ترلاسه کړو چې موږ کولی شو AI د انسانانو تر کنټرول لاندې وساتوو" [1].
د شرکت CEO ډاریو اموډی (Dario Amodei) وویل چې د پرمختګ اوسنی سرعت د خوندې مدیریت کولو وړتیا څخه تېز شوی دی [2]. هغه ویل چې د داسې یوې حالت څخه د ژغورنې لپاره چې پکې AI سیسټمونه د انسانانو له رسېدو بهر عمل کوي، د پراختیا په سرعت کې کموالی اړین دی [2].
شرکت په یو بلاګ پوسټ کې ویلي: "که چیرې دا ممکن وي چې د دې ټیکنالوژۍ پراختیا په مؤثره توګه سکره کړو ترڅو ځان ته ډېر وخت ورکړو چې د دې لویو اغېزو سره مقابله کړو، موږ فکر کوو چې دا به احتمالاً یو ښه کار وي" [1].
دا خبردارۍ په داسې وخت کې راغله چې په سان فرانسیسکو کې مقر لرونکی دا شرکت د پولي مالي growths سره مخ دی. د Anthropic ارزښت تقریباً 1 trillion ډالره دی [5]، او شرکت په دې وروستیو کې د 965 ملیارډ ډالرو په ارزښت د لومړني عام وړاندیز (IPO) لپاره غوښتنلیک وړاندې کړی [5].
په هرصورت، د نړیوایي وقفې دا غوښتنه د امریکا د حکومت له اوسنیو لومړیتیاوو سره ټکر کوي. راپورونه ښيي چې د ټرمپ اداره په ځانګړې توګه د ملي امنیت او جګزې لپاره د AI پراختیا سرعت زیاتولو اراده لري [3].
“"موږ یوې همغږې وقفې ته اړتیا لرو ترڅو ډاډ ترلاسه کړو چې موږ کولی شو AI د انسانانو تر کنټرول لاندې وساتوو."”
د Anthropic د خوندې خبرداریو او د امریکا د حکومت د نظامي AI د سرعت زیاتولو ترمنځ ټنشن د شرکتونو د اخلاقاتو او د ملي امنیت ستراتیژۍ ترمنځ یو لوی خلیان ښيي. پداسې حال کې چې د AI لابراتوارونه د 'recursive self-improvement' (چې پکې AI خپل کوډ په خپله ښه کوي) خطر پیل کړی، مګر د نړیوالې ژیوپولیتیکي سیارې رقابتي طبیعت ممکن یوه همغږه او تصدیک وړ وقفه تقریباً ناممکنه کړي.
