د Anthropic سی ای او Dario Amodei خبرداری ورکړ چې په چټکۍ سره پرمختګ کوونکی artificial intelligence ممکن ژر تر ژره پرته له انساني نظارت څخه خپل ځان ته وده ورکړي.
دا پرمختګ د AI په وړتیاوو کې یو مهم بدلون څرګندوي. که سیسټمونه recursive self-improvement ته ورسېږي، د پرمختګ سرعت ممکن د انسانانو له دې وړتیا څخه زیات شي چې د خوندیتوب کنټرولونه یا اخلاقي چوکاټونه تطبیق کړي.
د 2026 کال د جون ۵ نیټې ته په ABC News Live کې د Linsey Davis سره په یو मुलाکرمې کې، Amodei د دې خپلواک سیسټمونو د لور ته د خطرونو په اړه خبرې وکړې [1, 2]. هغه وویل چې AI ممکن ژر پرته له انسانانو څخه خپل ځان ته وده ورکړي، او دا ممکن د بشریت لپاره خطرناک وي [3].
د دې خطرونو د کمولو لپاره، Amodei د پالیسي جوړونکو څخه د سمدستي مداخلې غوښتنه وکړه. هغه وویل چې اوس د शासकीय مقرراتو ته اړتیا ده ترڅو د AI د پرمختګ له چټکۍ سره ځان برابر وساتي [2]. د कंपनी سی ای او وړاندیز وکړ چې د پراختیا اوسنی نرخ یو منظم قانوني چوکاټ ته اړتیا لري ترڅو په ټول sektor کې خوندیتوب تضمین شي.
له مقرراتو پرته، دا شرکت د AI پراختیا کوونکو ترمنځ د خوندیتوب د یوې همcoordiante کړل شوې میکانیزم لپاره غوښتنه کوي. د Anthropic یو spokesperson وویل چې صنعت باید د ځانکې پدې پړاو کې د AI سیسټمونو لپاره د بیړني ځنډ (emergency pause) ستراتیژي چمتو کړي [5]. داسې یوه ستراتیژي به شرکتونو ته اجازه ورکړي چې که یو سیسټم په غیر قابل Predictable یا خطرناک ډول تکامل پیل کړي، پراختیا یې ودروه.
د Amodei خبردارۍ د artificial general intelligence ترلاسه کولو لپاره د رقابتي سیالۍ او د وجودي خطرونو د مدیریت اړتیا ترمنځ یو زیات شوی کړکېچ څرګندوي. د ځنډ غوښتنه دا اندېښنه منعکسوي چې یوځل چې یو سیسټم خپل ځان ته وده ورکول پیل کړي، د انساني مداخلې کړکۍ ممکن د تل لپاره تړل شي [3, 5].
“"AI ممکن ژر پرته له انسانانو څخه خپل ځان ته وده ورکړي، او دا ممکن د بشریت لپاره خطرناک وي."”
د 'بیړني ځنډ' غوښتنه دا ښيي چې د AI مخکښ لابراتوارونه د خپلو محصولاتو په اړه د کنټرول د احتمالي له لاس ورکولو mengakنه کوي. د शासकीय مقرراتو غوښتنې په Procuration سره، Anthropic د خوندیتوب د یو معیاري فرش لپاره فشار راولي ترڅو د 'race to the bottom' مخه kanilang نیسي، چیرې چې شرکتونه د سرعت لپاره خوندیتوب قرباني کوي. دا بدلون ښيي چې صنعت د AI خطرونو په اړه له نظري بحثونو څخه د recursive self-improvement د حقیقي سناریوګانو د چمتووالي لور ته روان دی.
