Anthropic د پرمختللې artificial intelligence پراساساتو لپاره د یو نړیوال وقف غوښتنه کړې ترڅو د دې څخه جلوگیری شي چې سیسټمونه د انسانانو له کنټروله وتلف شي [1, 2, 3].
دا غوښتنه د AI نوښت د چټکې Tempo او د پراساس کونکو د خوندیتوب ډاډ ترلاسه کولو د وړتیا ترمنځ د زیاتېدونکي tensione په اړه اشاره کوي. که AI سیسټمونه د نظارت پرته د ځان د ښو کولو وړتیا ترلاسه کړي، د کنټرول دغه تاوان ممکن د نړیوال امنیت لپاره سیسټماتیک خطرونه رامنځته کړي.
د شرکت پهClasspath مطابق، د دې وقف اصلي لامل دا خطر دی چې AI سیسټمونه ممکن په خپله د ځانaprove کول پیل کړي [1, 2, 3]. Anthropic وویل چې دا لاره ممکن داسې حالت ته ځي چې انسانان به نور د دې ټیکنالوژۍ اداره کولو یا بندولو وړتیا نلري. شرکت د وړتیاوو د نورو 跳跃 (leaps) څخه وړاندې د خوندیتوب د حفاظتي چوکاټونو (guardrails) رامینځته کولو لپاره د یوې coordinated نړیوالې هڅې غوښتنه کوي [1, 3].
خو د دې وړاندیز ځینې د صنعت څارونکو لخوا له شک سره وړاندې شوی. منتقدینو وویل چې دا شرکت ممکن د حکومت د نظارت رامنځته کول د یوې ستراتیژیکې تګلارې په توګه کاروي ترڅو اوسنی سیالان خنډه کړي [4]. د سختو تنظیماتي چوکاټونو غوښتنې په photosphere کې، دا شرکت ممکن د نورو AI لابراتوارونو لپاره د ننوتلو خنډونه رامینځته کړي.
سره له دې تناقضونو، شرکت ټینګار کوي چې د خوندیتوب خطرونه د دوامداره چټکې پراساساتو د سیالیتي ګټو څخه ډیر دي [2, 3]. د وقف دا غوښتنه د artificial general intelligence د وجودي خطرونو په اړه د تیرو صنعتي خبرداریو منعکس کوي، که څه هم تاریخي توګه ډیر کمو شرکتونو د پراساساتو د بشپړ بندولو سره موافقت کړی دی.
“Anthropic د پرمختللې artificial intelligence پراساساتو لپاره د یو نړیوال وقف غوښتنه کړې”
دا پرمختګ د AI په ساحه کې د یوې بدلون ته اشاره کوي چیرې چې مخکې روان شرکتونه اوس په عامه توګه د 'alignment problem' په اړه بحث کوي—دا د دې ډاډ ترلاسه کولو چالنج دی چې د AI اهداف د انساني ارزښتونو سره compatible پاتې شي. که څه هم دا د خوندیتوب اړتیا په توګه وړاندې کیږي، خو د خوندیتوب غوښتنو او تنظیماتي غوښتنو یوځای کیدل ښيي چې د AI سیالۍ راتلونکی پړاو به د څیړنیزو لابراتوارونو په اندازه د حکومتونو په ادارو کې هم وجوړ شي.
