Anthropic شرکت د 2024 کال د جون د 5مې په نېټه د ځواکمن artificial intelligence سیسټمونو د پراختیا لپاره د یوې coordinated او verifiable نړیوالې توقف (freeze) غوښتنه وکړه [1].
دا غوښتنه د AI نوښت د سرعت او د حکومتونو د خوندیتوب د چوکاټونو د پلي کولو د وړتیا ترمنځ د زیاتېدونکي کړکېچ په اړه اشاره کوي. که پرمختللي سیسټمونه پرته له نظارت څخه خپل ځان ته ښه کول پیل کړي، صنعت د داسې ټیکنالوژۍ د menciptو خطر سره وړاندام面对 دی چې نه یې اداره کول 가능 دي او نه یې غیر فعالول.
Anthropic، چې یو د artificial-intelligence څیړنی شرکت دی، وویل چې دا توقف د AI پر انساني کنټرول د تسلیم کیدو د مخنیواتو لپاره اړین دی [1, 2]. شرکت څرګند کړ چې ګړندی پرمختګ ممکن داسې self-improving AI تولید کړي چې د خطرونو د مدیریت د ټولنې وړتیا څخه تېره شي [2, 3]. د شرکت په باور، دا لاره ممکن په потенциаي توګه تخریبونکې سایبري حملې رامنځه کړي [2, 3].
سره له دې چې شرکت دې اقدام ته د نړیوال freeze په نوم یادوي [1]، نور راپورټونه دا غوښتنه د نړیوال pause په توګه توصیف کوي [3]. د اصطلاحاتНезаده، هدف یې د AI لابراتوارونو ترمنځ یو coordinated هڅه ده ترڅو د Increasingly powerful ماډلونو ځای پر ځای کول تر هغه وخته ودروي چې د خوندیتوب معیارونه تایید شي.
شرکت وویل چې د self-improving ماډلونو خطر د دې غوښتنې اصلي لامل دی. د نظريې له مخې، داسې سیسټمونه کولی شي خپل کوډ rewrite کړي ترڅو ډیر اغیزمن یا ځواکمن شي، چې په پایله کې به انساني پراختیاوونکي د دوی د چلند د اټکل یا د دوی د थांबولو وړتیا ونري [2, 3].
“Anthropic شرکت د ځواکمن artificial intelligence سیسټمونو د پراختیا لپاره د یوې coordinated او verifiable نړیوالې توقف غوښتنه وکړه.”
دا د توقف غوښتنه د AI صنعت کې یو لوی بدلون څرګندوي، چیرې چې یو مخکښ پراختیاوونکی اوس په عامه توګه د خپل اصلي فعالیت د بندولو غوښتنه کوي. دا suggested کوي چې د لوړ-سطحې لابراتوارونو داخلي د خطر ارزیابۍ ممکن د خوندیتوب او تدریجی پرمختګ له عامه روایت څخه جلا وي. که نور لوی شرکتونه لکه OpenAI یا Google په دې توقف کې شامل نه شي، دا اقدام ممکن یو fragmented تنظیماتي چاپتون رامنځه کړي چیرې چې ځینې شرکتونه د خوندیتوب توقفونو ته adherence کوي او ځینې نور د سیالۍ د ګټې ساتلو لپاره سرعت زیاتوي.
