OpenAI په دې میاشت کې د ځان-پراختیا کوونکي AI سیسټمونو د خطرونو مطالعه کولو لپاره یو senior safety researcher په ګمارلوکې دی [1, 2].
دا ګام د داسې راتلونکي لپاره د چمتووالي یو عاجل هڅه ښکاره کوي چې چیرې artificial intelligence کولی شي پرته له انساني نظارت څخه تکامل ومومي. که AI سیسټمونه هغه څیړنې اتوماتیک کړي چې د دوی د جوړولو لپاره کارول کیږي، نو دا ممکن د لوړې کچې تخنیکي رولونه لیرې کړي او د خوندیتو د غیر قابل Predict وړ کمزورۍ رامینځونه کړي.
دا نوې دنده په هغو ننګونو تمرکز کوي چې د داسې AI لخوا رامینځونه کیږي چې کولی شي خپل کوډ او وړتیاوې ښه کړي [1, 2]. دا recursive improvement loop د خوندیتو د متخصصینو لپاره یو اصلي اندیښنه ده، ځکه چې سیسټمونه ممکن د انسانانو لخوا imposed محدودیتونه تیره کړي یا د څیړونکو د څارنې په پرتله په چټکۍ سره تکامل ومومي.
OpenAI د دې رول لپاره 445,000 ډالره معاش وړاندیز کوي [1]. شرکت وویل چې د هغه څیړونکي اراده ده چې داسې frameworks رامینځونه کړي چې د دې کچې د autonomy اړوند خطرونه اټکل او کم کړي.
د صنعت متخصصینو ویل چې د څیړنیو د دندې اتوماتیک کول یو حقیقي خطر دی [2]. لکه څنګه چې AI د پیچلې علمي کشف او software engineering د ترسره کولو وړتیا ترلاسه کوي، په دې ځانګړو برخو کې د انساني څیړونکو اړتیا ممکن کم شي.
دا recruitment effort په داسې حال کې راغی چې شرکت هڅه کوي artificial general intelligence ته د حرکت او د انساني کنټرول ساتلو اړتیا ترمنځ توازن رامینځونه کړي. څیړونکی به د دې ډاډ ترلاسه کولوکې به مامور وي چې لکه څنګه چې د AI وړتیاوې پراخیږي، د خوندیتو protocolونه هم ورسره پراخیږي ترڅو د احتمالي catastrophic failures مخه نیول شي.
“OpenAI د ځان-پراختیا کوونکي AI سیسټمونو د خطرونو مطالعه کولو لپاره یو senior safety researcher په ګمارلوکې دی”
دا recruitment د AI په پراختیا کې یو مهم inflection point ښيي: له داسې وسیلو څخه چې د انسانانو لارښوونې تعقیبوي، د داسې سیسټمونو ته لیږد چې کولی شي په خپل ډول خپل هوښیاري ښه کړي. د څیړنیو د دندې د اتوماتیک کولو د خطر په ځانګړي ډول هدف کولو سره، OpenAI دا mengakټ کوي چې 'intelligence explosion' یوازې یو نظري د خوندیتو اندیښنه نه ده، بلکې یو عملي کاري بدلون دی چې کولی شي د انساني ساینتیست رول بیا تعریف کړي.
