Werk word in die tydskrif van kunsmatige intelligensie-navorsing gepubliseer. Die gevaar wat kan voortgaan uit die ultra-voorafgaande dade, soos bekend, in die verf word in blokbusters oor die Terminator beskryf. Verteenwoordigers van verskeie wetenskaplike dissiplines, insluitend spesialiste van die Sentrum vir Makers en Machines Instituut vir die ontwikkeling van Max Planck, het besluit om te kyk hoeveel persoon super-gebrekkige robots kan bestuur.
"'N Super-proklaimer wat die wêreld bestuur - klink soos wetenskapfiksie. Maar daar is reeds robotte wat sekere belangrike take onafhanklik verrig. Terselfdertyd verstaan die programmeerders glad nie hoe hulle dit geleer het nie. Gevolglik ontstaan die vraag: Kan hierdie proses op 'n sekere tyd onbeheerbaar en gevaarlik wees vir die mensdom? " - Sê een van die skrywers van die studie deur Manuel Sebarian, die hoof van die digitale mobiliseringsgroep in die middel van mense en masjiene van die Instituut van Max Planck.
Om hierdie vraag te beantwoord, het wetenskaplikes modellering en teoretiese berekeninge gebruik. Soos dit blyk, selfs al is die data op etiese beginsels in die oorheersende motor en beperk die verband met die buitewêreld (byvoorbeeld, afskakel internet toegang), sal dit nie die mensdom red van die risiko's wat so 'n stelsel vrygelaat sal word nie. onder beheer.
Die feit is dat, volgens die teorie van Informatika, enige van die algoritmes van sulke afskaffing - of dit nou 'n program is oor etiese beginsels of die beperking van toegang tot die buitewêreld-kwesbaar en onder sekere omstandighede is dit redelik in staat om homself af te skakel. Daarom, kenners tot die gevolgtrekking gekom dat dit eenvoudig nie die super-geraakte AI-persoon kan bestuur nie en die situasie vroeër of later kan buite beheer wees.
"Ons argumenteer dat volledige afskaffing in beginsel onmoontlik is as gevolg van die fundamentele beperkings inherent in die berekening self. Die superflum sal 'n program bevat wat alle programme insluit wat uitgevoer word met behulp van die universele turing masjien, moontlik so kompleks as die toestand van die wêreld, "het die navorsers afgehandel.
Bron: Naakte Wetenskap