Töö avaldatakse kunstliku luureteaduse ajakirjas. Oht, mis võib jätkata ultra-eelnevatest aktidest, nagu on teada, on värvides kirjeldatud plokkidevahendites. Erinevate teaduslike erialade esindajad, sealhulgas inimeste ja masinate keskuse keskuse spetsialistid, otsustas kontrollida, kui palju inimene suudab juhtida super-defektseid robotid.
"Super-declaimer, mis juhib maailma - kõlab nagu ulme. Kuid on juba robotid, mis täidavad iseseisvalt teatud olulisi ülesandeid. Samal ajal ei mõista programmeerijad üldse aru, kuidas nad seda õppisid. Selle tulemusena tekib küsimus: Kas see protsess võib mingil hetkel saada kontrollimatuks ja inimkonnale ohtlikuks? " - Ütleb üks Uuringu autorid Manuel Sebaaris, digitaalse mobiliseerimisgrupi juht Max Plancki Instituudi inimeste ja masinate keskmes.
Sellele küsimusele vastamiseks kasutasid teadlased modelleerimist ja teoreetilisi arvutusi. Nagu selgus, isegi kui andmed eetiliste põhimõtete kohta ülempiirga autos ja piirata selle seost välismaailmaga (näiteks internetiühenduse väljalülitamine), ei päästa see inimkonna riskidest, mida selline süsteem vabastatakse kontrolli all.
Fakt on see, et vastavalt informaatika teooriale, mis tahes sellise hoiatava mõju algoritme - kas tegemist on eetiliste põhimõtete programmiga või välismaailma juurdepääsu piiramisele - haavatavatele ja teatavatel asjaoludel, et see on üsna võimeline ise välja lülitama. Seetõttu järeldavad eksperdid, et see lihtsalt ei suuda juhtida super-mõjutatud AI-isikut ja olukorda varem või hiljem võib kontrollida.
"Me väidame, et täielik hoiatamine on põhimõtteliselt võimatu arvutamisse kaasnevate põhiliste piirangute tõttu. Superflum sisaldab programmi, mis sisaldab kõiki programme, mis viiakse läbi universaalsete taustamismasinaga, potentsiaalselt nii keerulisena kui maailma seisundina, "teadlased järeldavad.
Allikas: alasti teadus