Delo je objavljeno v Journal of Umetne Intelligence Raziskave. Nevarnost, ki lahko nadaljuje z ultra-predhodnimi dejanji, kot je znana, v barvah je opisana v blokbusterjev o terminalu. Predstavniki različnih znanstvenih disciplin, vključno s strokovnjaki iz Centra za ljudi in strojev Inštitut za razvoj Man Max Planck, se je odločil, da preverijo, koliko osebe lahko upravlja super okvarjene robote.
"Super-proclailler, ki upravlja svet - zveni kot znanstvena fantastika. Vendar pa so že roboti, ki opravljajo nekatere pomembne naloge neodvisno. Ob istem času, programerji sploh ne razumejo, kako so ga naučili. Posledično se postavlja vprašanje: lahko ta proces na nekemu kažejo, da postane nekontroliran in nevaren za človeštvo? " - pravi enega od avtorjev študije Manuela Sebarija, vodja skupine digitalnih mobilizacije v centru ljudi in strojev Inštituta Max Planck.
Odgovoriti na to vprašanje, znanstveniki uporabljajo modeliranje in teoretične izračune. Kot se je izkazalo, tudi če so podatki o etičnih načelih v premeščenem avtomobilu in omejijo njegovo povezavo z zunanjim svetom (na primer izklop dostopa do interneta), ne bo prihranilo človeštva iz tveganj, ki jih bo ta sistem sprostil pod kontrolo.
Dejstvo je, da po mnenju teorije informatike, katerega koli algoritma takega odvračanja - ali gre za program o etičnih načelih ali omejevanju dostopa do zunanjega sveta - ranljivih in v določenih okoliščinah, je precej sposobno izklopiti. Zato strokovnjaki sklepajo, da preprosto ne bo mogel upravljati super prizadete osebe AI in situacije prej ali slej lahko pride do nadzora.
"Trdimo, da je popolno odvračanje načeloma nemogoče zaradi temeljnih omejitev, ki so del samega izračuna. Superflum bo vseboval program, ki vključuje vse programe, ki se izvajajo z uporabo univerzalnega turiranja stroj, potencialno kot kompleksen kot stanje sveta, "Raziskovalci zaključijo.
Vir: Naked Science