Práca je zverejnená v časopise výskumu umelého spravodajstva. Nebezpečenstvo, ktoré môže pokračovať z ultra-predchádzajúcich aktov, ako je známe, v náteroch je opísané v blokoch o terminátore. Zástupcovia rôznych vedeckých disciplín, vrátane špecialistov z centra pre ľudí a stroje Inštitút pre rozvoj človeka Max Planck, sa rozhodli skontrolovať, koľko osoby je schopná spravovať super-chybné roboty.
"Super-hrompulter, ktorý riadi svet - znie ako sci-fi. Ale už existujú roboty, ktoré vykonávajú určité dôležité úlohy nezávisle. Zároveň programátori nerozumejú vôbec, ako sa to naučili. V dôsledku toho vzniká otázka: môže tento proces v určitom okamihu, aby sa stal nekontrolovateľným a nebezpečným pre ľudstvo? " - hovorí jeden z autorov štúdie Manuel Sebarian, vedúcim digitálnej mobilizačnej skupiny v centre osôb a strojov Inštitútu Max Planck.
Na túto otázku odpovedať, vedci používali modelovanie a teoretické výpočty. Ako sa ukázalo, aj keď údaje o etických princípoch v spätnom vozidle a obmedzujú jeho spojenie s vonkajším svetom (napríklad vypnúť prístup k internetu), nebudú šetriť ľudstvo z rizík, že takýto systém bude uvoľnený pod kontrolou.
Faktom je, že podľa teórie informatiky, ktorýkoľvek z algoritmov takéhoto odstrašenia - či už ide o program o etických princípoch alebo obmedzení prístupu k vonkajšiemu svetu - zraniteľným a za určitých okolností je dosť schopný sa vypnúť. Preto experti dospeli k záveru, že jednoducho nebude schopný riadiť osobu AI a situáciu skôr alebo neskôr sa môže dostať z kontroly.
"Tvrdíme, že úplné odstrašenie je v zásade z dôvodu základných obmedzení, ktoré sú obsiahnuté v samotnom výpočte. Superflum bude obsahovať program, ktorý zahŕňa všetky programy vykonávané s využitím univerzálneho nástroja, potenciálne ako zložité ako stav sveta, "Výskumníci dospeli.
Zdroj: Nahá veda