Lucrările sunt publicate în Jurnalul de Cercetare Artificială Intelligence. Pericolul care poate trece de la actele ultra-anterioare, așa cum este cunoscut, în vopsele este descris în blockbusters despre terminator. Reprezentanții diferitelor discipline științifice, inclusiv specialiștii din Centrul pentru Oameni și Masini pentru Dezvoltarea Man Max Planck, au decis să verifice cât de multă persoană este capabilă să gestioneze roboți super-defecți.
"O super-proclalamație care gestionează lumea - sună ca o ficțiune științifică. Dar există deja roboți care îndeplinesc în mod independent anumite sarcini importante. În același timp, programatorii nu înțeleg deloc cum au învățat-o. Ca urmare, apare întrebarea: poate acest proces la un moment dat să devină incontrolabil și periculos pentru umanitate? " - spune unul dintre autorii studiului de către Manuel Sebarian, șeful grupului de mobilizare digitală din centrul de persoane și mașini ale Institutului de Max Planck.
Pentru a răspunde la această întrebare, oamenii de știință au folosit modelare și calcule teoretice. Așa cum sa dovedit, chiar dacă datele privind principiile etice din mașina de supradonaj și limitează legătura cu lumea exterioară (de exemplu, oprirea accesului la internet), nu va salva omenirea de la riscurile pe care un astfel de sistem va fi eliberat de la sub control.
Faptul este că, potrivit teoriei informațiilor informatice, oricare dintre algoritmi ai unei astfel de descurajări - indiferent dacă este vorba de un program cu privire la principiile etice sau să restricționeze accesul la lumea exterioară - vulnerabilă și în anumite circumstanțe, este destul de capabil să se oprească. Prin urmare, experții concluzionează că pur și simplu nu va putea să gestioneze persoana AI Super-afectată și situația mai devreme sau mai târziu pot scăpa de sub control.
"Susținem că descurajarea completă este, în principiu, imposibilă din cauza limitărilor fundamentale inerente calculului în sine. Superflumul va conține un program care include toate programele efectuate folosind mașina universală Turing, potențial ca starea lumii ", concluzionează cercetătorii.
Sursa: Știința goală