El treball es publica al Journal of Artificial Intelligence Research. El perill que es pot procedir dels actes ultra anteriors, com es coneix, en les pintures es descriu en èxits de taquilla sobre el terminador. Representants de diverses disciplines científiques, incloent especialistes del Centre de Persones i Màquines Institut per al Desenvolupament de l'Home Max Planck, va decidir comprovar la quantitat de persones que pot gestionar robots super defectuosos.
"Un superproclamador que gestiona el món: sona com a ciència ficció. Però ja hi ha robots que realitzen determinades tasques importants de forma independent. Al mateix temps, els programadors no entenen en absolut com ho van aprendre. Com a resultat, sorgeix la pregunta: pot ser aquest procés en algun moment de convertir-se en incontrolable i perillós per a la humanitat? " - Diu un dels autors de l'estudi de Manuel Sebarian, el cap del grup de mobilització digital al centre de persones i màquines de l'Institut de Max Planck.
Per respondre a aquesta pregunta, els científics utilitzen el modelatge i els càlculs teòrics. Com va resultar, fins i tot si les dades sobre principis ètics en el cotxe Overong i limiten la seva connexió amb el món exterior (per exemple, desactivar l'accés a Internet), no estalviarà la humanitat dels riscos que aquest sistema serà alliberat sota control.
El fet és que, segons la teoria de la informàtica, qualsevol dels algorismes d'aquesta dissuasió - si es tracta d'un programa sobre principis ètics o restringir l'accés al món exterior, vulnerable i sota certes circumstàncies, és capaç de desviar-se. Per tant, els experts conclouen que simplement no podrà gestionar la persona de l'AI super afectada i la situació tard o d'hora pot sortir del control.
"Argumentem que la dissuasió completa és en principi impossible a causa de les limitacions fonamentals inherents al càlcul mateix. El Superflum contindrà un programa que inclou tots els programes realitzats mitjançant la màquina Turing Universal, potencialment tan complexa com l'estat del món ", conclouen els investigadors.
Font: Ciència nua