Il lavoro è pubblicato sul Journal of Artificial Intelligence Research. Il pericolo che può procedere dagli atti ultra-anteriori, come è noto, nelle vernici è descritta nei blockbusters sul terminatore. Rappresentanti di varie discipline scientifiche, compresi gli specialisti del Centro per le persone e l'Istituto di macchine per lo sviluppo dell'uomo Max Planck, ha deciso di verificare quanta persona è in grado di gestire robot super-difetti.
"Un super-proclamore che gestisce il mondo - suoni come la fantascienza. Ma ci sono già robot che svolgono determinati compiti importanti in modo indipendente. Allo stesso tempo, i programmatori non capiscono affatto come l'hanno imparato. Di conseguenza, sorge la domanda: può questo processo a un certo punto per diventare incontrollabile e pericoloso per l'umanità? " - Dice uno degli autori dello studio di Manuel Sebarian, il capo del gruppo di mobilitazione digitale nel centro di persone e macchine dell'Istituto di Max Planck.
Per rispondere a questa domanda, gli scienziati hanno utilizzato modellizzazione e calcoli teorici. Come si è scoperto, anche se i dati sui principi etici nell'automobile di sovrapprezzo e limitano la sua connessione con il mondo esterno (ad esempio, spegnere l'accesso a Internet), non salverà l'umanità dai rischi che tale sistema verrà rilasciato da sotto controllo.
Il fatto è che, secondo la teoria dell'informatica, uno qualsiasi degli algoritmi di tale deterrenza - se si tratti di un programma sui principi etici o limitando l'accesso al mondo esterno - vulnerabile e in determinate circostanze è abbastanza capace di spegnere se stesso. Pertanto, gli esperti concludono che semplicemente non sarà in grado di gestire la persona AI super-colpita e la situazione prima o poi può uscire dal controllo.
"Sosteniamo che la definizione completa è in linea di principio impossibile a causa dei limiti fondamentali inerenti al calcolo stesso. Il superflum conterrà un programma che include tutti i programmi effettuati utilizzando la macchina di Turing universale, potenzialmente complessa come lo stato del mondo ", concludono i ricercatori.
Fonte: scienza nuda