Laboro estas publikigita en la Revuo de Artefarita Inteligenta Esplorado. La danĝero, kiu povas procedi de la ultra-antaŭaj agoj, kiel oni scias, ke en la farboj estas priskribitaj en sukcesoj pri la Terminator. Reprezentantoj de diversaj sciencaj disciplinoj, inkluzive de specialistoj de la Centro por Homoj kaj Maŝinoj-Instituto por la Evoluo de Man Max Planck, decidis kontroli kiom multe da persono kapablas administri super-misajn robotojn.
"Super-proklama kiu administras la mondon - sonas kiel sciencfikcio. Sed jam estas robotoj, kiuj plenumas iujn gravajn taskojn sendepende. Samtempe, la programistoj tute ne komprenas, kiel ili lernis ĝin. Rezulte, la demando ŝprucas: Ĉu ĉi tiu procezo povas iel fariĝi neregebla kaj danĝera por la homaro? " - diras unu el la aŭtoroj de la studo de Manuel Sebaran, la estro de la cifereca mobilizada grupo en la centro de homoj kaj maŝinoj de la Instituto de Max Planck.
Por respondi ĉi tiun demandon, sciencistoj uzis modelan kaj teoriajn kalkulojn. Kiel ĝi rezultis, eĉ se la datumoj pri etikaj principoj en la aŭtomobilo de Overtong kaj limigas ĝian ligon kun la ekstera mondo (ekzemple, malŝalti interretan aliron), ĝi ne ŝparos la homaron de la riskoj, ke tia sistemo estos liberigita de sub kontrolo.
La fakto estas, ke laŭ la teorio de informadiko, iu ajn el la algoritmoj de tia malkuraĝigo - ĉu ĝi estas programo pri etikaj principoj aŭ limigo de aliro al la ekstera mondo - vundebla kaj sub certaj cirkonstancoj ĝi estas sufiĉe kapabla malŝalti sin. Sekve, spertuloj konkludas, ke ĝi simple ne povos administri la super-tuŝitan AI-personon kaj la situacion pli-malpli frue aŭ poste povos regadon.
"Ni argumentas, ke kompleta malkuraĝeco estas principe neebla pro la fundamentaj limoj en la kalkulo mem. La Superflum enhavos programon, kiu inkluzivas ĉiujn programojn efektivigitajn per la universala maŝino Turing, eble tiel kompleksa kiel la stato de la mondo, "la esploristoj finas.
Fonto: Nuda Scienco