Arbejdet er offentliggjort i Journal of Artificial Intelligence Research. Faren, der kan gå fra de ultra-tidligere handlinger, som det er kendt, er i malingerne beskrevet i blockbusters omkring terminatoren. Repræsentanter for forskellige videnskabelige discipliner, herunder specialister fra Center for People and Machines Institute for Udvikling af Man Max Planck, besluttede at kontrollere, hvor meget person der er i stand til at styre super-defekte robotter.
"En super-proklamer, der styrer verden - lyder som science fiction. Men der er allerede robotter, der udfører visse vigtige opgaver uafhængigt. Samtidig forstår programmørerne slet ikke, hvordan de lærte det. Som følge heraf opstår spørgsmålet: Kan denne proces på et tidspunkt at blive ukontrollabel og farlig for menneskeheden? " - Siger en af forfatterne af undersøgelsen af Manuel Sebarian, lederen af den digitale mobiliseringsgruppe i centrum for mennesker og maskiner fra Instituttet for Max Planck.
For at besvare dette spørgsmål brugte forskere modellering og teoretiske beregninger. Som det viste sig, selvom dataene om etiske principper i OverlaG-bilen og begrænser forbindelsen med omverdenen (for eksempel, slukke for internetadgang), vil det ikke redde menneskeheden fra de risici, som et sådant system vil blive frigivet fra under kontrol.
Faktum er, at ifølge værdien af informatik, en af algoritmerne af en sådan afskrækkelse - om det er et program om etiske principper eller begrænsning af adgangen til omverdenen - sårbar og under visse omstændigheder, er det ret i stand til at slukke sig selv. Derfor konkluderer eksperter, at det simpelthen ikke vil være i stand til at styre den super-ramte AI-person, og situationen før eller senere kan komme ud af kontrol.
"Vi hævder, at fuldstændig afskrækkelse i princippet umuligt skyldes de grundlæggende begrænsninger, der er forbundet med selve beregningen. Superflum vil indeholde et program, der omfatter alle programmer udført ved hjælp af Universal Turing Machine, potentielt som kompleks som verdens tilstand, "konkluderer forskerne.
Kilde: Naked Science