Arbeidet er publisert i Journal of Artificial Intelligence Research. Faren som kan fortsette fra de ultra-tidligere handlingene, som det er kjent, i malene er beskrevet i blockbusters om terminatoren. Representanter for ulike vitenskapelige disipliner, inkludert spesialister fra Senter for mennesker og maskiner Institutt for utviklingen av MAN MAX PLANCK, bestemte seg for å sjekke hvor mye person er i stand til å håndtere super defekte roboter.
"En super-proklager som styrer verden - høres ut som science fiction. Men det er allerede roboter som utfører visse viktige oppgaver uavhengig. Samtidig forstår programmørene ikke i det hele tatt hvordan de lærte det. Som et resultat oppstår spørsmålet: Kan denne prosessen på et tidspunkt å bli ukontrollabel og farlig for menneskeheten? " - Sier en av forfatterne av studien av Manuel Sebarian, lederen av den digitale mobiliseringsgruppen i sentrum av mennesker og maskiner i Institutt for Max Planck.
For å svare på dette spørsmålet, brukte forskere modellering og teoretiske beregninger. Som det viste seg, selv om dataene om etiske prinsipper i overordnede bilen og begrense forbindelsen med omverdenen (for eksempel slå av Internett-tilgang), vil det ikke redde menneskeheten fra risikoen for at et slikt system vil bli utgitt fra under kontroll.
Faktum er at ifølge teorien om informatikk, noen av algoritmene til en slik avskrekking - enten det er et program om etiske prinsipper eller begrensende tilgang til omverdenen - sårbar og under visse omstendigheter, er det ganske i stand til å slå av seg selv. Derfor konkluderer eksperter at det ganske enkelt ikke vil kunne klare den superfylte AI-personen og situasjonen før eller senere kan komme seg ut av kontroll.
"Vi hevder at fullstendig avskrekking i prinsippet er umulig på grunn av de grunnleggende begrensningene som er iboende i beregningen selv. Superflumet vil inneholde et program som inneholder alle programmer som utføres ved hjelp av Universal Turing Machine, potensielt som komplisert som verdensstaten, "konkluderer forskerne.
Kilde: Naked Science