Praca jest publikowana w dzienniku sztucznej inteligencji badań. Niebezpieczeństwo, które może przebiegać od Ultra-wcześniejszych działań, jak wiadomo, w farbach opisano w blokach o terminorze. Przedstawiciele różnych dyscyplin naukowych, w tym specjalistów z centrum dla osób i maszyn Instytut Rozwoju Man Max Planck, postanowili sprawdzić, ile osoby jest w stanie zarządzać super wadliwymi robotami.
"Super-proklaimer, który zarządza światem - brzmi jak science fiction. Ale są już roboty, które wykonują pewne ważne zadania niezależnie. W tym samym czasie programiści nie rozumieją w ogóle, jak się tego dowiedzieli. W rezultacie pojawia się pytanie: Czy ten proces w pewnym momencie stał się niekontrolowany i niebezpieczny dla ludzkości? " - mówi jeden z autorów badań Manuel Sebarian, szef grupy mobilizacji cyfrowej w centrum ludzi i maszyn Instytutu Max Plancka.
Aby odpowiedzieć na to pytanie, naukowcy wykorzystali modelowanie i obliczenia teoretyczne. Jak się okazało, nawet jeśli dane dotyczące zasad etycznych w samochodzie overong i ogranicz swoje połączenie ze światem zewnętrznym (na przykład wyłączyć dostęp do Internetu), nie oszczędza ludzkości przed ryzykiem, że taki system zostanie zwolniony z pod kontrolą.
Faktem jest, że zgodnie z teorią informatyki, którykolwiek z algorytmów takich odstraszania - czy jest to program o zasadach etycznych lub ograniczenia dostępu do świata zewnętrznego - wrażliwe i w pewnych okolicznościach jest dość zdolny do wyłączenia samego siebie. Dlatego eksperci stwierdzają, że po prostu nie będzie w stanie zarządzać super dotkniętymi osobami AI, a sytuacja prędzej lub później może wyjść z kontroli.
"Twierdzamy, że całkowite odstraszanie jest zasadniczo niemożliwe ze względu na podstawowe ograniczenia związane z samym obliczeniem. Superflum będzie zawierał program obejmujący wszystkie programy przeprowadzane za pomocą uniwersalnej maszyny Turinga, potencjalnie jako złożoną jako stan świata ", zawierają naukowcy.
Źródło: Naked Science