Rad se objavljuje u časopisu za istraživanje umjetnih inteligencije. Opasnost koja može nastaviti iz ultra-prethodnih djela, kao što je poznato, u slikama je opisano u blockbusterima o terminatoru. Predstavnici različitih znanstvenih disciplina, uključujući stručnjake iz Centra za Institut za ljude i strojeve za razvoj čovjeka Max Planck, odlučili su provjeriti koliko osoba može upravljati super-neispravnim robotima.
"Super-proclaimer koji upravlja svijetom - zvuči kao znanstvena fantastika. Ali već postoje roboti koji obavljaju određene važne zadatke samostalno. U isto vrijeme, programeri uopće ne razumiju kako su to naučili. Kao rezultat toga, postavlja se pitanje: Može li ovaj proces u nekom trenutku postati nekontroliran i opasan za čovječanstvo? " - kaže jedan od autora studija Manuela Sebarian, šef digitalne mobilizacije grupe u središtu ljudi i strojeva Instituta za Max Planck.
Da biste odgovorili na ovo pitanje, znanstvenici su koristili modeliranje i teorijske izračune. Kako se ispostavilo, čak i ako su podaci o etičkim načelima u automobilu u preopterećenju i ograničili njegovu povezanost s vanjskim svijetom (na primjer, isključite pristup internetu), neće uštedjeti čovječanstvo od rizika da će takav sustav biti objavljen pod kontrolom.
Činjenica je da je, prema teoriji informatike, bilo koji od algoritama takvog odvraćanja - bilo da je to program o etičkim načelima ili ograničavanju pristupa vanjskom svijetu - ranjivom i pod određenim okolnostima, prilično je sposobna isključiti se. Stoga stručnjaci zaključuju da jednostavno neće moći upravljati super-pogođenom AI osobom, a situacija prije ili kasnije može izaći iz kontrole.
"Mi tvrde da je potpuno odvraćanje u načelu nemoguće zbog temeljnih ograničenja svojstvenih same izračuna. Superflum će sadržavati program koji uključuje sve programe koji se provode koristeći univerzalni turistički stroj, potencijalno kao složeni kao što je stanje svijeta ", zaključuju istraživači.
Izvor: Gola znanost