Rad se objavljuje u časopisu za umjetnu inteligenciju istraživanja. Opasnost koja može nastaviti iz ultra-prethodnih djela, kao što je poznato, na bojama je opisano u blockbusterima o terminalu. Predstavnici različitih naučnih disciplina, uključujući stručnjake iz Centra za ljude i mašine Instituta za razvoj MAN Max Planck, odlučili su provjeriti koliko je osoba u stanju upravljati super-neispravnim robotima.
"Super-proglasivač koji upravlja svijetom - zvuči kao naučna fantastika. Ali već postoje roboti koji samostalno obavljaju određene važne zadatke. Istovremeno, programeri uopće ne razumiju kako su to saznali. Kao rezultat toga, postavlja se pitanje: Može li ovaj proces u nekom trenutku postati nekontroliran i opasan za čovječanstvo? " - Kaže jedan od autora studije Manuela Sebarijana, šef grupe digitalne mobilizacije u centru ljudi i strojeva Instituta za Max Planck.
Da biste odgovorili na ovo pitanje, naučnici su koristili modeliranje i teorijske proračune. Kako se ispostavilo, čak i ako su podaci o etičkim principima u prekomjerni automobili i ograničavaju njenu vezu sa vanjskim svijetom (na primjer, isključivanje interneta), neće sačuvati čovječanstvo iz rizika da će takav sistem biti pušten iz pod kontrolom.
Činjenica je da, prema teoriji informatike, bilo koji od algoritmi takve odvraćanja - da li je to program o etičkim principima ili ograničavanjem pristupa vanjskom svijetu - ranjivim i pod određenim okolnostima, sama se može isključiti. Stoga stručnjaci zaključuju da jednostavno neće moći upravljati super pogođenom AI osobom i situacijom prije ili kasnije može izaći iz kontrole.
"Pretpostavljamo da je potpuno odvraćanje u principu nemoguće zbog temeljnih ograničenja svojstvenih u sami izračun. SuperFlum će sadržavati program koji uključuje sve programe koji se provode koristeći univerzalnu turingu, potencijalno kao složenu kao stanje svijeta ", zaključuju istraživači.
Izvor: Gola nauka