Ix-xogħol huwa ppubblikat fil-Ġurnal Uffiċjali ta 'Riċerka Intelliġenza Artifiċjali. Il-periklu li jista 'jipproċedi mill-atti ultra-preċedenti, kif inhu magħruf, fiż-żebgħa huwa deskritt fi Blockbusters dwar it-Terminatur. Rappreżentanti ta 'diversi dixxiplini xjentifiċi, inklużi speċjalisti miċ-Ċentru għall-Persuni u l-Istitut tal-Magni għall-Iżvilupp tal-Man Max Planck, iddeċidew li jivverifikaw kemm il-persuna tista' timmaniġġja robots super-difettużi.
"Super-proklalatur li tamministra d-dinja - ħsejjes bħal fantaxjenza. Iżda diġà hemm robots li jwettqu ċerti kompiti importanti b'mod indipendenti. Fl-istess ħin, il-programmaturi ma jifhmux fil-livelli kollha kif tgħallmu. Bħala riżultat, tqum il-mistoqsija: Dan il-proċess jista 'jsir inkontrollabbli u perikoluż għall-umanità? " - Jgħid wieħed mill-awturi ta 'l-istudju minn Manuel Sebarian, il-kap tal-grupp ta' mobilizzazzjoni diġitali fiċ-ċentru tan-nies u l-magni ta 'l-Istitut ta' Max Planck.
Biex twieġeb din il-mistoqsija, ix-xjentisti użaw l-immudellar u l-kalkoli teoretiċi. Peress li rriżulta, anki jekk id-data fuq prinċipji etiċi fil-karozza overtog u jillimitaw konnessjoni tagħha mad-dinja esterna (per eżempju, itfi aċċess għall-internet), mhux se jiffrankaw l-umanità mir-riskji li sistema bħal din se tiġi rilaxxata minn taht kontroll.
Il-fatt hu li, skond it-teorija ta 'l-informatika, kwalunkwe mill-algoritmi ta' tali deterrent - jekk huwiex programm dwar prinċipji etiċi jew tirrestrinġi l-aċċess għad-dinja esterna - vulnerabbli u taħt ċerti ċirkostanzi huwa pjuttost kapaċi li jintefa lilu nnifsu. Għalhekk, l-esperti jikkonkludu li sempliċement ma jkunx kapaċi jimmaniġġja l-persuna AI affettwata super u s-sitwazzjoni illum jew għada tista 'toħroġ mill-kontroll.
"Aħna nargumentaw li d-deterrent sħiħ fil-prinċipju huwa impossibli minħabba l-limitazzjonijiet fundamentali inerenti fil-kalkolu nnifsu. Is-superfra jkun fih programm li jinkludi l-programmi kollha mwettqa bl-użu tal-magna universali tat-Turing, potenzjalment kumplessa daqs l-istat tad-dinja, "ir-riċerkaturi jikkonkludu.
Sors: Xjenza Naked