Wurk wurdt publisearre yn it tydskrift fan keunstmjittige yntelliginsjeûndersyk. It gefaar dat kin trochgean fan 'e ultra-foarôfgeande hannelingen, lykas bekend is, yn' e ferve wurdt beskreaun yn blokbusters oer de terminator. Fertsjintwurdigers fan ferskate wittenskiplike dissiplines, ynklusyf spesjalisten út it sintrum foar minsken foar minsken foar de ûntwikkeling fan 'e minske Max Planck, besleat om super-defekt robots te behearjen.
"In super-útriakeler dy't de wrâld beheart - klinkt as science fiction. Mar d'r binne al robots dy't ûnôfhinklik útfiere. Tagelyk begripe de programmeurs hielendal net hoe't se it learden. As resultaat ûntstiet de fraach: kin dit proses op ien of oare punt ûnkontrolearber en gefaarlik wêze foar it minskdom? " - Seit ien fan 'e auteurs fan' e stúdzje troch Manuel Sebarian, it haad fan 'e digitale mobilisaasjegroep yn it sintrum fan minsken en masines fan it Institute of Max Planck.
Om dizze fraach te beantwurdzjen, brûkte wittenskippers modellering en teoretyske berekkeningen. Sa't it die bliken, sels as de gegevens op etyske prinsipes yn 'e overtang-auto en beheine har ferbining mei de bûtenwrâld (yngelyks, ynternet tagong útsette fan' e risiko's út 'e risiko's dy't sa'n systeem sille wurde frijlitten ûnder kontrôle.
It feit is dat, neffens de teory fan 'e ynformaasjes, ien fan' e algoritmen fan sa'n programma is oer etyske prinsipes of beheine ta de bûtenwrâld - kwetsber en ûnder bepaalde omstannichheden is it frij te meitsjen. Dêrom konkludearje saakkundigen dat it gewoan de super-beynfloede AI-persoan kin beheare en de situaasje earder of letter kinne út kontrôle krije.
"Wy beweare dat folsleine ferwêzigens yn prinsipe yn prinsipe ûnmooglik is fanwege de fûnemintele beheiningen ynherente yn 'e berekkening sels. It Superflum sil in programma befetsje dy't alle programma's befeiliget mei de universele turing fan universele turing, potensjeel as kompleks as de steat fan 'e wrâld, "konkludearje de ûndersikers.
Boarne: Naked Science