Työ julkaistaan lehdessä Tekollinen tiedustelututkimus. Vaara, joka voi edetä erittäin etukäteisistä tekoista, kuten tunnetaan, maaleissa on kuvattu terminatorin blockbustereissa. Eri tieteenalojen edustajat, mukaan lukien ihmisten ja koneiden keskuksen asiantuntijat ihmisten Max Planckin kehitykselle, päätti tarkistaa, kuinka paljon ihminen pystyy hallitsemaan super-viallisia robotteja.
"Super-julistus, joka hallinnoi maailmaa - kuulostaa tieteiseltä. Mutta on jo robotteja, jotka suorittavat tiettyjä tärkeitä tehtäviä itsenäisesti. Samaan aikaan ohjelmoijat eivät ymmärrä lainkaan siitä, miten he oppivat sen. Tämän seurauksena syntyy kysymys: Voiko tämä prosessi jonkin verran olla hallitsematon ja vaarallinen ihmiskunnalle? " - Sanoo yksi Manuel Sebarian tutkimuksen tekijöistä, digitaalisen mobilisointikirjeen johtaja ihmisten keskuksessa ja Max Planckin instituutin keskuksessa.
Jos haluat vastata tähän kysymykseen, tiedemiehet käyttivät mallinnus- ja teoreettisia laskelmia. Kuten se osoittautui, vaikka eettiset periaatteet overtong-autossa ja rajoittavat yhteyden ulkopuoliseen maailmaan (esimerkiksi sammutettu Internet-yhteys), se ei pelasta ihmiskuntaa riskeistä, joita tällainen järjestelmä vapautetaan hallinnassa.
Tosiasia on, että informatiikan teorian mukaan mikä tahansa tällaisen esteen algoritmit - onko se ohjelma eettisistä periaatteista tai rajoittaa pääsyä ulkopuoliseen maailmaan - alttiita ja tietyissä olosuhteissa se kykenee pois päältä. Siksi asiantuntijat päättelivät, että se ei yksinkertaisesti voi hallita super-kärsivää AI-henkilöä ja tilanne ennemmin tai myöhemmin voi päästä pois.
"Me väittämme, että täydellinen ehkäiseminen on periaatteessa mahdotonta, koska laskennassa olevien perusrajoitusten vuoksi. Superflum sisältää ohjelman, joka sisältää kaikki ohjelmat, jotka suoritetaan Universal Turingin koneella, mahdollisesti monimutkaisena kuin maailman tila ", tutkijat päättelevät.
Lähde: Alasti tiede