Werk wordt gepubliceerd in het Journal of Artificial Intelligence Research. Het gevaar dat kan doorgaan vanaf de ultra-voorgaande handelingen, zoals bekend is, in de verven wordt beschreven in blockbusters over de terminator. Vertegenwoordigers van verschillende wetenschappelijke disciplines, waaronder specialisten uit het Centrum voor Mensen en Machines Instituut voor de ontwikkeling van Man Max Planck, besloot om te controleren hoeveel persoon super-defecte robots kan beheren.
"Een super-procaleer die de wereld beheert - klinkt als science fiction. Maar er zijn al robots die onafhankelijk bepaalde belangrijke taken uitvoeren. Tegelijkertijd begrijpen de programmeurs helemaal niet hoe ze het hebben geleerd. Dientengevolge ontstaat de vraag: kan dit proces op een bepaald moment onbeheersbaar en gevaarlijk worden voor de mensheid? " - Zegt een van de auteurs van het onderzoek van Manuel Sebarian, het hoofd van de digitale mobilisatiegroep in het centrum van mensen en machines van het Institute of Max Planck.
Om deze vraag te beantwoorden, gebruikten wetenschappers modellering en theoretische berekeningen. Zoals het bleek, zelfs als de gegevens over ethische principes in de overheind auto en de verbinding met de buitenwereld beperken (bijvoorbeeld internettoegang uitschakelen), zal het geen mensheid opslaan van de risico's waarmee een dergelijk systeem zal worden vrijgegeven onder controle.
Het feit is dat volgens de theorie van informatica een van de algoritmen van dergelijke afschrikking - of het nu een programma is over ethische principes of het beperken van de toegang tot de buitenwereld - kwetsbaar en onder bepaalde omstandigheden is het vrij in staat om zichzelf uit te schakelen. Daarom concluderen deskundigen dat het eenvoudigweg niet in staat zal zijn om de super aangetaste AI-persoon en de situatie eerder of later uit de hand te krijgen.
"Wij beweren dat volledige afschrikking in principe onmogelijk is vanwege de fundamentele beperkingen die inherent zijn aan de berekening zelf. De SuperFlum bevat een programma dat alle programma's omvat die worden uitgevoerd met behulp van de universele turing-machine, mogelijk zo complex als de toestand van de wereld ", concluderen de onderzoekers.
Bron: Naked Science