Arbetet publiceras i Journal of Artificial Intelligence Research. Faren som kan fortsätta från de ultra-tidigare handlingarna, som är känt, i färgerna beskrivs i blockbusters om terminatorn. Företrädare för olika vetenskapliga discipliner, inklusive specialister från centrum för människor och maskiner Institutet för utveckling av människa Max Planck, bestämde sig för att kontrollera hur mycket person som kan hantera super-defekta robotar.
"En superproclaimer som förvaltar världen - låter som science fiction. Men det finns redan robotar som utför vissa viktiga uppgifter självständigt. Samtidigt förstår programmerare inte alls hur de lärde sig det. Som ett resultat uppstår frågan: Kan denna process vid någon tidpunkt att bli okontrollerbar och farlig för mänskligheten? " - Säger en av författarna till studien av Manuel Sebarian, chefen för den digitala mobiliseringsgruppen i mitten av människor och maskiner av Max Plans Institute.
För att svara på denna fråga använde forskare modellering och teoretiska beräkningar. Som det visade sig, även om uppgifterna om etiska principer i den överång bilen och begränsa sin anslutning till omvärlden (till exempel stänger av internetåtkomst), kommer det inte att rädda mänskligheten från de risker som ett sådant system kommer att släppas från under kontroll.
Faktum är att enligt teorin om informatik, någon av algoritmerna av sådan avskräckning - om det är ett program om etiska principer eller begränsa tillgången till omvärlden - sårbar och under vissa omständigheter är det ganska kapabelt att stänga av sig själv. Därför drar experter att det helt enkelt inte kommer att kunna hantera den super-drabbade AI-personen och situationen förr eller senare kan komma ur kontroll.
"Vi hävdar att fullständig avskräckning är i princip omöjligt på grund av de grundläggande begränsningarna som är förknippade med själva beräkningen. Superflumet kommer att innehålla ett program som innehåller alla program som utförs med hjälp av den universella Turing-maskinen, potentiellt som komplex som världens tillstånd ", avslutar forskarna.
Källa: Naken vetenskap