Die Arbeit wird in der Zeitschrift der künstlichen Intelligenzforschung veröffentlicht. Die Gefahr, die von den ultra-vorherigen Handlungen vorgehen kann, wie bekannt ist, wird in den Farben in Blockbustern um den Terminator beschrieben. Vertreter verschiedener wissenschaftlicher Disziplinen, einschließlich Spezialisten aus dem Zentrum für Menschen und Maschineninstitut für die Entwicklung des Mannes Max-Planck, beschlossen, zu überprüfen, wie viel Person superdefekte Roboter verwalten kann.
"Ein Super-Proclaimer, der die Welt verwaltet - klingt wie Science-Fiction. Es gibt jedoch bereits Roboter, die bestimmte wichtige Aufgaben unabhängig voneinander ausführen. Gleichzeitig verstehen die Programmierer überhaupt nicht, wie sie es gelernt haben. Infolgedessen ergibt sich die Frage: Kann dieser Prozess irgendwann unkontrollierbar und gefährlich für die Menschheit werden? " - sagt einer der Autoren der Studie von Manuel Sebarian, dem Leiter der digitalen Mobilisierungsgruppe im Zentrum von Personen und Maschinen des Instituts von Max-Planck.
Um diese Frage zu beantworten, verwendeten Wissenschaftler modellierende und theoretische Berechnungen. Wie es sich herausstellte, selbst wenn sich die Daten zu ethischen Prinzipien im Obertonywagen befinden und seine Verbindung mit der Außenwelt (zum Beispiel den Internetzugang ausschalten), wird sie die Menschheit nicht von den Risiken retten, von denen ein solches System freigegeben wird unter Kontrolle.
Tatsache ist, dass gemäß der Theorie der Informatik einen der Algorithmen einer solchen Abschreckung - egal ob es sich um ein Programm über ethische Prinzipien handelt oder den Zugang zur Außenwelt einschränken - anfällig und unter Umständen ist es ziemlich in der Lage, sich selbst auszuschalten. Daher schlussfähige Experten, dass es einfach nicht in der Lage ist, die super-betroffene AI-Person nicht zu verwalten, und die Situation früher oder später kann die Kontrolle verlassen.
"Wir argumentieren, dass im Prinzip der vollständigen Abschreckung aufgrund der grundlegenden Beschränkungen der Berechnung selbst nicht möglich ist. Der Superflum enthält ein Programm, das alle mit der Universalarmmaschine durchgeführten Programme umfasst, die möglicherweise als komplexer als der Zustand der Welt durchgeführt werden ", schließen die Forscher ab.
Quelle: Naked Science