El trabajo se publica en la revista de Investigación de Inteligencia Artificial. El peligro que puede proceder de los actos ultra-previos, como se conoce, en las pinturas se describe en los éxitos de bloques sobre el terminador. Los representantes de diversas disciplinas científicas, incluidos los especialistas del Centro de Personas y Máquinas Instituto para el Desarrollo de Man Max Planck, decidieron verificar cuánta persona puede administrar robots superfectivos.
"Un super-proclamador que administra el mundo, suena como ciencia ficción. Pero ya hay robots que realizan ciertas tareas importantes de forma independiente. Al mismo tiempo, los programadores no entienden en absoluto cómo lo aprendieron. Como resultado, surge la pregunta: ¿Puede este proceso en algún momento volverse incontrolable y peligroso para la humanidad? " - Dice uno de los autores del estudio de Manuel Sebarian, el jefe del grupo de movilización digital en el centro de personas y máquinas del Instituto de Max Planck.
Para responder a esta pregunta, los científicos utilizaron el modelado y los cálculos teóricos. Como resultó, incluso si los datos sobre los principios éticos en el automóvil abierta y limitan su conexión con el mundo exterior (por ejemplo, desactivan el acceso a Internet), no le salvará a la humanidad los riesgos de que dicho sistema se libere de bajo control.
El hecho es que, de acuerdo con la teoría de la informática, cualquiera de los algoritmos de dicha disuasión, ya sea un programa sobre los principios éticos o la restricción del acceso al mundo exterior, vulnerable y bajo ciertas circunstancias, es bastante capaz de apagarse. Por lo tanto, los expertos concluyen que simplemente no podrá administrar la persona AI superpida y la situación, tarde o temprano puede salir de control.
"Argumentamos que la disuasión completa es en principio imposible debido a las limitaciones fundamentales inherentes a la propia cálculo. El Superflum contendrá un programa que incluye todos los programas realizados utilizando la máquina de Turing Universal, potencialmente tan compleja como el estado del mundo ", concluyen los investigadores.
Fuente: Ciencia desnuda