O traballo publícase na revista de investigación artificial de intelixencia. O perigo que pode proceder desde os actos ultra-horarios, como se sabe, nas pinturas descríbese en Blockbusters sobre o Terminator. Representantes de diversas disciplinas científicas, incluíndo especialistas do Centro de persoas e máquinas Instituto para o desenvolvemento do home Max Planck, decidiu comprobar o que a persoa é capaz de xestionar robots super-defectuosos.
"Unha superprazamento que xestiona o mundo - soa como a ciencia ficción. Pero xa hai robots que realizan certas tarefas importantes de forma independente. Ao mesmo tempo, os programadores non entenden en absoluto como o aprenderon. Como resultado, xorde a pregunta: pode este proceso nalgún momento para converterse incontrolable e perigoso para a humanidade? " - Di un dos autores do estudo por Manuel Sebarian, o xefe do Grupo de Mobilización Dixital no centro de persoas e máquinas do Instituto de Max Planck.
Para responder a esta pregunta, os científicos usaron modelos e cálculos teóricos. Como se viu, aínda que os datos sobre principios éticos no coche superior e limitan a súa conexión co mundo exterior (por exemplo, desactivar o acceso a Internet), non vai salvar a humanidade dos riscos que tal sistema será liberado de baixo control.
O feito é que, segundo a teoría da informática, calquera dos algoritmos de tal disuasión - se se trata dun programa sobre principios éticos ou restrinxindo o acceso ao mundo exterior - vulnerable e baixo certas circunstancias, é bastante capaz de apagarse. Polo tanto, os expertos conclúen que simplemente non poderá xestionar a persoa AI superfectada e a situación máis tarde ou cedo pode saír do control.
"Argumentamos que a disuasión completa é en principio imposible debido ás limitacións fundamentais inherentes ao cálculo en si. O Superflum conterá un programa que inclúa todos os programas realizados usando a máquina de Turing Universal, potencialmente tan complexa como o estado do mundo ", conclúen os investigadores.
Fonte: ciencia espida