O trabalho é publicado no Journal of Artificial Intelligence Research. O perigo que pode prosseguir dos atos ultra-anteriores, como é conhecido, nas tintas é descrito em blockbusters sobre o terminador. Representantes de várias disciplinas científicas, incluindo especialistas do centro de pessoas e máquinas Instituto para o desenvolvimento do homem Max Planck, decidiu verificar quanto pessoal é capaz de gerenciar robôs super-defeituosos.
"Um super-proclamador que gerencia o mundo - sons como ficção científica. Mas já existem robôs que realizam certas tarefas importantes de forma independente. Ao mesmo tempo, os programadores não entendem como eles aprenderam. Como resultado, surge a questão: esse processo pode se tornar incontrolável e perigoso para a humanidade? " - diz um dos autores do estudo de Manuel Sebarian, chefe do grupo de mobilização digital no centro de pessoas e máquinas do Instituto de Max Planck.
Para responder a essa pergunta, os cientistas usaram modelagem e cálculos teóricos. Como se viu, mesmo que os dados sobre princípios éticos no carro excessivo e limitem sua conexão com o mundo exterior (por exemplo, desative o acesso à Internet), ele não salvará a humanidade dos riscos que tal sistema será liberado de sob controle.
O fato é que, de acordo com a teoria da informática, qualquer um dos algoritmos dessa dissuasão - se é um programa sobre princípios éticos ou restringir o acesso ao mundo exterior - vulnerável e sob certas circunstâncias, é bastante capaz de se desligar. Portanto, os especialistas concluem que simplesmente não poderá gerenciar a pessoa AI super-afetada e a situação mais cedo ou mais tarde poderá sair do controle.
"Argumentamos que a determinada dissuasão é, em princípio, impossível devido às limitações fundamentais inerentes ao cálculo em si. O Superflum conterá um programa que inclua todos os programas realizados usando a máquina universal de Turing, potencialmente tão complexos quanto o estado do mundo ", concluem os pesquisadores.
Fonte: Ciência nua