Práce je zveřejněna v časopise z umělého inteligence výzkumu. Nebezpečí, které může pokračovat od ultra-předchozích účinků, jak je známo, v barvách je popsáno v blocích o terminátoru. Zástupci různých vědeckých disciplín, včetně specialistů z centra pro lidi a stroje Institute pro rozvoj Man Max Planck, se rozhodli zkontrolovat, kolik osoby je schopna řídit super-defektní roboty.
"Super-Proplazer, který spravuje svět - zní jako sci-fi. Existují však již roboty, kteří provádějí určité důležité úkoly nezávisle. Současně, programátoři nerozumí vůbec, jak se to dozvěděli. Výsledkem je, že otázka vzniká: Může tento proces v určitém okamžiku, aby se stal nekontrolovatelným a nebezpečným pro lidstvo? " - říká jeden z autorů studie Manuel Sebariarem, vedoucím Digitální mobilizační skupiny v centru lidí a strojů Institutu Max Planck.
Chcete-li odpovědět na tuto otázku, vědci používají modelování a teoretické výpočty. Vzhledem k tomu, že se ukázalo, i když údaje o etických principech v nadměrném vozu a omezují jeho spojení s okolním světem (například vypnout přístup k internetu), nebude zachránit lidstvo z rizik, které bude takový systém vydán pod kontrolou.
Skutečností je, že podle teorie informatiky, kterékoli z algoritmů takového odstrašování - ať už se jedná o program o etických principech nebo omezující přístup k vnějšímu světu - zranitelné a za určitých okolností je do značné míry schopné vypnout sám. Odborníci proto dospěli k závěru, že jednoduše nebude moci spravovat super-postižené AI osoby a situaci dříve nebo později se může dostat z kontroly.
"Argumentujeme, že úplné odstrašování je v zásadě nemožné z důvodu základních omezeních, která jsou v rámci samotného výpočtu. Superflu bude obsahovat program, který zahrnuje všechny programy prováděné s použitím univerzálního turistického stroje, potenciálně jako komplexní jako stav světa, "závěsníci.
Zdroj: Nahá věda