Работата е публикувана в списанието за изкуствено разузнаване. Опасността, която може да продължи от ултра-предварителните актове, както е известно, в боите е описано в блокбастери за терминатора. Представители на различни научни дисциплини, включително специалисти от Центъра за хора и машини Институт за развитие на Man Max Planck, решиха да проверят колко човек е в състояние да управлява супер-дефектни роботи.
- Суперпровъзгласител, който управлява света - звучи като научна фантастика. Но вече има роботи, които изпълняват определени важни задачи самостоятелно. В същото време програмистите изобщо не разбират как са го научили. В резултат на това възниква въпросът: може ли този процес в някакъв момент да стане неконтролируем и опасен за човечеството? - казва един от авторите на проучването на Мануел Себиан, ръководител на групата за цифрови мобилизация в центъра на хората и машините на Института на Макс Планк.
За да отговорите на този въпрос, учените използват моделиране и теоретични изчисления. Както се оказа, дори и данните за етичните принципи в автомобила на пренапрежение и ограничават връзката му с външния свят (например изключване на интернет достъп), той няма да спаси човечеството от рисковете, от които ще бъде освободена такава система под контрол.
Факт е, че според теорията на информатиката всеки от алгоритмите на такова възпиране - независимо дали е програма за етични принципи или ограничаване на достъпа до външния свят - уязвим и при определени обстоятелства той е доста способен да се изключи. Ето защо, експертите заключават, че просто няма да може да управлява супер засегнатото AI човек и ситуацията рано или късно може да излезе от контрол.
"Ние твърдим, че пълно възпиране по принцип е невъзможно поради основните ограничения, присъщи на самия изчисление. Суперфлумът ще съдържа програма, която включва всички програми, извършвани с помощта на универсалната машина за тюси, потенциално като сложна като състоянието на света, "изследователите завършват.
Източник: гола наука