Рад се објављује у часопису АРТИЦАЛНИХ ИНТЕРИЈАЛНЕ ИСТРАЖИВАЊА. Опасност која може да настави са ултра претходних дела, као што је познато, у бојама је описана у блоковима о терминатору. Представници различитих научних дисциплина, укључујући стручњаке из Центра за Институт за људе и машине за развој човека Мак Планцк, одлучили су да провере колико особе може да управља супер-неисправним роботима.
"Супер прокламер који управља светом - звучи као научна фантастика. Али већ постоје роботи који обављају одређене важне задатке независно. У исто време, програмери уопште не разумеју како су то научили. Као резултат тога, поставља се питање: да ли овај процес може да постане неконтролиран и опасан за човечанство? " - каже један од аутора студије Мануел Себариан-а, шефа дигиталне мобилизацијске групе у центру људи и машина Института за Мак Планцк.
Да бисте одговорили на ово питање, научници су користили моделирање и теоријске прорачуне. Како се испоставило, чак и ако се подаци о етичким принципима у аутомобилу у превлаку и ограничавају његову везу са спољним светом (на пример, искључују приступ интернету), неће спасити човечанство из ризика да ће такав систем бити ослобођен под контролом.
Чињеница је да је, према теорији информатике, било ког алгоритма таквог одвраћања - да ли је то програм о етичким принципима или ограничавајући приступ спољном свету - рањивим и под одређеним околностима, то је сасвим способно да се сама искључи. Стога стручњаци закључују да једноставно неће моћи да управља супер-погођеним АИ особама и ситуацијом пре или касније могу да изађу из контроле.
"Ми тврдимо да је потпуно одвраћање у принципу немогуће због основних ограничења својствених самом израчунавању. Суперфлум ће садржавати програм који укључује све програме који се спроводе користећи универзалну туринг машину, потенцијално као сложени као држава света ", закључују истраживачи.
Извор: Гола наука