Darbas skelbiamas dirbtinio intelekto tyrimų žurnale. Pavojus, kuris gali tęsti iš itin ankstesnių veiksmų, kaip žinoma, dažuose aprašyta "BlockBusters" apie terminatorių. Įvairių mokslo disciplinų atstovai, įskaitant specialistai iš žmonių ir mašinų instituto MAX PLANCK plėtros centro, nusprendė patikrinti, kiek žmogus gali valdyti super defektus.
"Super skelbėjas, kuris valdo pasaulį - skamba kaip mokslinė fantastika. Tačiau yra jau robotai, kurie nepriklausomai atlieka tam tikras svarbias užduotis. Tuo pačiu metu programuotojai nesupranta, kaip jie sužinojo. Kaip rezultatas, kyla klausimas: ar šis procesas tam tikru momentu gali tapti nekontroliuojamu ir pavojingu žmonijai? ". - sako vieną iš Manuel Sebrian tyrimo autorių, skaitmeninės mobilizavimo grupės vadovas Maksimalios Plancko instituto ir mašinų centre.
Norėdami atsakyti į šį klausimą, mokslininkai naudojo modeliavimą ir teorinius skaičiavimus. Kaip paaiškėjo, net jei duomenys apie etikos principus "Overtong" automobilyje ir apriboti jo ryšį su išoriniu pasauliu (pvz., Išjungti interneto prieigą), jis nebus išgelbės žmonijos nuo rizikos, kad tokia sistema bus išleista kontroliuojama.
Faktas yra tai, kad pagal informatikos teoriją, bet kokį tokio atgrasymo algoritmus - ar tai yra programa apie etinius principus arba apribojant prieigą prie išorinio pasaulio - pažeidžiami ir tam tikromis aplinkybėmis, galintis išstumti save. Todėl ekspertai daro išvadą, kad ji tiesiog negalės valdyti super paveikto AI asmens ir situacijos anksčiau ar vėliau gali išeiti iš kontrolės.
"Mes teigiame, kad visiškas atgrasymas iš esmės neįmanomas dėl pagrindinių apribojimų, būdingų pačiam skaičiavimui. "Superflum" bus programa, kurioje yra visos programos, atliekamos naudojant universaliąsias tur ÷ s mašiną, potencialiai kaip kompleksas, kaip pasaulio būklė, "Mokslininkai sudaro.
Šaltinis: nuogas mokslas