İş Süni Kəşfiyyat Tədqiqatları Jurnalında dərc olunur. Bilindiyi kimi, ultra-əvvəlki aktlardan davam edə biləcək təhlükə, boyalarda Blockbusters-də terminator haqqında təsvir edilmişdir. Müxtəlif elmi fənlərin nümayəndələri, o cümlədən İnsanlar və Maşınlar İnkişafı İnstitutunun mütəxəssisləri, Max Plank-ın İnkişafı İnstitutu, daha çox insanın super qüsurlu robotları idarə edə biləcəklərini yoxlamaq qərarına gəldilər.
"Dünyanı idarə edən super eclaimer - elmi fantastika kimi səslənir. Ancaq müəyyən vacib vəzifələri müstəqil şəkildə yerinə yetirən robotlar var. Eyni zamanda, proqramçılar bunun necə öyrəndiklərini başa düşmürlər. Nəticədə, sual yaranır: bu prosesi bir anda idarəolunmaz və insanlıq üçün təhlükəli olmaq üçün edə bilərmi? " - Max Planck İnstitutunun insanların və maşınlarında rəqəmsal səfərbərlik qrupunun rəhbəri Manuel Sebryləşmə qrupunun başçısı Manuel Sebryləşmə qrupunun müəlliflərindən biri deyir.
Bu suala cavab vermək üçün elm adamları modelləşdirmə və nəzəri hesablamalardan istifadə edirdilər. Məlum olduğu kimi, overgon avtomobildə etik prinsiplər haqqında məlumatlar olsa da, xarici dünya ilə əlaqəsini məhdudlaşdırsa da (məsələn, internetə çıxışı söndürün), bu cür bir sistemin sərbəst buraxılacağı risklərdən xilas olmayacaqdır nəzarət altında.
Fakt budur ki, informatika nəzəriyyəsinə görə, bu cür davranışın alqoritmlərindən hər hansı biri etik prinsiplər və ya xarici dünyaya - həssas və müəyyən şərtlərdə özünüzü söndürməyə qadir olan bir proqramdır. Buna görə mütəxəssislər, sadəcə super təsirlənmiş AI insanı idarə edə bilməyəcəyini və vəziyyətin və daha sonra idarədən çıxa bilməyəcəyini düşünürlər.
"Mübahisə edirik ki, tam davranışın hesablamaya xas olan fundamental məhdudiyyətlər səbəbindən prinsipcə qeyri-mümkündür. SuperFLUM-da universal turing maşınından istifadə edərək, dünyanın vəziyyəti kimi mürəkkəb olaraq kompleks kimi istifadə edərək həyata keçirilən bütün proqramları ehtiva edən bir proqramı ehtiva edəcək ".
Mənbə: Çılpaq elm