Աշխատանքը հրապարակվում է Արհեստական հետախուզական հետազոտությունների ամսագրում: Վտանգը, որը կարող է անցնել ուլտրամանուշակագույն գործողություններից, ինչպես հայտնի է, ներկերում նկարագրվում է տերմինատորի վերաբերյալ բլոկբաստերում: Տարբեր գիտական առարկաների ներկայացուցիչներ, այդ թվում, Մարդու Մաքս Մաքս Պլանկի զարգացման կենտրոնի եւ մեքենաների կենտրոնի մասնագետների ներկայացուցիչներ, որոշեցին ստուգել, թե որքան մարդ է կարողանում կառավարել գերտերության ռոբոտներ:
«Գերեզմանի քարոզիչ, որը կառավարում է աշխարհը, հնչում է գիտական ֆանտաստիկա: Բայց արդեն կան ռոբոտներ, որոնք ինքնուրույն կատարում են որոշակի կարեւոր խնդիրներ: Միեւնույն ժամանակ, ծրագրավորողները ընդհանրապես չեն հասկանում, թե ինչպես են դա իմացել: Արդյունքում հարց է ծագում. Կարող է այս գործընթացը ինչ-որ պահի դառնալ հսկայական եւ վտանգավոր մարդկության համար »: - ասում է Մաքս Պլանկի ինստիտուտի կենտրոնում թվային մոբիլիզացման խմբի անդամ Մանուել Սեբարյանի ուսումնասիրության հեղինակներից մեկը:
Այս հարցին պատասխանելու համար գիտնականներն օգտագործում էին մոդելավորում եւ տեսական հաշվարկներ: Ինչպես պարզվել է, նույնիսկ եթե ընկալում է էթիկական սկզբունքների վերաբերյալ տվյալները եւ սահմանափակում են դրա կապը արտաքին աշխարհի հետ (օրինակ, անջատեք ինտերնետ հասանելիությունը), այն կփրկվի նման համակարգը հսկողության տակ.
Փաստն այն է, որ, ըստ Ինֆորմատիկայի տեսության, նման զսպման ալգորիթմներից որեւէ մեկը `դա էթիկական սկզբունքների կամ արտաքին աշխարհների մուտքի սահմանափակման ծրագիր` խոցելի է: Հետեւաբար, փորձագետները եզրակացնում են, որ դա պարզապես չի կարողանա կառավարել գերհզոր AI անձը, եւ իրավիճակը վաղ թե ուշ կարող է դուրս գալ վերահսկողությունից:
«Մենք պնդում ենք, որ ամբողջական զսպումը սկզբունքորեն անհնար է, կապված իր հաշվարկին բնորոշ հիմնարար սահմանափակումների պատճառով: Superflum- ը պարունակում է ծրագիր, որն իր մեջ ներառում է բոլոր ծրագրերը, որոնք իրականացվում են համընդհանուր տողի մեքենայի միջոցով, հնարավոր է, որքան աշխարհի վիճակը:
Աղբյուր, մերկ գիտություն