ნამუშევარი გამოქვეყნდა ხელოვნური დაზვერვის კვლევის ჟურნალში. საფრთხე, რომელიც შეიძლება გააგრძელოს ულტრა-წინასწარი აქტებისგან, როგორც ცნობილია, საღებავებში აღწერილია ბლოკირების ტერმინატორის შესახებ. სხვადასხვა სამეცნიერო დისციპლინების წარმომადგენლები, მათ შორის, ადამიანებისა და მანქანების ინსტიტუტის ინსტიტუტის სპეციალისტებს, მაქს პლანკის განვითარების ცენტრის ინსტიტუტი, გადაწყვიტეს, შეამოწმონ, რამდენი ადამიანს შეუძლია მართოს სუპერ-დეფექტური რობოტები.
"სუპერ მქადაგებელი, რომელიც ახორციელებს მსოფლიოს - ჟღერს სამეცნიერო ფანტასტიკა. მაგრამ უკვე არსებობს რობოტები, რომლებიც დამოუკიდებლად მნიშვნელოვან ამოცანებს ასრულებენ. ამავდროულად, პროგრამისტებმა საერთოდ არ ესმით, როგორ გაიგეს ისინი. შედეგად, კითხვა ჩნდება: შეიძლება ამ პროცესს რაღაც მომენტში, რომ გახდეს უკონტროლო და საშიში კაცობრიობისთვის? " - მაქს პლანკის ინსტიტუტის ცენტრში მენუელ სებარიზაციის ჯგუფის ხელმძღვანელის, მანუელ სებარიზაციის ჯგუფის მიერ შესწავლის ერთ-ერთი ავტორია.
ამ კითხვაზე პასუხის გასაცემად, მეცნიერებმა გამოიყენეს მოდელირება და თეორიული გათვლები. როგორც აღმოჩნდა, თუ ეთიკური პრინციპების შესახებ ეთიკური პრინციპების მონაცემები გაუქმდა და გარე სამყაროსთან კავშირს ზღუდავს (მაგალითად, ინტერნეტით გამორთეთ), ის არ გადაარჩენს კაცობრიობას რისკებს, რომ ასეთი სისტემა გაათავისუფლებს კონტროლის ქვეშ.
ფაქტია, რომ ინფორმატიკის თეორიის თანახმად, ასეთი შემაკავებელი ნებისმიერი ალგორითმების მიხედვით - არის თუ არა პროგრამა ეთიკური პრინციპების შესახებ ან გარე სამყაროსთან ხელმისაწვდომობის შეზღუდვა - სოციალურად დაუცველი და გარკვეულ გარემოებებში, საკმაოდ შეუძლია თავისთავად გამორთვას. აქედან გამომდინარე, ექსპერტებმა დაასკვნეს, რომ ის უბრალოდ ვერ შეძლებს სუპერ-დაზარალებულ AI- ს და ადრეულ სიტუაციას, ან მოგვიანებით კონტროლს გამოდის.
"ჩვენ ვამტკიცებთ, რომ სრული დარღვევა პრინციპულად შეუძლებელია გაანგარიშების ფუნდამენტური შეზღუდვების გამო. Superflum შეიცავს პროგრამას, რომელიც მოიცავს უნივერსალური ტურნირის აპარატის გამოყენებას, პოტენციურად, როგორც მსოფლიოს სახელმწიფოს კომპლექსს ", - ნათქვამია მკვლევარებმა.
წყარო: შიშველი მეცნიერება