आर्टिफिशियल इंटेलिजेंस रिसर्च जर्नल में काम प्रकाशित किया गया है। खतरे जो अल्ट्रा-पूर्व कृत्यों से आगे बढ़ सकता है, जैसा कि ज्ञात है, पेंट्स में टर्मिनेटर के बारे में ब्लॉकबस्टर में वर्णित है। मैन मैक्स प्लैंक के विकास के लिए केंद्र और मशीनों के लिए विशेषज्ञों सहित विभिन्न वैज्ञानिक विषयों के प्रतिनिधियों ने यह जांचने का फैसला किया कि कितना व्यक्ति सुपर-दोषपूर्ण रोबोटों का प्रबंधन करने में सक्षम है।
"एक सुपर-प्रकाइमर जो दुनिया का प्रबंधन करता है - विज्ञान कथा की तरह लगता है। लेकिन पहले से ही रोबोट हैं जो कुछ महत्वपूर्ण कार्यों को स्वतंत्र रूप से करते हैं। साथ ही, प्रोग्रामर यह नहीं समझते कि उन्होंने इसे कैसे सीखा। नतीजतन, सवाल उठता है: क्या यह प्रक्रिया किसी बिंदु पर मानवता के लिए बेकाबू और खतरनाक बन सकती है? " - मैनुअल सेबियन द्वारा अध्ययन के लेखकों में से एक, डिजिटल मोबिलिज़ेशन समूह के प्रमुख लोगों के केंद्र और मैक्स प्लैंक संस्थान की मशीनों के प्रमुख के प्रमुख कहते हैं।
इस प्रश्न का उत्तर देने के लिए, वैज्ञानिकों ने मॉडलिंग और सैद्धांतिक गणना का उपयोग किया। जैसा कि यह निकला, भले ही ओवरटोंग कार में नैतिक सिद्धांतों पर डेटा और बाहरी दुनिया के साथ अपने संबंध को सीमित करें (उदाहरण के लिए, इंटरनेट का उपयोग बंद करें), यह मानवता को उन जोखिमों से बचाएगा जो इस तरह की प्रणाली को जारी किया जाएगा नियंत्रण में।
तथ्य यह है कि, सूचना विज्ञान के सिद्धांत के अनुसार, इस तरह के प्रतिरोध के किसी भी एल्गोरिदम - चाहे वह नैतिक सिद्धांतों के बारे में एक कार्यक्रम है या बाहरी दुनिया तक पहुंच को प्रतिबंधित कर रहा है - कमजोर और कुछ परिस्थितियों में यह खुद को बंद करने में काफी सक्षम है। इसलिए, विशेषज्ञों का निष्कर्ष निकाला गया कि यह बस सुपर प्रभावित एआई व्यक्ति और स्थिति को जल्द से जल्द प्रबंधित करने में सक्षम नहीं होगा या बाद में नियंत्रण से बाहर हो सकता है।
"हम तर्क देते हैं कि गणना में अंतर्निहित मौलिक सीमाओं के कारण पूर्ण प्रतिभूति सिद्धांत रूप से असंभव है। सुपरफ्लम में एक ऐसा प्रोग्राम होगा जिसमें सार्वभौमिक ट्यूरिंग मशीन का उपयोग करके किए गए सभी कार्यक्रम शामिल हैं, जो संभावित रूप से दुनिया की स्थिति के रूप में जटिल हैं। "
स्रोत: नग्न विज्ञान