يتم نشر العمل في مجلة أبحاث الاستخبارات الاصطناعية. الخطر الذي يمكن أن يضيء من الأفعال السابقة للغاية، كما هو معروف، في الدهانات موصوفة في Blockbusters حول المنهي. قرر ممثلو مختلف التخصصات العلمية، بما في ذلك المتخصصون من مركز معهد الناس والآلات لتطوير مان ماكس بلانك، التحقق من مقدار الشخص الذي يستطيع إدارة الروبوتات الفائقة المعيبة.
"الإعلان الفائق الذي يدير العالم - يبدو وكأنه الخيال العلمي. ولكن هناك بالفعل الروبوتات التي تؤدي بعض المهام المهمة بشكل مستقل. في الوقت نفسه، لا يفهم المبرمون على الإطلاق كيف تعلموا ذلك. نتيجة لذلك، ينشأ السؤال: هل يمكن لهذه العملية في مرحلة ما أن تصبح لا يمكن السيطرة عليها وخطيرة للإنسانية؟ " - يقول أحد مؤلفي الدراسة من قبل مانويل سيباري، رئيس مجموعة التعبئة الرقمية في وسط الناس وآلات معهد ماكس بلانك.
للإجابة على هذا السؤال، استخدم العلماء الحسابات النمذجة والنظري. كما اتضح، حتى إذا كانت البيانات المتعلقة بالمبادئ الأخلاقية في سيارة كاسونغ والحد من اتصالها بالعالم الخارجي (على سبيل المثال، إيقاف تشغيل الوصول إلى الإنترنت)، فلن ينقذ البشرية من المخاطر التي سيتم إصدار مثل هذا النظام من تحت السيطرة.
والحقيقة هي أنه وفقا لنظرية المعلوماتية، فإن أي من خوارزميات هذا الردع - سواء كان برنامجا حول المبادئ الأخلاقية أو تقييد الوصول إلى العالم الخارجي - عرضة للخطر وفي ظل ظروف معينة قدرة تماما على إيقاف نفسه. لذلك، يستنتج الخبراء أنه لن يتمكن ببساطة من إدارة شخص من منظمة العفو الدولية المتضررة الفائقة والوضع عاجلا أم آجلا يمكن أن يخرج عن نطاق السيطرة.
"نقول أن الردع الكامل من حيث المبدأ مستحيل بسبب القيود الأساسية الكامنة في الحساب نفسه. وخلص الباحثون إلى أن Superflum سيحتوي على برنامج يتضمن جميع البرامج المنفذة باستخدام آلة تورينج العالمي، والتي يحتمل أن تكون معقدة مثل حالة العالم ".
المصدر: العلوم العارية