کار در مجله تحقیقات هوش مصنوعی منتشر شده است. خطر این است که می تواند از اعمال فوق پیشین ادامه یابد، همانطور که شناخته شده است، در رنگ ها در بلوک های در مورد ترمیناتور شرح داده شده است. نمایندگان رشته های علمی مختلف، از جمله متخصصان مرکز مرکز برای توسعه Man Max Planck، تصمیم به بررسی اینکه چقدر شخص قادر به مدیریت روبات های فوق العاده معیوب است.
"فوق العاده اعلامیه که جهان را مدیریت می کند - به نظر می رسد مانند علم تخیلی. اما در حال حاضر روبات هایی وجود دارد که به طور مستقل وظایف مهم خاصی را انجام می دهند. در عین حال، برنامه نویسان درک نمی کنند که چگونه آنها را آموختند. در نتیجه، این سوال مطرح می شود: آیا این روند می تواند در برخی موارد به غیر قابل کنترل و خطرناک برای بشریت تبدیل شود؟ " - می گوید یکی از نویسندگان مطالعه Manuel Sebarian، رئیس گروه بسیج دیجیتال در مرکز مردم و ماشین آلات موسسه Max Planck.
برای پاسخ به این سوال، دانشمندان از مدل سازی و محاسبات نظری استفاده کردند. همانطور که معلوم شد، حتی اگر داده ها در مورد اصول اخلاقی در ماشین Overtong و محدود کردن ارتباط آن با دنیای خارج (به عنوان مثال، دسترسی به اینترنت را خاموش کنید)، بشریت را از خطراتی که چنین سیستم از آن منتشر می شود، نجات نخواهد داد تحت کنترل.
واقعیت این است که، طبق نظریه اطلاعاتی، هر یک از الگوریتم های چنین بازدارندگی، این است که آیا این یک برنامه در مورد اصول اخلاقی یا محدود کردن دسترسی به دنیای خارج است - آسیب پذیر و تحت شرایط خاص، کاملا قادر به خاموش کردن خود است. بنابراین، کارشناسان نتیجه می گیرند که به سادگی قادر به مدیریت شخص فوق العاده تحت تاثیر قرار نمی شود و وضعیت زودتر یا بعدا می تواند از کنترل خارج شود.
"ما استدلال می کنیم که بازدارندگی کامل به دلیل محدودیت های اساسی ذاتی ذاتی خود در اصل غیرممکن است. محققان نتیجه می گیرند که Superflum شامل یک برنامه است که شامل تمام برنامه های انجام شده استفاده از دستگاه تورینگ جهانی، به طور بالقوه به عنوان پیچیده به عنوان دولت جهان است. "
منبع: علوم برهنه