העבודה מתפרסמת בכתב העת של מחקר בינה מלאכותית. הסכנה שיכולה להמשיך מן הפעולות הקודמות, כפי שידוע, בצבעים מתוארים בלוקסעים על המינוח. נציגי דיסציפלינות מדעיות שונות, כולל מומחים מהמרכז לאנשים ומכונות מכונות לפיתוח האדם מקס פלנק, החליטו לבדוק כמה אדם מסוגל לנהל רובוטים גדולים פגומים.
"סופר מוכתם שמנהל את העולם - נשמע כמו מדע בדיוני. אבל יש כבר רובוטים המבצעים משימות חשובות מסוימות באופן עצמאי. במקביל, המתכנתים לא מבינים בכלל איך הם למדו את זה. כתוצאה מכך, השאלה מתעוררת: האם תהליך זה יכול להיות בלתי נשלט ומסוכן לאנושות? " - אומר אחד מחברי המחקר על ידי מנואל סבריאן, ראש קבוצת ההתגייסות הדיגיטלית במרכז האנשים והמכונות של המכון למקס פלאנק.
כדי לענות על שאלה זו, מדענים השתמשו בדוגמנות ובחישורים תיאורטיים. כפי שהתברר, גם אם הנתונים על עקרונות אתיים במכונית העצמה ומגבילים את הקשר שלה עם העולם החיצון (לדוגמה, לכבות את הגישה לאינטרנט), היא לא תציל את האנושות מהסיכונים כי מערכת כזו תשוחרר מ תחת שליטה.
העובדה היא, כי על פי התיאוריה של אינפורמטיקה, כל אחד מהאלגוריתמים של הרתעה כזו - בין אם מדובר בתכנית על עקרונות אתיים או הגבלת הגישה לעולם החיצון - פגיע בנסיבות מסוימות הוא מסוגל למדי לכבות את עצמו. לכן, מומחים מסיקים כי זה פשוט לא יוכל לנהל את אדם AI מושפע סופר המצב במוקדם או במאוחר יכול לצאת מכלל שליטה.
"אנו טוענים כי הרתעה מוחלטת היא בעיקרון בלתי אפשרי בשל המגבלות הבסיסיות הטבועות בחישוב עצמו. Superflum יכיל תוכנית הכוללת את כל התוכניות שבוצעו באמצעות מכונת טיורינג אוניברסלית, פוטנציאל מורכבת כמו מצב העולם, "החוקרים מסכמים.
מקור: מדע עירום