Ish sun'iy razvedka tadqiqot jurnalida chop etilgan. Ma'lumki, ultra ustalardan kelib chiqadigan xavf, agar bo'yoqlardagi bo'yoqlarda blokbulatorlarda tasvirlangan. Maks Plankni rivojlantirish bo'yicha turli ilmiy fanlar, shu jumladan Max Plankni rivojlantirish instituti, erkaklar va texnika instituti mutaxassislar, qancha odam super-nuqsonli robotlarni boshqarish imkoniyatiga ega bo'lishga qaror qilishdi.
"Dunyoni boshqaradigan g'ayrioddiy va'zgo'y - ilmiy fantastika kabi ko'rinadi. Ammo mustaqil ravishda muayyan muhim vazifalarni bajaradigan robotlar mavjud. Shu bilan birga, dasturchilar o'zlarining bilimlarini qanday bilib olishlarini tushunmaydilar. Natijada savol tug'iladi: ba'zi bir nuqtada bu ish, boshqaruvsiz va insoniyat uchun xavfli bo'lishga qodirmi? " - deydi Makel Plank instituti instituti va mashinalar markazidagi Manuel Seberlik tadqiqot mualliflaridan biri, - deydi Maks Plank instituti markazidagi raqamli safarbarchilik guruhi rahbari.
Ushbu savolga javob berish uchun olimlar modellashtirish va nazariy hisob-kitoblardan foydalangan. Ma'lum bo'lishicha, haddan tashqari yuk mashinasida axloqiy tamoyillar to'g'risidagi ma'lumotlar bo'lsa ham (masalan, Internetga ulanishni o'chirib qo'ying), bu insoniyatni bunday tizim ozod qilinishi mumkin bo'lgan xavflardan qutqarmaydi nazorat ostida.
Gap shundaki, bu shunga o'xshash algritmlar nazariyasiga ko'ra, bu noqulaylik algoritmlari - bu axloqiy printsiplar yoki tashqi dunyoga nisbatan zaif va muayyan sharoitlarda o'zini bekor qilishga qodir emas. Shu sababli, ekspertlar bu juda zo'r zarar ko'rgan AI kishini boshqara olmaydi va ertami-kechmi vaziyatni boshqarish mumkin emas deb xulosa qiladi.
"Biz hisoblashning o'z-o'zidan ajralib turadigan asosiy cheklovlar tufayli to'liq bartaraf etish mumkin degan bahslashamiz. Superumni o'z ichiga olgan dasturni o'z ichiga olgan dasturni o'z ichiga olgan dasturni o'z ichiga oladi, bu dunyoning holati kabi murakkab, potentsial ravishda amalga oshiriladi.
Manba: yalang'och fan