Жумуш жасалма чалгындоо журналында жарыяланган. Белгилүү болгон ультра-принистрлерден улантылышы мүмкүн болгон коркунучту, боёк учурунда терминатор жөнүндө блокбастерлеринде баяндалат. Адамдардын борборун жана машиналардын борборундагы адистердин өкүлдөрү, Макс Планканын өнүгүүсүнүн борборундагы адистеринин өкүлдөрү өздөрүнүн супер-кемчиликсиз роботторун башкара алаарын текшерүүнү чечишти.
"Дүйнөнү башкарган супер жар проспель - илимий фантастика сыяктуу угулат. Бирок буга чейин белгилүү бир маанилүү тапшырмаларды өз алдынча аткарган роботтор бар. Ошол эле учурда, программисттер муну кантип билишкенин түшүнүшпөйт. Натыйжада, суроо туулат: бул процесс кандайдыр бир учурда адамзат үчүн контролсуз жана коркунучтуу болуп калабы? " - Макс Планк институтунун элдеринин борборундагы санариптик мобилизация тобунун башчысы Мануэль Сөбар тилкесинин башчысы Мануэль Сөбариялык мобилизация тобунун башчысы.
Бул суроого жооп алуу үчүн илимпоздор моделдөө жана теориялык эсептөөлөрдү колдонушкан. Овертонг унаасында этикалык принциптерде этикалык принциптер жөнүндө маалыматтар, тышкы дүйнө менен байланышын чектөө (мисалы, Интернетке кирүүнү өчүрүү), ал адамзатты ушундай системадан чыгарып салбайт деген тобокелдиктерден сактабайт көзөмөл алдында.
Чындыгында, информатика теориясына ылайык, мындай тоскоолдуктардын кайсынысы болбосун, бул этикалык принциптер жөнүндө программа же тышкы дүйнөгө кирүүнү чектөө, алсыз жана белгилүү бир жагдайларда алсыз жана белгилүү бир жагдайларда алга турууга жөндөмдүү. Демек, эксперттер супер жабыркаган AI адамын башкара албай калышат жана анын эртеби-кечпи, кырдаалды башкара албай калышат деп жыйынтык чыгарбайт.
"Эсептөө үчүн мүнөздүү чектөөлөрдөн улам, негизсиз тоскоолдук кылуу - бул мүмкүн эмес. Суперфлум универсалдуу туруучу машинаны колдонуп, дүйнөнүн мамлекетине ылайык, ошондой эле татаал болгон бардык программаларды камтыган программаны камтыйт ", - деп жыйынтыктайт.
Булак: Жылаңач илим