![Таҳқиқот нишон дод, ки одамон наметавонанд мошинҳои фавқулодашударо идора кунанд 9736_1](/userfiles/21/9736_1.webp)
Кор дар маҷаллаи тадқиқоти сунъӣ интишор карда мешавад. Хаттише, ки метавонад аз аъмоли ултра-пешрафта, тавре маълум аст, ки дар рангҳо дар Бокзор дар бораи терминатор тавсиф карда мешавад. Намояндагони фанҳои гуногуни илмӣ, аз ҷумла мутахассисони Маркази мардум ва Донишкадаи Мошинҳо оид ба рушди мардон Макс Планклия тасмим гирифтанд, ки чӣ гуна одамро роботҳои сершираро идора карда тавонад.
"Супердуки овоздиҳӣ, ки ҷаҳонро идора мекунад - садо медиҳад, ба бадани илмӣ. Аммо аллакай роботҳо ҳастанд, ки дар он мустақилона вазифаҳои муҳимро иҷро мекунанд. Ҳамзамон барномасозон аз он чизе намефаҳманд, ки чӣ тавр онҳо инро фаҳмиданд. Дар натиҷа, савол ба миён меояд: Оё ин раванд метавонад дар баъзе нуқтаҳои беназорат бошад ва барои инсоният хатарнок бошад? " - Мегӯянд, ки яке аз муаллифони таҳқиқоти аз ҷониби Sanuuel Sebary Sebary, роҳбари Гурӯҳи сафарбаркунии фаъолсозӣ дар маркази одамон ва мошинҳои Институти Малкл.
Барои ҷавоб додан ба ин савол, олимон моделсозӣ ва ҳисобҳои назариявӣ истифода карданд. Тавре ки маълум шуд, ҳатто агар маълумот дар принсипҳои ахлоқӣ дар автомобилҳои қаблӣ маҳдуд бошад ва пайвастагии онро бо ҷаҳони беруна маҳдуд кунад (масалан, дастрасии интернетро хомӯш кунад), он аз хатарҳо инсонро наҷот медиҳад, ки аз он хориҷ мешавад таҳти назорат.
Далел ин аст, ки тибқи назарияи информатика, ягон алгоритмҳои чунин интеррористӣ - оё он барнома дар бораи принсипҳои ахлоқӣ ё маҳдудияти дастрасӣ ба ҷаҳони беруна - осебпазир ва дар баъзе ҳолатҳо он қодир аст аз худ хомӯш шавад. Аз ин рӯ, коршиносон хулоса мекунанд, ки он танҳо метавонад ба шахсе, ки ба зарардидаи AI таъсир расонд ва вазъро зудтар ё баъдтар метавонад аз назорат барояд.
"Мо баҳс мекунем, ки боздоштани комилан бо сабаби маҳдудиятҳои бунёдии он ба худи ҳисобкунанда ғайриимкон аст. Superflenlum барномае хоҳад дошт, ки ҳамаи барномаҳои истифодаи мошини универсалӣ, эҳтимолан мураккаб ба ҳайси ҳолати ҷаҳон, ба хулоса омаданд.
Манбаъ: Илм