Kazi imechapishwa katika jarida la utafiti wa akili bandia. Hatari ambayo inaweza kuendelea kutoka kwa vitendo vya Ultra-kabla, kama inavyojulikana, katika rangi huelezwa katika blockbusters kuhusu terminator. Wawakilishi wa taaluma mbalimbali za kisayansi, ikiwa ni pamoja na wataalamu kutoka Kituo cha Watu na Taasisi ya Mashine ya Maendeleo ya Man Max Planck, aliamua kuangalia kiasi gani mtu anaweza kusimamia robots kali.
"Mhubiri mkuu anayeweza kusimamia ulimwengu - inaonekana kama sayansi ya uongo. Lakini tayari kuna robots zinazofanya kazi fulani muhimu kwa kujitegemea. Wakati huo huo, waendeshaji hawaelewi kabisa jinsi walivyojifunza. Matokeo yake, swali linatokea: Je, mchakato huu unaweza kuwa na uhakika na hatari kwa ubinadamu? " - anasema mmoja wa waandishi wa utafiti na Manuel Sebarian, mkuu wa kikundi cha uhamasishaji wa digital katikati ya watu na mashine za Taasisi ya Max Planck.
Ili kujibu swali hili, wanasayansi walitumia mahesabu ya mfano na ya kinadharia. Kama ilivyobadilika, hata kama data juu ya kanuni za kimaadili katika gari la overting na kupunguza uhusiano wake na ulimwengu wa nje (kwa mfano, kuzima upatikanaji wa mtandao), haitaokoa ubinadamu kutokana na hatari ambazo mfumo huo utafunguliwa chini ya udhibiti.
Ukweli ni kwamba, kwa mujibu wa nadharia ya informatics, yoyote ya algorithms ya kuzuia vile - ikiwa ni mpango juu ya kanuni za maadili au kuzuia upatikanaji wa ulimwengu wa nje - hatari na chini ya hali fulani ni uwezo wa kugeuka yenyewe. Kwa hiyo, wataalam wanahitimisha kwamba haitakuwa na uwezo wa kusimamia mtu wa AI aliyeathirika sana na hali ya mapema au baadaye inaweza kutokea.
"Tunasema kwamba kuzuia kamili ni kanuni haiwezekani kutokana na mapungufu ya msingi yanayotokana na hesabu yenyewe. Superflum itakuwa na mpango unaojumuisha mipango yote iliyofanywa kwa kutumia mashine ya kutengeneza ulimwengu wote, uwezekano kama tata kama hali ya dunia, "watafiti wanahitimisha.
Chanzo: Sayansi ya Naked.