Travay se pibliye nan jounal la nan rechèch entèlijans atifisyèl. Danje a ki ka kontinye soti nan zak yo ultra-anvan, kòm se li te ye, nan pentire yo se dekri nan sukse sou Terminator la. Reprezantan nan disiplin divès kalite syantifik, ki gen ladan espesyalis nan sant la pou moun ak machin Enstiti pou la devlopman nan nonm Max Planck, deside tcheke konbyen lajan moun se kapab jere robo super-ki defektye.
"Yon pwoklamatè super ki jere mond lan - son tankou syans fiksyon. Men, gen deja robo ki fè sèten travay enpòtan poukont li. An menm tan an, pwogramasyon yo pa konprann nan tout ki jan yo te aprann li. Kòm yon rezilta, kesyon an rive: Èske pwosesis sa a nan kèk pwen yo vin enkontwolab ak danjere pou limanite? " - Says youn nan otè yo nan etid la pa Manuel Sebarian, tèt la nan gwoup la mobilizasyon dijital nan sant la nan moun ak machin nan Enstiti a nan Max Planck.
Pou reponn kesyon sa a, syantis yo itilize modèl ak kalkil teyorik. Kòm li te tounen soti, menm si done yo sou prensip etik nan machin nan overtong ak limite koneksyon li yo ak mond lan deyò (pou egzanp, fèmen aksè entènèt), li pa pral delivre limanite soti nan risk ki genyen nan ki pral tankou yon sistèm dwe lage soti nan anba kontwol.
Reyalite a se ke, selon teyori a nan enfòmatik, nenpòt nan algoritm yo nan diskour sa yo - si li se yon pwogram sou prensip etik oswa mete restriksyon sou aksè nan mond lan deyò - vilnerab ak nan sèten sikonstans li se byen kapab nan vire nan tèt li. Se poutèt sa, ekspè konkli ke li tou senpleman pa yo pral kapab jere moun nan super-afekte AI ak sitiyasyon an pi bonè oswa pita ka jwenn soti nan kontwòl.
"Nou diskite ke deteryansyon konplè se nan prensip enposib akòz limit fondamantal nannan nan kalkil la tèt li. Superflum a pral gen yon pwogram ki gen ladan tout pwogram te pote soti lè l sèvi avèk machin nan turing inivèsèl, potansyèlman kòm konplèks kòm eta a nan mond lan, "chèchè yo te konkli.
Sous: toutouni Syans