Puna është botuar në revistën e hulumtimit të inteligjencës artificiale. Rreziku që mund të vazhdojë nga aktet ultra-paraprake, siç dihet, në bojra përshkruhet në blockbusters rreth terminatorit. Përfaqësuesit e disiplinave të ndryshme shkencore, duke përfshirë specialistët nga Qendra për Njerëz dhe Machines Instituti për Zhvillimin e Man Max Planck, vendosën të kontrollojnë se sa person është në gjendje të menaxhojë robotët super-dëmtues.
"Një super-tregues që menaxhon botën - tingëllon si fiction shkencore. Por ka tashmë robotë që kryejnë detyra të caktuara të rëndësishme në mënyrë të pavarur. Në të njëjtën kohë, programuesit nuk e kuptojnë aspak se si e kanë mësuar atë. Si rezultat, lind pyetja: A mundet ky proces në një moment të bëhet i pakontrollueshëm dhe i rrezikshëm për njerëzimin? " - Thotë një nga autorët e studimit nga Manuel Sebarian, kreu i grupit të mobilizimit dixhital në qendër të njerëzve dhe makinerive të Institutit të Max Planck.
Për t'iu përgjigjur kësaj pyetjeje, shkencëtarët përdorën modelimin dhe llogaritjet teorike. Siç doli, edhe nëse të dhënat mbi parimet etike në makinën overtong dhe kufizojnë lidhjen e saj me botën e jashtme (për shembull, fikni qasjen në internet), nuk do të shpëtojë njerëzimin nga rreziqet që një sistem i tillë do të lirohet Nën kontroll.
Fakti është se, sipas teorisë së informatikës, ndonjë nga algoritmet e një parandalimi të tillë - nëse është një program për parimet etike ose kufizimin e qasjes në botën e jashtme - të prekshme dhe në rrethana të caktuara, është mjaft e aftë të largohet vetë. Prandaj, ekspertët konkludojnë se thjesht nuk do të jetë në gjendje të menaxhojë një person të prekur super dhe situatën herët ose më vonë mund të dalë jashtë kontrollit.
"Ne argumentojmë se parandalimi i plotë është në parim i pamundur për shkak të kufizimeve themelore të qenësishme në llogaritjen e vetë. Superflum do të përmbajë një program që përfshin të gjitha programet e kryera duke përdorur makinën universale Turing, potencialisht aq komplekse sa shteti i botës ", përfundojnë hulumtuesit.
Burimi: Shkenca e zhveshur