Ang trabaho ay na-publish sa journal ng artificial intelligence research. Ang panganib na maaaring magpatuloy mula sa ultra-naunang mga kilos, tulad ng kilala, sa mga pintura ay inilarawan sa blockbusters tungkol sa terminator. Ang mga kinatawan ng iba't ibang mga siyentipikong disiplina, kabilang ang mga espesyalista mula sa sentro para sa mga tao at machine institute para sa pagpapaunlad ng tao Max Planck, ay nagpasya na suriin kung magkano ang tao ay maaaring pamahalaan ang sobrang may depekto na mga robot.
"Isang super-proclaimer na namamahala sa mundo - tunog tulad ng science fiction. Ngunit may mga robot na nagsasagawa ng ilang mahahalagang gawain nang nakapag-iisa. Kasabay nito, hindi naiintindihan ng mga programmer ang lahat ng natutunan nila. Bilang resulta, ang tanong ay arises: maaari itong prosesong ito sa isang punto upang maging hindi mapigilan at mapanganib para sa sangkatauhan? " - Sinasabi ng isa sa mga may-akda ng pag-aaral ni Manuel Sebarian, ang pinuno ng grupong digital mobilization sa sentro ng mga tao at machine ng Institute of Max Planck.
Upang sagutin ang tanong na ito, ginamit ng mga siyentipiko ang pagmomolde at teoretikal na mga kalkulasyon. Tulad ng ito, kahit na ang data sa mga etikal na prinsipyo sa ONOWNONG kotse at limitahan ang koneksyon sa labas ng mundo (halimbawa, i-off ang access sa Internet), hindi ito i-save ang sangkatauhan mula sa mga panganib na ang gayong sistema ay ilalabas mula sa kontrolado.
Ang katotohanan ay na, ayon sa teorya ng informatics, alinman sa mga algorithm ng naturang pagpigil - kung ito ay isang programa tungkol sa mga etikal na prinsipyo o paghihigpit sa pag-access sa labas ng mundo - mahina at sa ilalim ng ilang mga pangyayari ay lubos na kaya ng pag-off mismo. Samakatuwid, ang mga eksperto ay nagtapos na ito ay hindi magagawang upang pamahalaan ang super-apektadong AI tao at ang sitwasyon sa lalong madaling panahon ay maaaring mawalan ng kontrol.
"Nagtalo kami na ang kumpletong pagpigil ay nasa prinsipyo imposible dahil sa mga pangunahing limitasyon na likas sa pagkalkula mismo. Ang SuperFlum ay maglalaman ng isang programa na kinabibilangan ng lahat ng mga programa na isinasagawa gamit ang Universal Turing Machine, potensyal na kasing kumplikado bilang estado ng mundo, "ang mga mananaliksik ay nagtatapos.
Pinagmulan: Naked Science.