Lana Inteligentzia Artifizialeko Ikerketetan argitaratzen da. Ultra-aldez aurretik egindako ekintzetatik aurrera egin daitekeen arriskua, margoetan terminatzaileari buruzko blockbusterretan deskribatzen da. Hainbat diziplina zientifikoetako ordezkariak, gizakia Max Planck-en garapenerako pertsonen eta Makinen Institutuko Zentroko espezialistek, besteak beste, pertsona super-akastunak kudeatzeko gai den egiaztatzea erabaki zuen.
"Mundua kudeatzen duen super-aldarrikatzailea - zientzia fikzioa dirudi. Baina badaude zenbait zeregin modu modu independentean egiten dituztenak. Aldi berean, programatzaileek ez dute ulertzen nola ikasi duten. Ondorioz, galdera sortzen da: Prozesu hau edozein unetan kontrolik gabe eta arriskutsua izan daiteke gizateriarentzat? " - Manuel Sebarian-ek egindako ikerketaren egileetako bat da, Max Planteko Institutuko Institutuko Pertsonen eta Makinen Zentroko Mobilizazio Taldearen buru.
Galdera honi erantzuteko, zientzialariek ereduak erabili zituzten eta kalkulu teorikoak erabili zituzten. Konturatu zenez, nahiz eta kanpoko munduan printzipio etikoei buruzko datuak eta kanpoko munduarekin duen lotura mugatu (adibidez, Interneteko sarbidea desaktibatu), ez du gizateria salbatuko horrelako sistema batek aske utziko duen arriskuetatik salbatuko du gizateria kontrolpean.
Kontua da, informatikaren teoriaren arabera, horrelako detezantearen algoritmoen arabera, printzipio etikoen inguruko programa bada edo kanpoko mundura sarbidea murriztea ala ez, egoera ahulak eta zenbait egoeratan nahiko gai da bera itzaltzeko gai dena. Hori dela eta, adituek ondorioztatu dute, besterik gabe, ezin duela super kaltetutako AI pertsona kudeatu eta lehenago edo beranduago kontroletik atera daitekeela.
"Argudiatzen dugu erabateko disuasioa printzipioz ezinezkoa dela kalkuluan berezko oinarrizko mugak direla eta. Superflum-ek turismo unibertsala erabiltzen duen programa guztiak biltzen dituen programa bat izango du, munduko estatua bezain konplexua den ", ondorioztatu du ikerlariek.
Iturria: Naked Science