Cyhoeddir gwaith yn y cylchgrawn o ymchwil cudd-wybodaeth artiffisial. Mae'r perygl a all symud ymlaen o'r gweithredoedd uwch-flaenorol, fel y mae'n hysbys, yn y paent yn cael ei ddisgrifio mewn blociau am y Terminator. Penderfynodd cynrychiolwyr o wahanol ddisgyblaethau gwyddonol, gan gynnwys arbenigwyr o'r Sefydliad Canolfan Pobl a Pheiriannau ar gyfer Datblygu Dyn Max Planck, wirio faint o berson sy'n gallu rheoli robotiaid diffygiol.
"Mae super-gyhoeddiad sy'n rheoli'r byd - yn swnio fel ffuglen wyddonol. Ond mae robotiaid eisoes yn cyflawni tasgau pwysig penodol yn annibynnol. Ar yr un pryd, nid yw'r rhaglenwyr yn deall o gwbl sut y dysgon nhw. O ganlyniad, mae'r cwestiwn yn codi: a all y broses hon rywbryd ddod yn afreolus ac yn beryglus i ddynoliaeth? " - Dywed un o awduron yr astudiaeth gan Manuel Sebarian, pennaeth y grŵp symud digidol yng nghanol pobl a pheiriannau Sefydliad Planck Max.
I ateb y cwestiwn hwn, roedd gwyddonwyr yn defnyddio cyfrifiadau modelu a damcaniaethol. Fel y digwyddodd, hyd yn oed os yw'r data ar egwyddorion moesegol yn y car Gorlifo a chyfyngu ei gysylltiad â'r byd y tu allan (er enghraifft, diffodd mynediad i'r rhyngrwyd), ni fydd yn arbed dynoliaeth o'r risgiau y bydd system o'r fath yn cael ei rhyddhau o o dan reolaeth.
Y ffaith yw, yn ôl theori gwybodeg, unrhyw un o'r algorithmau o ataliaeth o'r fath - boed yn rhaglen am egwyddorion moesegol neu gyfyngu mynediad i'r byd y tu allan - yn agored i niwed ac o dan rai amgylchiadau, mae'n eithaf gallu diffodd ei hun. Felly, mae arbenigwyr yn dod i'r casgliad na fydd yn gallu rheoli'r person AI yr effeithir arno a gall y sefyllfa yn hwyr neu'n hwyrach fynd allan o reolaeth.
"Rydym yn dadlau bod ataliaeth gyflawn yn egwyddor yn amhosibl oherwydd y cyfyngiadau sylfaenol sy'n gynhenid yn y cyfrifiad ei hun. Bydd y Superflum yn cynnwys rhaglen sy'n cynnwys yr holl raglenni a gynhelir gan ddefnyddio'r Peiriant Turing Universal, o bosibl mor gymhleth â chyflwr y byd, "mae'r ymchwilwyr yn dod i ben.
Ffynhonnell: Gwyddoniaeth noeth