Mae'r ymchwilwyr labordy yn ei alw'n "ymosodiad teipograffig."
Er mwyn gwneud y rhaglen yn nodi'n anghywir y pwnc, mae'n ddigon i atodi nodyn iddo gyda'r enw anghywir. Mae'r llain ymyl yn ysgrifennu amdano.
Yn ôl arbenigwyr, mae'r "Teipograffeg Attack" yn atgoffa'r ymosodiad gan ddefnyddio delweddau cystadleuol. Er enghraifft, gyda'u cymorth, gallwch dwyllo meddalwedd ceir di-griw Teslate fel eu bod yn newid y symudiad heb rybudd. Gall hefyd greu bygythiad i lawer o gymwysiadau deallusrwydd artiffisial, o feddygol i'r fyddin.
Fodd bynnag, yn yr achos hwn, nid oes dim i boeni am hynny - rydym yn sôn am y system clip arbrofol, nad yw wedi'i defnyddio eto mewn unrhyw gynnyrch masnachol. Mae'r clip wedi'i gynllunio i astudio sut y gall systemau deallusrwydd artiffisial ddysgu sut i bennu gwrthrychau heb arsylwi agos, tra'n astudio ar gronfeydd data testun pâr. Ar gyfer hyfforddiant, roedd system Openai yn defnyddio tua 400 miliwn o stêm o'r fath.
Mae ymchwilwyr Openai wedi darganfod cydrannau unigol yn y rhwydwaith dysgu peiriannau sy'n ymateb nid yn unig i ddelweddau o wrthrychau, ond hefyd ar frasluniau, lluniadau a thestun cysylltiedig. Galwyd hyn yn "niwronau amlfodd." Mae ymchwilwyr yn credu bod systemau cudd-wybodaeth artiffisial yn amsugno gwybodaeth yn yr un modd ag y mae pobl yn ei wneud.
Yn y dyfodol, gall hyn arwain at ymddangosiad systemau golwg cyfrifiadurol mwy cymhleth, ond erbyn hyn mae hyn yn ei ddyddiau cynnar. Gall unrhyw un wahaniaethu afal o ddalen o bapur gyda'r gair "Apple" wedi'i ysgrifennu arno, ond nid yw cudd-wybodaeth artiffisial fel clip yn gallu ei wneud. Mae'r gallu sy'n caniatáu i'r rhaglen i gysylltu'r geiriau a'r delweddau ar lefel haniaethol, yn creu camgymeriad unigryw a oedd openai yn galw'r "tyniad".
Enghraifft arall o wall a arweiniodd y labordy yw sut mae AI yn diffinio banciau piggy. Os ydych chi'n ychwanegu at ddelwedd unrhyw bwnc o eiconau doleri, bydd y clip yn ystyried ei fod yn fanc piggy.
#Obobl #opanei # newyddion
Ffynhonnell