Laboratoriniai mokslininkai jį pavadino "tipografišku ataka".
Jei norite neteisingai nustatyti programą, pakanka pridėti pastabą su neteisingu pavadinimu. "Cringe" apie tai rašo.
Pasak ekspertų, "tipografinė ataka" primena ataką naudojant ginčytinus vaizdus. Pavyzdžiui, su jų pagalba, galite apgauti Tesla nepilotuojamą automobilių programinę įrangą, kad jie pakeis judėjimą be įspėjimo. Jis taip pat gali kelti grėsmę daugeliui dirbtinio intelekto programų, nuo medicinos į kariuomenę.
Tačiau šiuo atveju nėra nieko nerimauti dėl to - kalbame apie eksperimentinę klipų sistemą, kuri dar nėra naudojama bet kuriame komerciniame produkte. Klipas skirtas studijuoti, kaip dirbtinės intelekto sistemos gali sužinoti, kaip nustatyti objektus be glaudaus stebėjimo, studijuojant poros teksto duomenų bazėse. Mokymui Openai sistema naudojo apie 400 milijonų tokio garo.
Openai tyrėjai atrado individualius komponentus mašinų mokymosi tinkle, kuris reaguoja ne tik objektų vaizdus, bet ir eskizus, brėžinius ir susijusį tekstą. Tai buvo vadinama "multimodaliniais neuronais". Mokslininkai mano, kad dirbtinės intelekto sistemos sugeria žinias taip pat, kaip ir žmonės.
Ateityje tai gali sukelti sudėtingesnių kompiuterių vizijos sistemų atsiradimą, bet dabar tai yra savo kūdikystėje. Kiekvienas gali atskirti obuolį nuo popieriaus lapo su žodžiu "Apple", parašytas ant jo, bet dirbtinis intelektas, pvz., Klipas nėra pajėgi. Gebėjimas, kuris leidžia programai susieti žodžius ir vaizdus abstrakčiais lygiu, sukuria unikalią klaidą, kurią "Openai" vadino "abstrakcija".
Kitas paklaidos, kuri vadovavo laboratorijai, pavyzdys yra tai, kaip AI apibrėžia piggy bankus. Jei pridedate bet kurio dolerio piktogramų temos vaizdą, klipas apsvarstys tai piggy banką.
#Oople #opanei # naujienos
Šaltinis