Laboratorieforskere kaldte det et "typografisk angreb".
For at gøre programmet forkert at identificere emnet, er det nok at vedhæfte en note til det med det forkerte navn. Vergen skriver om det.
Ifølge eksperter minder "typografisk angreb" angrebet ved hjælp af konkurrencebaserede billeder. For eksempel, med deres hjælp, kan du bedrage Tesla ubemandet bilsoftware, så de ændrer bevægelsen uden advarsel. Det kan også skabe en trussel mod mange anvendelser af kunstig intelligens, fra medicinsk til militæret.
Men i dette tilfælde er der intet at bekymre sig om det - vi taler om det eksperimentelle klipsystem, som endnu ikke bruges i ethvert kommercielt produkt. Klip er designet til at studere, hvordan kunstige intelligenssystemer kan lære at bestemme objekter uden tæt observation, mens du studerer på par-tekstdatabaser. Til træning brugte Openai-systemet ca. 400 millioner sådant damp.
Openai-forskere har opdaget individuelle komponenter i maskinindlæringsnetværket, der reagerer ikke kun på billeder af objekter, men også på skitser, tegninger og tilhørende tekst. Dette blev kaldt "multimodale neuroner." Forskere mener, at kunstige intelligenssystemer absorberer viden på samme måde som folk gør.
I fremtiden kan dette føre til fremkomsten af mere komplekse computersynssystemer, men nu er det i sin barndom. Enhver kan skelne et æble fra et ark papir med ordet "Apple" skrevet på det, men kunstig intelligens som klip er ikke i stand til det. Evnen, der gør det muligt for programmet at forbinde ordene og billederne på et abstrakt niveau, skaber en unik fejl, som Openai kaldte "Abstraction".
Et andet eksempel på en fejl, der førte laboratoriet, er, hvordan AI definerer sparegris. Hvis du tilføjer billedet af ethvert emne af dollars ikoner, vil Clip overveje det en sparegrave.
#Oople #opanei # nyheder
En kilde.