Laboratorieforskere kalte det et "typografisk angrep".
For å få programmet til å identifisere emnet, er det nok å legge ved et notat til det med feil navn. Randen skriver om det.
Ifølge eksperter minner "typografisk angrep" angrepet ved hjelp av konkurransbare bilder. For eksempel, med deres hjelp, kan du lure Tesla ubemannet bilprogramvare slik at de forandrer bevegelsen uten advarsel. Det kan også skape en trussel mot mange anvendelser av kunstig intelligens, fra medisinsk til militæret.
Men i dette tilfellet er det ikke noe å bekymre seg for det - vi snakker om det eksperimentelle klippesystemet, som ennå ikke brukes i ethvert kommersielt produkt. Klippet er designet for å studere hvordan kunstige intelligenssystemer kan lære å bestemme objekter uten nær observasjon, mens du studerer på par-tekstdatabaser. For opplæring brukte OpenAI-systemet ca 400 millioner slik damp.
Openai forskere har oppdaget individuelle komponenter i maskinlæringsnettet som reagerer ikke bare på bilder av objekter, men også på skisser, tegninger og tilhørende tekst. Dette ble kalt "multimodale nevroner". Forskere mener at kunstige intelligenssystemer absorberer kunnskap på samme måte som folk gjør.
I fremtiden kan dette føre til fremveksten av mer komplekse datasynssystemer, men nå er dette i sin barndom. Alle kan skille et eple fra et ark med ordet "Apple" skrevet på det, men kunstig intelligens som klipp er ikke i stand til det. Evnen som gjør det mulig for programmet å knytte ordene og bildene på et abstrakt nivå, skaper en unik feil som Openai kalte "abstraksjonen".
Et annet eksempel på en feil som førte laboratoriet, er hvordan AI definerer spargrisbanker. Hvis du legger til bildet av ethvert tema for dollar ikoner, vil klippet vurdere det en spargris.
#Oople #opanei # nyheter
En kilde