Laboratorijski istraživači nazvali su ga "tipografskim napadom".
Da bi program pogrešno identificirao temu, dovoljno je da se pričvrsti na to pogrešno ime. Verge piše o tome.
Prema riječima stručnjaka, "tipografski napad" podseća napad koristeći napadačke slike. Na primjer, uz pomoć, možete prevariti Teslin bespilotni automobil softver tako da mijenjaju pokret bez upozorenja. Takođe može stvoriti prijetnju mnogim primjenama umjetne inteligencije, od medicinske do vojske.
Međutim, u ovom slučaju se o tome nema čega za brigu - govorimo o eksperimentalnom sistemu isječka, koji još nije korišten u bilo kojem komercijalnom proizvodu. Clip je dizajniran za proučavanje kako umjetni inteligencijski sustavi mogu naučiti kako odrediti predmete bez bliskog zapažanja, dok studiraju na bazama podataka u paru. Za obuku, sustav Openai koristio je oko 400 miliona takve pare.
Istraživači Openai otkrili su pojedinačne komponente u strojnoj mreži za učenje koje ne reagiraju ne samo na slike objekata, već i na skice, crtežima i pridruženim tekstom. To se zvalo "Multimodalni neuroni". Istraživači vjeruju da umjetni obavještajni sustavi apsorbiraju znanje na isti način kao i ljudi.
U budućnosti to može dovesti do pojave složenijih računarskih vizija, ali sada je to u njenoj dojenčadi. Svatko može razlikovati jabuku s lista papira s riječju "Apple" napisana na njemu, ali umjetna inteligencija poput CLIP-a nije u stanju. Sposobnost koja omogućava program da poveže riječi i slike na apstraktnom nivou, stvara jedinstvenu grešku koju je Openai nazvao "apstrakcija".
Drugi primer greške koja je vođena laboratorija je kako AI definira svinjačke banke. Ako dodate sliku Bilo kakvih predmeta Dollars Icons, Clip će ga smatrati piggy bankom.
#Oople #opanei # vijesti
Izvor