Laboratorijski istraživači su ga nazvali "tipografskim napadom".
Kako bi program nepravilno identificirao temu, dovoljno je priložiti bilješku s pogrešnim imenom. Rub za to piše o tome.
Prema riječima stručnjaka, "tipografski napad" podsjeća na napad koristeći natjecanje koje se mogu natjecati. Na primjer, uz njihovu pomoć, možete obmanjivati Tesla bescapenski auto softver tako da mijenjaju pokret bez upozorenja. Također može stvoriti prijetnju mnogim primjenama umjetne inteligencije, od medicinske do vojne.
Međutim, u ovom slučaju ne postoji ništa za brigu o tome - govorimo o eksperimentalnom sustavu isječka, koji se još ne koristi u bilo kojem komercijalnom proizvodu. Isječak je dizajniran za proučavanje kako sustavi umjetne inteligencije mogu naučiti kako odrediti objekte bez bliskog promatranja, dok proučavate na bazama podataka o paru. Za obuku, OpenAi sustav koristio je oko 400 milijuna takve pare.
Openai istraživači otkrili su pojedinačne komponente u mreži stroja koji reagiraju ne samo na slike objekata, već i na skicama, crtežima i pripadajućem tekstu. To se naziva "multimodalnim neuronima". Istraživači vjeruju da umjetne obavještajne sustave apsorbiraju znanje na isti način kao što ljudi to čine.
U budućnosti to može dovesti do pojave složenijih računalnih sustava vizije, ali sada je to u povojima. Svatko može razlikovati jabuku iz lista papira s riječju "jabuka" napisana na njemu, ali umjetna inteligencija kao što je isječak nije sposoban za to. Sposobnost koja omogućuje programu povezivanja riječi i slika na apstraktnoj razini, stvara jedinstvenu pogrešku koju je Openai nazvao "apstrakcija".
Još jedan primjer pogreške koja je vodio laboratorij je kako AI definira prase banke. Ako dodate sliku bilo kojeg tema ikona dolara, isječak će to uzeti u obzir piggy banka.
#Oople #Opanei # vijesti
Izvor