Raziskovalci laboratorija so ga imenovali "tipografski napad".
Če želite program nepravilno identificirati predmet, je dovolj, da z napačnim imenom priložite opombo. Verjeno piše o tem.
Po mnenju strokovnjakov, "tipografski napad" spominja na napad z uporabo neprimerljivih slik. Na primer, s svojo pomočjo lahko zavajate programsko opremo TESLA brez posadke, tako da spremenijo gibanje brez opozorila. Prav tako lahko povzroči grožnjo številnim aplikacijam umetne inteligence, od medicinske do vojske.
Vendar pa v tem primeru ni nič skrbeti za to - govorimo o eksperimentalnem sistemu CLIP, ki se še ne uporablja v katerem koli komercialnem izdelku. Clip je zasnovan tako, da preučuje, kako lahko sistemi umetne inteligence naučijo, kako določiti predmete brez bližnjega opazovanja, medtem ko študirajo v bazah podatkovnih besedil. Za usposabljanje je sistem OpenAI uporabljal približno 400 milijonov takih parov.
Raziskovalci OpenAI so odkrili posamezne komponente v omrežju strojne učenja, ki reagirajo ne le na slike predmetov, temveč tudi na skice, risbe in povezanega besedila. To se imenuje "multimodalni nevroni". Raziskovalci verjamejo, da sistemi umetne inteligence absorbirajo znanje na enak način kot ljudje.
V prihodnje lahko to privede do nastanka bolj kompleksnih sistemov računalniškega vida, zdaj pa je to v povojih. Vsakdo lahko razlikuje jabolko z lista papirja z besedo "Apple", napisano na njem, vendar umetne inteligence, kot je posnetek, ni sposobna za to. Sposobnost, ki omogoča, da program poveže besede in slike na abstraktno raven, ustvari edinstveno napako, ki je Open, imenovan "abstrakcijo".
Drug primer napake, ki je vodila laboratorij, je, kako AI definira praseče banke. Če dodate sliko vseh predmetov dolarjev ikon, bo posnetek razmisliti, da je liggy banka.
#Oople #opanei # novice
Vir