Die laboratoriumnavorsers het dit 'n "tipografiese aanval" genoem.
Om die program verkeerd te identifiseer, is dit genoeg om 'n nota aan die verkeerde naam aan te heg. Die rand skryf daaroor.
Volgens kenners herinner die "tipografiese aanval" die aanval deur gebruik te maak van betwiste beelde. Byvoorbeeld, met hul hulp kan jy die Tesla onbemande motor sagteware mislei sodat hulle die beweging sonder waarskuwing verander. Dit kan ook 'n bedreiging skep vir baie toepassings van kunsmatige intelligensie, van mediese tot die weermag.
In hierdie geval is daar egter niks om daaroor bekommerd te wees nie - ons praat van die eksperimentele klemstelsel, wat nog nie in enige kommersiële produk gebruik word nie. Klem is ontwerp om te studeer hoe kunsmatige intelligensie stelsels kan leer hoe om voorwerpe sonder noue waarneming te bepaal, terwyl dit op pasteks-databasisse studeer. Vir opleiding het die Openai-stelsel ongeveer 400 miljoen sulke stoom gebruik.
Openai navorsers het individuele komponente in die masjienleernetwerk ontdek wat nie net reageer op beelde van voorwerpe nie, maar ook op sketse, tekeninge en verwante teks. Dit is "multimodale neurone" genoem. Navorsers glo dat kunsmatige intelligensie-stelsels kennis op dieselfde manier absorbeer as wat mense doen.
In die toekoms kan dit lei tot die opkoms van meer komplekse rekenaarvisie stelsels, maar nou is dit in sy kinderskoene. Enigeen kan 'n appel van 'n vel papier onderskei met die woord "appel" wat daarop geskryf is, maar kunsmatige intelligensie soos clip is nie in staat nie. Die vermoë wat die program toelaat om die woorde en beelde op 'n abstrakte vlak te koppel, skep 'n unieke fout wat Openai die "abstraksie" genoem word.
Nog 'n voorbeeld van 'n fout wat die laboratorium gelei het, is hoe AI piggy banke definieer. As jy by die beeld van enige onderwerp van dollars-ikone voeg, sal Clip dit 'n spaarvarkie oorweeg.
#OOPLE #OPANEI # Nuus
N bron