La laboratoriaj esploristoj nomis ĝin "tipografia atako".
Por fari la programon malĝuste identigi la temon, sufiĉas por alligi noton al ĝi kun malĝusta nomo. La Verge skribas pri ĝi.
Laŭ spertuloj, la "tipografia atako" memorigas la atakon per kontestataj bildoj. Ekzemple, kun ilia helpo, vi povas trompi la programon Tesla senpilotara aŭtomobilo por ke ili ŝanĝu la movadon sen averto. I ankaŭ povas krei minacon al multaj aplikoj de artefarita inteligenteco, de kuracistoj al la militistaro.
Tamen, en ĉi tiu kazo estas nenio por zorgi pri tio - ni parolas pri la eksperimenta klipo, kiu ankoraŭ ne estas uzata en iu komerca produkto. Klipo estas desegnita por studi kiel artefaritaj inteligentaj sistemoj povas lerni kiel determini objektojn sen proksima observado, dum studado pri datum-tekstaj datumbazoj. Por trejnado, la OpenAi-sistemo uzis ĉirkaŭ 400 milionojn da tiaj vaporo.
OpenAi esploristoj malkovris individuajn komponantojn en la maŝina lernado reto kiu reagas ne nur al bildoj de objektoj, sed ankaŭ sur skizoj, desegnoj kaj asociita teksto. Ĉi tio nomiĝis "multimodaj neŭronoj". Esploristoj kredas, ke artefaritaj inteligentaj sistemoj sorbas scion sammaniere kiel homoj faras.
En la estonteco, ĉi tio povas konduki al la apero de pli kompleksaj komputilaj vizioj, sed nun ĉi tio estas en ĝia komenco. Ĉiu povas distingi pomon de papero kun la vorto "Apple" skribita sur ĝi, sed artefarita inteligenteco kiel klipo ne kapablas ĝin. La kapablo, kiu permesas al la programo ligi la vortojn kaj bildojn ĉe abstrakta nivelo, kreas unikan eraron, kiun Openenai nomis la "abstraktado".
Alia ekzemplo de eraro, kiu gvidis la laboratorion, estas kiel AI difinas piggajn bankojn. Se vi aldonas al la bildo de iu ajn subjekto de dolaroj ikonoj, CLIP konsideros ĝin porko.
#Hoist #opanei # novaĵoj
Fonto