Els investigadors de laboratori ho van denominar "atac tipogràfic".
Per fer que el programa identifiqui incorrectament el tema, és suficient adjuntar una nota amb el nom equivocat. La vora escriu sobre això.
Segons els experts, el "atac tipogràfic" recorda a l'atac mitjançant imatges prestables. Per exemple, amb la seva ajuda, podeu enganyar el programari de cotxe no tripulat de Tesla perquè canviïn el moviment sense previ avís. També pot crear una amenaça per a moltes aplicacions de la intel·ligència artificial, des de medicina fins als militars.
No obstant això, en aquest cas no hi ha res de què preocupar-se per això: estem parlant del sistema de clips experimentals, que encara no s'utilitza en cap producte comercial. Clip està dissenyat per estudiar com els sistemes d'intel·ligència artificial poden aprendre a determinar objectes sense observació pròxima, mentre estudiava en bases de dades de text. Per a la formació, el sistema Opai va utilitzar uns 400 milions d'aquest vapor.
Els investigadors de Openai han descobert components individuals a la xarxa d'aprenentatge automàtic que reaccionen no només a imatges d'objectes, sinó també en esbossos, dibuixos i text associat. Això es deia "neurones multimodals". Els investigadors creuen que els sistemes d'intel·ligència artificial absorbeixen el coneixement de la mateixa manera que la gent ho fa.
En el futur, això pot conduir a l'aparició de sistemes de visió informàtica més complexos, però ara això és en la seva infància. Qualsevol persona pot distingir una poma d'un full de paper amb la paraula "poma" escrita en ella, però la intel·ligència artificial com a clip no és capaç d'això. La capacitat que permet que el programa enllaci les paraules i les imatges a nivell abstracte, crea un error únic que Openai anomenat "abstracció".
Un altre exemple d'un error que va liderar el laboratori és com Ai defineix les pigans. Si afegiu a la imatge de qualsevol tema de les icones de dòlars, el clip la considerarà una guardiola.
#OOPLE #OPANEI # Notícies
Una font