Los investigadores de laboratorio lo llamaron un "ataque tipográfico".
Para que el programa identifique incorrectamente el sujeto, es suficiente para adjuntar una nota con el nombre incorrecto. El borde lo escribe.
Según los expertos, el "ataque tipográfico" recuerda al ataque utilizando imágenes contestables. Por ejemplo, con su ayuda, puede engañar al software de automóvil no tripulado Tesla para que cambien el movimiento sin previo aviso. También puede crear una amenaza para muchas aplicaciones de inteligencia artificial, de médicos a los militares.
Sin embargo, en este caso no hay nada que preocuparse por eso, estamos hablando del sistema de clips experimental, que aún no se utiliza en ningún producto comercial. El clip está diseñado para estudiar cómo los sistemas de inteligencia artificial pueden aprender cómo determinar los objetos sin una observación cercana, mientras estudia en las bases de datos de texto de pares. Para la capacitación, el sistema Optai utiliza alrededor de 400 millones de este tipo de vapor.
Los investigadores de OpenAI han descubierto componentes individuales en la red de aprendizaje de la máquina que reaccionan no solo a imágenes de objetos, sino también en bocetos, dibujos y texto asociado. Esto se llamó "neuronas multimodales". Los investigadores creen que los sistemas de inteligencia artificial absorben el conocimiento de la misma manera que las personas lo hacen.
En el futuro, esto puede llevar a la aparición de sistemas de visión informática más complejos, pero ahora esto está en su infancia. Cualquiera puede distinguir una manzana de una hoja de papel con la palabra "Apple" escrita en él, pero la inteligencia artificial como el clip no es capaz de hacerlo. La capacidad que permite que el programa vincule las palabras y las imágenes a un nivel abstracto, crea un error único que Optai llamó "Abstracción".
Otro ejemplo de un error que llevó al laboratorio es cómo AI define las hidrográficas. Si agrega a la imagen de cualquier tema de iconos de dólares, el clip lo considerará una alcancía.
#Oople #opanei # noticias
Una fuente