Os investigadores do laboratorio chamárono un "ataque tipográfico".
Para que o programa identifique incorrectamente a materia, basta con achegar unha nota co nome incorrecto. O Verge escribe sobre iso.
Segundo os expertos, o "ataque tipográfico" recorda o ataque usando imaxes contestables. Por exemplo, coa súa axuda, pode enganar o software de coche non tripulado de Tesla para que cambien o movemento sen previo aviso. Tamén pode crear unha ameaza para moitas aplicacións de intelixencia artificial, desde medicina ao exército.
Non obstante, neste caso non hai nada de que preocuparse por iso: estamos falando do sistema de clip experimentais, que aínda non se usa en ningún produto comercial. O clip está deseñado para estudar como os sistemas de intelixencia artificial poden aprender a determinar obxectos sen unha observación próxima, mentres estudan en bases de datos de texto. Para a formación, o sistema Openai utilizou preto de 400 millóns de vapor.
Os investigadores de Openai descubriron compoñentes individuais na rede de aprendizaxe automática que reaccionan non só a imaxes de obxectos, senón tamén en bocetos, debuxos e texto asociado. Isto foi chamado "neuronas multimodales". Os investigadores cren que os sistemas de intelixencia artificial absorben o coñecemento do mesmo xeito que a xente.
No futuro, isto pode levar á aparición de sistemas de visión informática máis complexos, pero agora está na súa infancia. Calquera pode distinguir unha mazá dunha folla de papel coa palabra "Apple" escrita nela, pero a intelixencia artificial como clip non é capaz. A capacidade que permite ao programa vincular as palabras e as imaxes a un nivel abstracto, crea un erro único que Openai chamou a "abstracción".
Outro exemplo dun erro que levou ao laboratorio é como AI define os bancos Piggy. Se engades á imaxe de calquera tema de iconas de dólares, o clip consideralo un alcancía.
#OOPLE #OPANEI # noticias
Unha fonte