Лабораторијски истраживачи то су назвали "типографским нападом".
Да би програм погрешно идентификовао тему, довољно је да му приложите напомену са погрешним именом. Вержа пише о томе.
Према речима стручњака, "типографски напад" подсећа на напад користећи такмичарске слике. На пример, уз њихову помоћ можете преварити Тесла беспилотни аутомобил да промени кретање без упозорења. Такође може створити претњу многим применама вештачке интелигенције, од медицинских до војске.
Међутим, у овом случају не треба бринути о томе - говоримо о експерименталном систему клипа, који се још не користи у било којем комерцијалном производу. ЦЛИП је дизајниран да проучи како вештачка обавештајна система могу научити како одредити предмете без блиског посматрања, док студира на базама података са текстуалним тексту. За обуку, ОпенАИ систем је користио око 400 милиона таквих паре.
Операваи истраживачи открили су поједине компоненте у мрежи за учење машине које реагују не само на слике објеката, већ и на скицема, цртежима и придруженим текстом. То се звали "Мултимодални неурони". Истраживачи верују да вештачки обавештајни системи апсорбују знање на исти начин као и људи.
У будућности то може довести до појаве сложенијих система рачунарских вида, али сада је то у својој повојима. Свако може разликовати јабуку са лима папира са речју "Аппле" написана на њему, али вештачка интелигенција попут копче није способна за то. Способност која омогућава програму да повеже речи и слике на апстрактном нивоу, ствара јединствену грешку коју је ОпенАи назвао "апстракцијом".
Још један пример грешке која је водила лабораторију је како АИ дефинише прагве банке. Ако додате на слику било којег предмета икона долара, исјечак ће то сматрати свињаком банком.
# Оопле # опанеи # вести
Извор