Cercetătorii de laborator au numit un "atac tipografic".
Pentru a face programul să identifice incorect subiectul, este suficient să atașați o notă cu numele greșit. Verge scrie despre asta.
Potrivit experților, "atacul tipografic" reamintește atacul folosind imagini contestate. De exemplu, cu ajutorul lor, puteți înșela software-ul auto fără pilot Tesla, astfel încât să schimbe mișcarea fără avertisment. De asemenea, poate crea o amenințare la adresa multor aplicații de inteligență artificială, de la medicală la armată.
Cu toate acestea, în acest caz, nu este nimic de îngrijorat în legătură cu acest lucru - vorbim despre sistemul de clip experimental, care nu este încă utilizat în nici un produs comercial. Clipul este conceput pentru a studia modul în care sistemele de inteligență artificială pot învăța cum să determine obiectele fără o observație apropiată, în timp ce studiază bazele de date cu perechi. Pentru instruire, sistemul OpenAI a folosit aproximativ 400 de milioane de aburi.
Cercetătorii OpenAI au descoperit componente individuale în rețeaua de învățare a mașinii care reacționează nu numai la imaginile obiectelor, ci și pe schițe, desene și text asociat. Aceasta a fost numită "neuroni multimodali". Cercetătorii cred că sistemele de inteligență artificială absorb cunoștințele în același mod ca și oamenii.
În viitor, acest lucru poate duce la apariția unor sisteme mai complexe de vizionare a computerului, dar acum acest lucru este în copilărie. Oricine poate distinge un măr dintr-o foaie de hârtie cu cuvântul "Apple" scris pe ea, dar inteligența artificială ca clipul nu este capabil de ea. Abilitatea care permite programului să conecteze cuvintele și imaginile la un nivel abstract, creează o greșeală unică pe care OpenAi a numit "abstractizarea".
Un alt exemplu de eroare care a condus laborator este modul în care AI definește băncile de porci. Dacă adăugați la imaginea oricărui subiect de icoane de dolari, clipul va lua în considerare o bancă de porc.
#OPLE #Opnei # știri
O sursă