Laboratorijas pētnieki to sauca par "tipogrāfisku uzbrukumu".
Lai programma nepareizi identificētu tēmu, ir pietiekami, lai pievienotu to piezīmi ar nepareizu nosaukumu. Verge raksta par to.
Pēc ekspertu domām, "tipogrāfiskais uzbrukums" atgādina uzbrukumam, izmantojot apstrīdamus attēlus. Piemēram, ar viņu palīdzību jūs varat maldināt Tesla bezpilota auto programmatūru, lai viņi mainītu kustību bez brīdinājuma. Tas var arī radīt draudus daudziem mākslīgā intelekta lietojumiem, sākot no medicīnas līdz militāram.
Tomēr šajā gadījumā nekas nav jāuztraucas par to - mēs runājam par eksperimentālo klipu sistēmu, kas vēl nav izmantota jebkurā komerciālā produktā. Clip ir paredzēts, lai izpētītu, kā mākslīgā intelekta sistēmas var uzzināt, kā noteikt objektus bez ciešiem novērojumiem, pētot pāris teksta datu bāzēs. Apmācībai Openai sistēma izmantoja aptuveni 400 miljonus šāda tvaika.
Opas pētnieki ir atklājuši individuālus komponentus mašīnas mācību tīklā, kas reaģē ne tikai uz objektu attēliem, bet arī skicēm, zīmējumiem un saistītajam tekstam. To sauca par "multimodāliem neironiem". Pētnieki uzskata, ka mākslīgās izlūkošanas sistēmas absorbē zināšanas tādā pašā veidā, kā cilvēki dara.
Nākotnē tas var novest pie sarežģītāku datoru redzes sistēmu rašanās, bet tagad tas ir bērnībā. Ikviens var atšķirt ābolu no papīra lapas ar vārdu "Apple", kas rakstīts uz tā, bet mākslīgais intelekts, piemēram, klips, tas nav spējīgs. Iespēja, kas ļauj programmai saistīt vārdus un attēlus abstraktā līmenī, rada unikālu kļūdu, ka Openai sauc par "abstrakciju".
Vēl viens piemērs kļūdām, kas vadīja laboratoriju, ir tas, kā AI definē cūciņas bankas. Ja pievienojat jebkuru dolāru ikonu priekšmetu tēlu, klips to uzskata par cūciņu banku.
#Ople #opanei # ziņas
Avots