Laboratórne výskumníci to nazývali "typografickým útokom".
Aby bol program nesprávne identifikovať predmet, stačí pripojiť k nemu s nesprávnym menom. Verge o tom píše.
Podľa odborníkov, "typografický útok" pripomína útoku pomocou súťažných obrázkov. Napríklad, s ich pomocou, môžete oklamať softvér TESLA UNGERNED AUTOMATICKÝM AKTULOM, AKO ZMENIŤ MOŽNOSTI MOŽNOSTI BEZ VAROVANIE. Môže tiež vytvoriť hrozbu pre mnohé aplikácie umelej inteligencie, od lekárskej armády.
Avšak, v tomto prípade sa o to nič nemusíte obávať - hovoríme o experimentálnom klipovom systéme, ktorý sa ešte nepoužíva v žiadnom komerčnom produkte. Klip je určený na štúdium toho, ako môžu umelé inteligenčné systémy naučiť, ako určiť objekty bez úzkeho pozorovania, pri štúdiu na databázach párov. Na výcvik sa systém OpenAi použil približne 400 miliónov takýchto para.
Výskumní pracovníci OpenAI objavili jednotlivé komponenty v strojárskej sieti, ktorá reaguje nielen na obrazy objektov, ale aj na náčrchy, kresby a pridruženom texte. Toto sa nazývalo "multimodálne neuróny". Výskumníci sa domnievajú, že umelé spravodajské systémy absorbujú znalosti rovnakým spôsobom ako ľudia.
V budúcnosti to môže viesť k vzniku komplexnejších počítačových videí systémov, ale teraz je to v jeho detstve. Každý môže odlíšiť jablko z listu papiera so slovom "Apple" napísané na ňom, ale umelá inteligencia, ako je klip, nie je schopný. Schopnosť, ktorá umožňuje, aby program prepojiť slová a obrazy na abstraktnej úrovni, vytvára jedinečnú chybu, ktorú Otlai nazýva "abstrakcie".
Ďalším príkladom chyby, ktorá viedla laboratóriu, je, ako AI definuje prasiatko. Ak pridáte obrázok akéhokoľvek predmetu ikon dolárov, klip bude zvážiť to prasiatko.
#OOPLE #OPANEI # NEWS
Zdroj