Laboratoorsed teadlased kutsusid selle "tüpograafiliseks rünnakuks".
Programmi tegemine teemal on valesti kindlaks määrata, piisab selle vale nimega märkme lisamiseks. Verge kirjutab sellest.
Ekspertide sõnul meenutab "tüpograafilist rünnakut" rünnakut, kasutades võistlusi. Näiteks oma abiga saate tesla mehitamata auto tarkvara petta, et nad muudaksid liikumist ilma hoiatuseta. Samuti võib see tekitada ohtu paljude tehisintellekti rakenduste rakendused, alates meditsiinilisest sõjaväele.
Sellisel juhul ei ole midagi selle pärast muretsema - me räägime eksperimentaalse klipi süsteemist, mida ei ole veel üheski kaubanduslikus toodetes kasutatud. Klipp on loodud selleks, et uurida, kuidas tehisintellekti süsteemid saavad õppida, kuidas teha objekte ilma lähedase vaatluseta, õppides paar-teksti andmebaase. Koolituse jaoks kasutas OpenAI-süsteemi umbes 400 miljonit sellist auru.
Openai teadlased on avastanud individuaalseid komponente masinaõppe võrgustik, mis reageerivad mitte ainult objektide piltidele, vaid ka visanditele, joonistele ja sellega seotud tekstile. Seda nimetati "multimodaalseteks neuroniteks". Teadlased usuvad, et tehisintellekti süsteemid neelavad teadmisi samamoodi nagu inimesed.
Tulevikus võib see kaasa tuua keerukamate arvutivisioonisüsteemide tekkimiseni, kuid nüüd on see lapsekingades. Igaüks võib eristada õuna paberilehest sõnaga "Apple" kirjutatud, kuid kunstlik intelligentsus nagu klipp ei ole võimeline seda. Võimalus, mis võimaldab programmis sõnad ja pilte ühendada abstraktse tasemega, loob unikaalse vea, et Openai nimetas "abstraktsiooniks".
Teine näide laborist viinud vea kohta, kuidas AI määratleb piggike pangad. Kui lisate pildile ükskõik millise teema dollari ikoonide teema, kaalub klipp seda notsu pangaks.
#Opane #opanei # Uudised
Allikas