A laboratóriumi kutatók "tipográfiai támadásnak" nevezték.
Ahhoz, hogy a program helytelenül azonosítsa a témát, elegendő ahhoz, hogy rossz nevet adjon hozzá. A szélesség erről ír.
A szakértők szerint a "tipográfiai támadás" emlékezteti a támadást a vitatható képekkel. Például segítségükkel megtévesztheti a TESLA pilóta nélküli autószoftvert, hogy figyelmeztetés nélkül megváltoztassa a mozgást. Ezenkívül veszélyt jelenthet a mesterséges intelligencia számos alkalmazására, az orvosi katonaságtól.
Ebben az esetben azonban nincs semmi aggódni - a kísérleti kliprendszerről beszélünk, amelyet még nem használtunk bármely kereskedelmi termékben. A klip úgy van kialakítva, hogy tanulmányozza, hogy a mesterséges intelligencia-rendszerek hogyan tudják megtudni, hogyan kell meghatározni az objektumokat a szoros megfigyelés nélkül, a páros szöveges adatbázisok tanulmányozásakor. A képzéshez az Openai rendszer körülbelül 400 millió ilyen gőzt használ.
Az Openai kutatók felfedezték az egyes komponenseket a gépi tanulási hálózatban, amely nem csak az objektumok képeit, hanem a vázlatok, rajzok és a kapcsolódó szövegek is reagál. Ezt "multimodális neuronoknak" nevezték. A kutatók úgy vélik, hogy a mesterséges intelligencia rendszerek ugyanúgy elnyelik a tudást ugyanúgy, mint az emberek.
A jövőben ez bonyolultabb számítógépes látómezői rendszerek megjelenéséhez vezethet, de most a csecsemőjében van. Bárki megkülönböztetheti az almát egy papírlapról az "Apple" szóval, amelyet rajta írt, de a mesterséges intelligencia, mint a klip, nem képes rá. Az a képesség, amely lehetővé teszi a program számára, hogy összekapcsolja a szavakat és képeket absztrakt szinten, egyedi hibát hozza létre, hogy az Openai az "absztrakciónak" nevezte.
Egy másik példa a laboratóriumba vezető hiba, hogy az AI meghatározza a malacka bankokat. Ha hozzáadod a Dollárok témakörének képét, a klip egy malacka bankot veszi figyelembe.
#Oople #opanei # hírek
Egy forrás