De laboratoriumonderzoekers noemden het een "typografische aanval".
Om het programma ten onrechte het onderwerp te laten identificeren, is het voldoende om er een notitie aan te voegen met de verkeerde naam. De berm schrijft erover.
Volgens deskundigen herinnert de "typografische aanval" de aanval aan het gebruik van betwistbare afbeeldingen. Bijvoorbeeld, met hun hulp, kunt u de Tesla onbemande autosoftware misleiden, zodat ze de beweging zonder waarschuwing veranderen. Het kan ook een bedreiging creëren voor vele toepassingen van kunstmatige intelligentie, van medisch tot het leger.
In dit geval is er echter niets om ons zorgen over te maken - we hebben het over het experimentele clipsysteem, dat nog niet in een commercieel product wordt gebruikt. Clip is ontworpen om te bestuderen hoe kunstmatige intelligentiesystemen kunnen leren hoe u objecten zonder observatie kunt bepalen, terwijl u studeert op een paar-tekstdatabases. Voor training gebruikte het OpenAI-systeem ongeveer 400 miljoen dergelijke stoom.
Openai-onderzoekers hebben individuele componenten ontdekt in het computerleernetwerk dat niet alleen reageert op afbeeldingen van objecten, maar ook op schetsen, tekeningen en bijbehorende tekst. Dit werd "multimodale neuronen" genoemd. Onderzoekers zijn van mening dat kunstmatige inlichtingenystemen kennis op dezelfde manier absorberen als mensen doen.
In de toekomst kan dit leiden tot de opkomst van complexere computervisiesystemen, maar nu is dit in de kinderschoenen. Iedereen kan een appel onderscheiden van een vel papier met het woord "Apple" geschreven, maar de kunstmatige intelligentie zoals clip is er niet in staat. De mogelijkheid waarmee het programma de woorden en afbeeldingen op een abstract niveau kan koppelen, creëert een unieke fout die Openai de "abstractie" wordt genoemd.
Een ander voorbeeld van een fout die leidde dat het laboratorium is hoe AI spaarvarken definieert. Als u toevoegt aan het beeld van een onderwerp van dollars pictogrammen, zal de clip er een spaarvarken beschouwen.
#Oele #opanei # nieuws
Een bron