ప్రయోగశాల పరిశోధకులు దీనిని "టైపోగ్రఫిక్ దాడి" అని పిలిచారు.
కార్యక్రమం తప్పుగా విషయం గుర్తించడానికి చేయడానికి, అది తప్పు పేరుతో ఒక గమనికను అటాచ్ చేయడానికి సరిపోతుంది. అంచు దాని గురించి వ్రాస్తుంది.
నిపుణుల అభిప్రాయం ప్రకారం, "టైపోగ్రఫిక్ దాడి" దాడిని గుర్తించే చిత్రాలను ఉపయోగించి దాడి చేస్తుంది. ఉదాహరణకు, వారి సహాయంతో, మీరు టెస్లా మానవరహిత కారు సాఫ్ట్వేర్ను మోసగించగలరు, తద్వారా వారు హెచ్చరిక లేకుండా ఉద్యమాన్ని మార్చుకుంటారు. ఇది కూడా కృత్రిమ మేధస్సు యొక్క అనేక అనువర్తనాలకు ముప్పును సృష్టించవచ్చు, వైద్య నుండి సైనిక వరకు.
అయితే, ఈ సందర్భంలో దాని గురించి ఆందోళన ఏమీ లేదు - మేము ప్రయోగాత్మక క్లిప్ వ్యవస్థ గురించి మాట్లాడుతున్నాము, ఇంకా ఏ వాణిజ్య ఉత్పత్తిలో ఉపయోగించబడలేదు. CLIP జంట-టెక్స్ట్ డేటాబేస్లను చదువుతున్నప్పుడు, సన్నిహిత పరిశీలన లేకుండా వస్తువులను ఎలా గుర్తించాలో నేర్చుకోవచ్చో అధ్యయనం చేయడానికి రూపొందించబడింది. శిక్షణ కోసం, Openai వ్యవస్థ 400 మిలియన్ల ఆవిరితో ఉపయోగించబడుతుంది.
Openai పరిశోధకులు వస్తువులను చిత్రాలకి మాత్రమే స్పందించే యంత్ర అభ్యాస నెట్వర్క్లో వ్యక్తిగత భాగాలను కనుగొన్నారు, కానీ స్కెచ్లు, డ్రాయింగ్లు మరియు సంబంధిత టెక్స్ట్లో కూడా. ఇది "మల్టీమోడల్ న్యూరాన్స్" అని పిలువబడింది. ప్రజలు చేసే విధంగా కృత్రిమ మేధస్సు వ్యవస్థలు జ్ఞానాన్ని గ్రహించిందని పరిశోధకులు నమ్ముతారు.
భవిష్యత్తులో, ఇది మరింత సంక్లిష్ట కంప్యూటర్ దృష్టి వ్యవస్థల ఆవిర్భావం దారితీస్తుంది, కానీ ఇప్పుడు ఇది దాని బాల్యంలో ఉంది. ఎవరైనా వ్రాసిన "ఆపిల్" అనే పదంతో కాగితపు షీట్ నుండి ఎవరైనా ఒక ఆపిల్ను గుర్తించగలరు, కానీ క్లిప్ వంటి కృత్రిమ మేధస్సు దాని సామర్థ్యాన్ని కలిగి ఉండదు. ఒక నైరూప్య స్థాయిలో పదాలు మరియు చిత్రాలను లింక్ చేయడానికి ప్రోగ్రామ్ను అనుమతించే సామర్థ్యం, "నైరూప్యత" అని పిలిచే ఒక ఏకైక తప్పును సృష్టిస్తుంది.
ప్రయోగశాలకు దారితీసిన లోపం యొక్క మరొక ఉదాహరణ AI పిగ్గీ బ్యాంకులను ఎలా నిర్వచిస్తుంది. మీరు డాలర్ల చిహ్నాల యొక్క ఏ అంశానికి అయినా చిత్రాన్ని జోడిస్తే, క్లిప్ ఒక పిగ్గీ బ్యాంకును పరిశీలిస్తుంది.
#Oople #opnei # వార్తలు
ఒక మూలం