प्रयोगशाला शोधकर्ताओं ने इसे "टाइपोग्राफिक हमला" कहा।
कार्यक्रम को गलत तरीके से पहचानने के लिए, गलत नाम के साथ एक नोट संलग्न करने के लिए पर्याप्त है। वेर्ज इसके बारे में लिखते हैं।
विशेषज्ञों के मुताबिक, "टाइपोग्राफिक हमला" प्रतियोगिता योग्य छवियों का उपयोग करके हमले को याद दिलाता है। उदाहरण के लिए, उनकी मदद से, आप टेस्ला मानव रहित कार सॉफ़्टवेयर को धोखा दे सकते हैं ताकि वे बिना किसी चेतावनी के आंदोलन बदल सकें। यह चिकित्सा से लेकर सैन्य तक कृत्रिम बुद्धि के कई अनुप्रयोगों के लिए खतरा भी पैदा कर सकता है।
हालांकि, इस मामले में इसके बारे में चिंता करने की कोई बात नहीं है - हम प्रयोगात्मक क्लिप सिस्टम के बारे में बात कर रहे हैं, जो अभी तक किसी भी वाणिज्यिक उत्पाद में उपयोग नहीं किया गया है। क्लिप यह अध्ययन करने के लिए डिज़ाइन किया गया है कि कैसे कृत्रिम खुफिया सिस्टम सीख सकते हैं कि जोड़ी-पाठ डेटाबेस पर अध्ययन करते समय ऑब्जेक्ट्स को नज़दीकी अवलोकन के बिना कैसे निर्धारित किया जाए। प्रशिक्षण के लिए, ओपनई प्रणाली ने 400 मिलियन ऐसे भाप का उपयोग किया।
ओपनईआई शोधकर्ताओं ने मशीन लर्निंग नेटवर्क में अलग-अलग घटकों की खोज की है जो न केवल वस्तुओं की छवियों पर, बल्कि स्केच, चित्रों और संबंधित पाठ पर भी प्रतिक्रिया करता है। इसे "मल्टीमोडल न्यूरॉन्स" कहा जाता था। शोधकर्ताओं का मानना है कि कृत्रिम खुफिया प्रणाली लोग उसी तरह ज्ञान को अवशोषित करते हैं जैसे लोग करते हैं।
भविष्य में, इससे अधिक जटिल कंप्यूटर दृष्टि प्रणाली के उद्भव का कारण बन सकता है, लेकिन अब यह अपने बचपन में है। कोई भी एक सेब को कागज की एक शीट से "ऐप्पल" शब्द के साथ अलग कर सकता है, लेकिन क्लिप की तरह कृत्रिम बुद्धि यह सक्षम नहीं है। ऐसी क्षमता जो प्रोग्राम को सार स्तर पर शब्दों और छवियों को जोड़ने की अनुमति देती है, एक अनूठी गलती बनाता है जो ओपनईई को "अमूर्तता" कहा जाता है।
प्रयोगशाला का नेतृत्व करने वाली त्रुटि का एक और उदाहरण यह है कि एआई पिग्गी बैंकों को कैसे परिभाषित करता है। यदि आप डॉलर आइकन के किसी भी विषय की छवि में जोड़ते हैं, तो क्लिप इसे पिग्गी बैंक पर विचार करेगा।
#Ople #opanei # समाचार
एक स्रोत