Laboratoriya tədqiqatçıları bunu "tipoqrafik hücum" adlandırdılar.
Proqramı səhv bir şəkildə müəyyənləşdirmək üçün yanlış adla ona bir qeyd bağlamaq kifayətdir. Verj bu barədə yazır.
Mütəxəssislərin fikrincə, "tipoqrafik hücum" hücumun müsabiqəli görüntülərdən istifadə edərək hücumu xatırladır. Məsələn, onların köməyi ilə Tesla pilotsuz avtomobil proqramını xəbərdar etmədən hərəkəti dəyişdirmək üçün aldada bilərsiniz. Ayrıca, tibbi yardımdan hərbçidən süni intellektin bir çox tətbiqi üçün bir təhlükə yarada bilər.
Ancaq bu vəziyyətdə bu barədə narahat olmaq üçün bir şey yoxdur - hər hansı bir kommersiya məhsulunda hələ istifadə olunmayan eksperimental klip sistemi haqqında danışırıq. Klip, süni intellekt sistemlərinin cisimləri yaxın müşahidə etmədən, cüt mətn verilənlər bazasında oxuyarkən necə müəyyənləşdirməyi öyrənə biləcəyini öyrənmək üçün hazırlanmışdır. Təlim üçün, Openai sistemi təxminən 400 milyon belə buxardan istifadə etdi.
Openai tədqiqatçıları yalnız obyektlərin görüntülərinə deyil, eskizlər, rəsmlər və əlaqəli mətndə reaksiya verən maşın öyrənmə şəbəkəsində fərdi komponentləri kəşf etdilər. Buna "multimodal neyronlar" deyildi. Tədqiqatçılar, süni intellekt sistemlərinin bilikləri insanların etdiyi kimi eyni şəkildə udduğuna inanırlar.
Gələcəkdə bu, daha mürəkkəb kompüter görmə sistemlərinin yaranmasına səbəb ola bilər, amma indi bu körpəlikdədir. Hər kəs bir almanı bir vərəqdən "alma" sözü ilə ayırd edə bilər, lakin klip kimi süni intellekt buna qadir deyil. Proqramın sözləri və şəkilləri mücərrəd səviyyədə əlaqələndirmək imkanı verən, "Abstraksiya" adlandırılan Openai'nin bənzərsiz bir səhvini yaradır.
Laboratoriyaya rəhbərlik edən bir səhvin başqa bir nümunəsi, AI donuz banklarını necə müəyyənləşdirir. Hər hansı bir dollar nişanların görüntüsünə əlavə etsəniz, klip onu donuz bankı hesab edəcəkdir.
#Oope #opanei # Xəbərlər
Bir mənbə