Penyelidik makmal memanggilnya sebagai "serangan tipografi."
Untuk membuat program itu salah mengenal pasti subjek, sudah cukup untuk melampirkan nota dengan nama yang salah. The ambang menulis mengenainya.
Menurut pakar, "serangan tipografi" mengingatkan serangan menggunakan imej yang dipertandingkan. Sebagai contoh, dengan bantuan mereka, anda boleh menipu perisian Tesla tanpa pemandu supaya mereka mengubah gerakan tanpa amaran. Ia juga boleh mewujudkan ancaman kepada banyak aplikasi kecerdasan buatan, dari perubatan kepada tentera.
Walau bagaimanapun, dalam kes ini tidak perlu dibimbangkan - kita bercakap tentang sistem klip eksperimen, yang belum digunakan dalam mana-mana produk komersial. Klip direka untuk mengkaji bagaimana sistem perisikan buatan boleh belajar bagaimana untuk menentukan objek tanpa pemerhatian yang rapat, semasa belajar di pangkalan data pasangan. Untuk latihan, sistem Openai menggunakan kira-kira 400 juta stim sedemikian.
Penyelidik Openai telah menemui komponen individu dalam rangkaian pembelajaran mesin yang bertindak bukan hanya kepada imej objek, tetapi juga pada lakaran, lukisan dan teks yang berkaitan. Ini dipanggil "neuron multimodal." Penyelidik percaya bahawa sistem perisikan tiruan menyerap pengetahuan dengan cara yang sama seperti orang.
Pada masa akan datang, ini boleh membawa kepada kemunculan sistem penglihatan komputer yang lebih kompleks, tetapi sekarang ini berada di peringkat awal. Sesiapa sahaja boleh membezakan epal dari sekeping kertas dengan perkataan "Apple" yang ditulis di atasnya, tetapi kecerdasan buatan seperti klip tidak mampu. Keupayaan yang membolehkan program ini menghubungkan kata-kata dan imej di peringkat abstrak, mewujudkan kesilapan yang unik yang disebut Openai memanggil "abstraksi".
Satu lagi contoh kesilapan yang membawa makmal adalah bagaimana AI mendefinisikan bank-bank piggy. Jika anda menambah imej mana-mana subjek ikon dolar, klip akan menganggapnya bank piggy.
#Oople #opanei # berita
Suatu punca