Para peneliti laboratorium menyebutnya "serangan ketik."
Untuk membuat program secara tidak benar mengidentifikasi subjek, cukup untuk melampirkan catatan dengan nama yang salah. Verge menulis tentang itu.
Menurut para ahli, "serangan ketik" mengingatkan serangan menggunakan gambar yang dapat diperebutkan. Misalnya, dengan bantuan mereka, Anda dapat menipu perangkat lunak mobil Tesla Unmanned sehingga mereka mengubah gerakan tanpa peringatan. Ini juga dapat menciptakan ancaman bagi banyak aplikasi kecerdasan buatan, dari medis ke militer.
Namun, dalam hal ini tidak ada yang perlu dikhawatirkan - kita berbicara tentang sistem klip eksperimental, yang belum digunakan dalam produk komersial apa pun. Klip dirancang untuk mempelajari bagaimana sistem intelijen buatan dapat mempelajari cara menentukan objek tanpa observasi dekat, saat belajar pada basis data pasangan-teks. Untuk pelatihan, sistem OpenAI menggunakan sekitar 400 juta uap.
Peneliti Openai telah menemukan masing-masing komponen dalam jaringan pembelajaran mesin yang bereaksi tidak hanya untuk gambar objek, tetapi juga pada sketsa, gambar dan teks terkait. Ini disebut "neuron multimodal." Para peneliti percaya bahwa sistem intelijen buatan menyerap pengetahuan dengan cara yang sama seperti yang dilakukan orang.
Di masa depan, ini dapat menyebabkan munculnya sistem visi komputer yang lebih kompleks, tetapi sekarang ini dalam masa pertumbuhan. Siapa pun dapat membedakan apel dari selembar kertas dengan kata "Apple" tertulis di atasnya, tetapi kecerdasan buatan seperti klip tidak mampu melakukannya. Kemampuan yang memungkinkan program untuk menghubungkan kata-kata dan gambar pada tingkat abstrak, menciptakan kesalahan unik yang disebut openai disebut "abstraksi".
Contoh lain dari kesalahan yang memimpin laboratorium adalah bagaimana AI mendefinisikan celengan. Jika Anda menambah gambar setiap subjek Ikon dolar, klip akan menganggapnya sebagai celengan.
#Oople #Opanei # News
Sumber