Οι εργαστηριακοί ερευνητές το κάλεσαν μια "τυπογραφική επίθεση".
Για να κάνετε το πρόγραμμα εσφαλμένα αναγνωρίσει το θέμα, αρκεί να επισυνάψετε μια σημείωση σε αυτό με λάθος όνομα. Το Verge γράφει γι 'αυτό.
Σύμφωνα με τους ειδικούς, η "τυπογραφική επίθεση" υπενθυμίζει την επίθεση χρησιμοποιώντας αμφισβητούμενες εικόνες. Για παράδειγμα, με τη βοήθειά τους, μπορείτε να εξαπατήσετε το λογισμικό του Tesla μη επανδρωμένου αυτοκινήτου, ώστε να αλλάξουν την κίνηση χωρίς προειδοποίηση. Μπορεί επίσης να δημιουργήσει μια απειλή για πολλές εφαρμογές τεχνητής νοημοσύνης, από ιατρική προς τον στρατό.
Ωστόσο, στην περίπτωση αυτή δεν υπάρχει τίποτα να ανησυχείτε για αυτό - μιλάμε για το πειραματικό σύστημα Clip, το οποίο δεν έχει ακόμη χρησιμοποιηθεί σε κανένα εμπορικό προϊόν. Το Clip έχει σχεδιαστεί για να μελετήσει πώς τα συστήματα τεχνητής νοημοσύνης μπορούν να μάθουν πώς να προσδιορίζουν αντικείμενα χωρίς στενή παρατήρηση, ενώ σπουδάζουν σε βάσεις δεδομένων ζευγαριών. Για την κατάρτιση, το σύστημα Openai χρησιμοποίησε περίπου 400 εκατομμύρια τέτοιο ατμό.
Οι ερευνητές της Openai έχουν ανακαλύψει μεμονωμένα στοιχεία στο δίκτυο μάθησης του μηχανήματος που αντιδρούν όχι μόνο σε εικόνες αντικειμένων, αλλά και σε σκίτσα, σχέδια και σχετικό κείμενο. Αυτό ονομάζεται "πολυτροπικοί νευρώνες". Οι ερευνητές πιστεύουν ότι τα συστήματα τεχνητής νοημοσύνης απορροφούν τη γνώση με τον ίδιο τρόπο όπως οι άνθρωποι κάνουν.
Στο μέλλον, αυτό μπορεί να οδηγήσει στην εμφάνιση πιο περίπλοκων συστημάτων οράματος υπολογιστών, αλλά τώρα αυτό είναι στην παιδική ηλικία του. Οποιοσδήποτε μπορεί να διακρίνει ένα μήλο από ένα φύλλο χαρτιού με τη λέξη "μήλο" γραμμένο σε αυτό, αλλά η τεχνητή νοημοσύνη όπως το clip δεν είναι σε θέση να το κάνει. Η ικανότητα που επιτρέπει στο πρόγραμμα να συνδέει τις λέξεις και τις εικόνες σε ένα αφηρημένο επίπεδο, δημιουργεί ένα μοναδικό λάθος που η Openai ονομάζεται "αφαίρεση".
Ένα άλλο παράδειγμα σφάλματος που οδήγησε το εργαστήριο είναι το πώς ο AI ορίζει τα κουμπαρά. Εάν προσθέσετε στην εικόνα οποιουδήποτε αντικειμένου των εικονιδίων των δολαρίων, το Clip θα το εξετάσει μια γουρουνάκι.
#OPLE #OPANEI # Ειδήσεις
Μια πηγή