Ανίχνευση τεχνητής νοημοσύνης επινοώντας τη δική της τρομακτική γλώσσα

Ένα πρόγραμμα τεχνητής νοημοσύνης έχει αναπτύξει τη δική του γλώσσα και κανείς δεν μπορεί να την καταλάβει.

Το OpenAI είναι ένας προγραμματιστής συστημάτων τεχνητής νοημοσύνης – το λογισμικό του είναι εξαιρετικά παραδείγματα υπερυπολογιστών, αλλά υπάρχουν ιδιορρυθμίες.

DALLE-E2 είναι άνοιξε αιΤο πιο πρόσφατο σύστημα AI – μπορεί να δημιουργήσει φωτορεαλιστικές ή καλλιτεχνικές εικόνες από περιγραφές κειμένου που εισάγει ο χρήστης.

Το DALLE-E2 αντιπροσωπεύει ένα ορόσημο στη μηχανική μάθηση – η OpenAI λέει ότι το λογισμικό “έμαθε τη σχέση μεταξύ των εικόνων και του κειμένου που χρησιμοποιείται για να τις περιγράψει”.

Περιλαμβάνει την προσφορά DALLE-E2 عرض διαδραστικές λέξεις-κλειδιά Για να επισκεφτείτε χρήστες για αναπαραγωγή και δημιουργία εικόνων – η εναλλαγή διαφορετικών λέξεων-κλειδιών θα έχει ως αποτέλεσμα διαφορετικές εικόνες, στυλ και θέματα.

Αλλά το σύστημα έχει μια παράξενη συμπεριφορά – είναι Γραφή Η δική του γλώσσα για τυχαίες διευθετήσεις γραμμάτων, οι ερευνητές δεν ξέρουν γιατί.

Γιάννης Δάρρας, Διδάκτωρ Πληροφορικής. Ένας φοιτητής στο Πανεπιστήμιο του Τέξας, δημοσίευσε α Θέμα Twitter Νέα ανεξήγητα στοιχεία γλώσσας DALLE-E2.

Ο Daras ζήτησε από το DALLE-E2 να δημιουργήσει μια εικόνα “οι αγρότες μιλούν για λαχανικά” και το πρόγραμμα το έκανε, αλλά η ομιλία των αγροτών ήρθε “Vicotis– Μερικές λέξεις άγνωστες στο AI.

Αφού τους ζητήθηκε να δημιουργήσουν μια εικόνα «αγρότες που μιλούν για λαχανικά», το γράμμα έγραφε vicootes, μια λέξη άγνωστη στην τεχνητή νοημοσύνη.
Getty Images / istockphoto

Ντάρας τάισέ το «βικοτάρες» ξανά στο σύστημα DALLE-E2 και επαναφέρουν εικόνες λαχανικών.

Μετά ταΐζουμε τις λέξεις: «Apoploe vesrreaitars» και παίρνουμε τα πουλιά. έγραψε ο Δάρρας στο Twitter.

«Οι αγρότες μοιάζουν να μιλούν για πουλιά, να μπλέκουν με τα λαχανικά τους!»

Δάρας και συν-συγγραφέας έχει γράψει α χαρτί Σχετικά με το “Hidden Vocabulary” στο DALLE-E2.

READ  Το Forza Horizon 5 φαίνεται υπέροχο σε 8K με πλήρη ανίχνευση ακτίνων ανοιχτού κόσμου. Το νέο συγκριτικό βίντεο υπογραμμίζει την ποιότητα της έκδοσης Xbox Cloud

Παραδέχονται ότι λέγοντας στο DALLE-E2 να δημιουργήσει εικόνες λέξεων – η εντολή “picture of word plane” είναι το παράδειγμα του Daras – συνήθως έχει ως αποτέλεσμα το DALLE-E2 να εκπέμπει “μαλακό κείμενο”.

Όταν συνδεθεί ξανά στο DALLE-E2, αυτό το ασαφές κείμενο θα έχει ως αποτέλεσμα εικόνες αεροσκαφών – κάτι που λέει κάτι για τον τρόπο με τον οποίο μιλά και σκέφτεται το DALLE-E2.

Ορισμένοι ερευνητές τεχνητής νοημοσύνης υποστήριξαν ότι το διφορούμενο σενάριο για το DALLE-E2 είναι “τυχαίους θορύβους“.

Ας ελπίσουμε ότι δεν θα διαπιστώσουμε ότι η δεύτερη γλώσσα του DALLE-E2 ήταν ένα ελάττωμα ασφαλείας που έπρεπε να διορθωθεί πολύ αργά.

Αυτό το άρθρο εμφανίστηκε αρχικά Ο ήλιος Αναπαράγεται εδώ με άδεια.

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται.