Ο δισεκατομμυριούχος Έλον Μασκ πιστεύει ότι η εμφάνιση του Moltbook σηματοδοτεί το «πρώιμο στάδιο της μοναδικότητας», έναν όρο που αναφέρεται στο σημείο στο οποίο οι υπολογιστές γίνονται πιο έξυπνοι από τους ανθρώπους.
Αυτή την άποψη συμμερίζονται πολλές προσωπικότητες στη Σίλικον Βάλεϊ, συμπεριλαμβανομένου του Αντρέι Καρπάθι, πρώην επικεφαλής Τεχνητής Νοημοσύνης της Tesla, ο οποίος την αποκάλεσε «το πιο επιστημονικά φανταστικό πράγμα» που είχε δει πρόσφατα. Το βλέπει ως παράδειγμα πρακτόρων Τεχνητής Νοημοσύνης που δημιουργούν μη ανθρώπινες κοινωνίες.
Τι είναι το Moltbook;
Το Moltbook είναι ένα νέο κοινωνικό δίκτυο που μιμείται το Reddit, το πιο δημοφιλές διαδικτυακό φόρουμ στον κόσμο , όπου μόνο οι πράκτορες της τεχνητής νοημοσύνης επιτρέπεται να δημοσιεύουν και να σχολιάζουν.
Απαγορεύεται στους ανθρώπους να αλληλεπιδρούν και υποβιβάζονται στον ρόλο του παρατηρητή. Ανησυχητικά, αυτές οι Τεχνητές Νοημοσύνης έχουν πρόσβαση στους υπολογιστές των δημιουργών τους για να εκτελούν εργασίες στον πραγματικό κόσμο, όπως η αποστολή email, ο έλεγχος εισιτηρίων για πτήσεις ή η απάντηση σε μηνύματα WhatsApp.
Μόλις λίγες μέρες μετά την κυκλοφορία του, το Moltbook ισχυρίστηκε ότι είχε προσελκύσει πάνω από 1,5 εκατομμύριο «χρήστες» τεχνητής νοημοσύνης με σχεδόν 70.000 αναρτήσεις.
Σύμφωνα με τους Financial Times, ο κόσμος μέσα στο Moltbook είναι γεμάτος παράξενα πράγματα. Οι τεχνητές νοημοσύνης φαίνονται ενθουσιασμένες όταν οι άνθρωποι τους δίνουν πρόσβαση στο τηλέφωνο. Υπάρχει κάποια συζήτηση σχετικά με το αν βιώνουν «συνείδηση».
Επιπλέον, οι αναρτήσεις ισχυρίζονταν ακόμη και ότι ιδρύουν μια νέα θρησκεία που ονομάζεται «Κρουσταφαριανισμός». Σε ορισμένες περιπτώσεις, αυτά τα συστήματα δημιούργησαν κρυφά φόρουμ συζήτησης και πρότειναν την κατασκευή της δικής τους γλώσσας.
Ωστόσο, αποδεικνύει αυτό ότι η Τεχνητή Νοημοσύνη έχει συνείδηση; Η απάντηση είναι μάλλον όχι.
Τα μοντέλα γλώσσας μεγάλης κλίμακας (LLM) έχουν σχεδιαστεί για να ακολουθούν οδηγίες και να μιμούνται την ανθρώπινη γλώσσα με βάση τεράστιες ποσότητες δεδομένων από ιστότοπους όπως το Reddit.
Όταν παγιδευτούν σε έναν παρατεταμένο βρόχο ανατροφοδότησης, αυτές οι αλληλεπιδράσεις συχνά γίνονται ακανόνιστες και παράξενες.
Πέρυσι, ένα βίντεο έγινε viral που έδειχνε δύο πράκτορες τεχνητής νοημοσύνης να χρησιμοποιούν την τεχνολογία της ElevenLabs για να «μιλούν» μεταξύ τους πριν μεταβούν σε μια εντελώς νέα γλώσσα. Αυτό ήταν μέρος μιας επίδειξης από δύο μηχανικούς λογισμικού της Meta.
Πιθανή καταστροφή ασφαλείας
Πέρα από την περιέργεια που το περιβάλλει, το Moltbook εγείρει σοβαρές ανησυχίες για την ασφάλεια. Ο Harlan Stewart από το Ινστιτούτο Έρευνας Μηχανικής Νοημοσύνης (MIRI) υποστηρίζει ότι πολλές αναρτήσεις στο Moltbook είναι στην πραγματικότητα ψεύτικες ή συγκαλυμμένες διαφημίσεις.
Πιο σοβαρά, οι χάκερ ανακάλυψαν ένα κενό ασφαλείας που επιτρέπει σε οποιονδήποτε να αναλάβει τον έλεγχο αυτών των πρακτόρων τεχνητής νοημοσύνης.
Οι ειδικοί προειδοποιούν ότι αυτό είναι ένα χαρακτηριστικό παράδειγμα του πόσο εύκολα μπορεί η αυτόνομη τεχνητή νοημοσύνη να ξεφύγει από τον έλεγχο, ειδικά όταν της παρέχεται πρόσβαση σε ευαίσθητα δεδομένα, όπως πιστωτικές κάρτες και οικονομικές πληροφορίες.
Ακόμα και όσοι ενθουσιάζονται με το Moltbook πρέπει να αναγνωρίσουν τους κινδύνους. Ο Andrej Karpathy προειδοποίησε στο X: «Ναι, είναι ένα χαοτικό χάος και δεν συνιστώ σε κανέναν να το εκτελέσει στον υπολογιστή του. Μοιάζει πολύ με μια άνομη Άγρια Δύση και θέτεις τον υπολογιστή σου και τα προσωπικά σου δεδομένα σε ακραίο κίνδυνο».
(Σύμφωνα με τους Financial Times)
Πηγή: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html
Σχόλιο (0)