Κίνδυνοι από τον «παντογνώστη» βοηθό τεχνητής νοημοσύνης του Moltbot

Ένας βοηθός τεχνητής νοημοσύνης ανοιχτού κώδικα κερδίζει γρήγορα την προσοχή στην τεχνολογική κοινότητα χάρη στην ικανότητά του να χειρίζεται αυτόματα εργασίες χωρίς ανθρώπινη παρέμβαση.

Το Moltbot ξεχωρίζει για την ικανότητά του να εκτελεί αυτόματα εργασίες που του ανατίθενται από τον χρήστη. Φωτογραφία: Moltbot .

Το Moltbot, παλαιότερα γνωστό ως Clawdbot, είναι ένας τοπικά εκτελούμενος παράγοντας τεχνητής νοημοσύνης σε πολλαπλές συσκευές. Οι χρήστες μπορούν να δώσουν εντολή στο Moltbot να εκτελεί εργασίες εκ μέρους τους μέσω δημοφιλών πλατφορμών ανταλλαγής μηνυμάτων όπως το WhatsApp, το Telegram, το Signal, το Discord ή το iMessage. Στα μέσα κοινωνικής δικτύωσης, πολλοί άνθρωποι μοιράζονται τον τρόπο με τον οποίο χρησιμοποιούν το Moltbot για τη διαχείριση υπενθυμίσεων, την καταγραφή δεδομένων υγείας ή ακόμα και την επικοινωνία με πελάτες.

Ο Federico Viticci, συντάκτης του MacStories , δήλωσε ότι εγκατέστησε το Moltbot σε ένα Mac Mini M4 και το μετέτρεψε σε εργαλείο για τη δημιουργία καθημερινών ηχητικών περιλήψεων με βάση δεδομένα από τις εφαρμογές Calendar, Notion και Todoist. Σε μια άλλη περίπτωση, ένας χρήστης μοιράστηκε ότι το Moltbot μπορούσε να δημιουργήσει αυτόματα κινούμενες εκφράσεις προσώπου και να προσθέσει ένα εφέ "ύπνου" χωρίς χειροκίνητη παρέμβαση.

Όσον αφορά τη λειτουργία, το Moltbot προωθεί τα αιτήματα των χρηστών στον πάροχο τεχνητής νοημοσύνης που έχουν επιλέξει, συμπεριλαμβανομένων των OpenAI, Anthropic ή Google. Όπως πολλοί άλλοι βοηθοί, μπορεί να συμπληρώνει φόρμες απευθείας στο πρόγραμμα περιήγησης, να στέλνει email και να διαχειρίζεται ημερολόγια. Ωστόσο, σύμφωνα με τα σχόλια ορισμένων χρηστών, το Moltbot εκτελεί αυτές τις εργασίες πιο αποτελεσματικά και ευέλικτα.

Ωστόσο, απαιτεί επίσης από τους χρήστες να παρέχουν πολύ βαθιά πρόσβαση στο σύστημα του υπολογιστή, συμπεριλαμβανομένης της ανάγνωσης, της εγγραφής αρχείων και της εκτέλεσης εντολών. Ο συνδυασμός δικαιωμάτων διαχειριστή συσκευής με διαπιστευτήρια σύνδεσης εφαρμογής μπορεί να δημιουργήσει σοβαρούς κινδύνους ασφαλείας, εάν δεν ελέγχεται αυστηρά.

Η Rachel Tobac, Διευθύνουσα Σύμβουλος της SocialProof Security, προειδοποιεί ότι εάν ένας πράκτορας τεχνητής νοημοσύνης όπως ο Moltbot αποκτήσει δικαιώματα διαχειριστή σε έναν υπολογιστή, οι εισβολείς θα μπορούσαν να επιχειρήσουν να πάρουν τον έλεγχο του συστήματος μέσω ενός μόνο μηνύματος. Σύμφωνα με αυτήν, οι αυτοματοποιημένοι πράκτορες τεχνητής νοημοσύνης μπορούν να εκμεταλλευτούν επιθέσεις άμεσης έγχυσης (prompt injection), μια ευπάθεια που έχει εντοπιστεί αλλά δεν έχει οριστική λύση. Οι επιθέσεις άμεσης έγχυσης συμβαίνουν όταν ένας εισβολέας χειραγωγεί την τεχνητή νοημοσύνη με κακόβουλες οδηγίες, που αποστέλλονται απευθείας ή είναι κρυμμένες μέσα σε αρχεία, email ή ιστότοπους που επεξεργάζεται η τεχνητή νοημοσύνη.

Το Moltbot ενδέχεται να αποτελεί κίνδυνο για την ασφάλεια. Φωτογραφία: Moltbot .

Αυτές οι ανησυχίες ενισχύθηκαν περαιτέρω όταν ο Jamieson O'Reilly, ειδικός σε θέματα ασφάλειας και ιδρυτής της εταιρείας κυβερνοασφάλειας Dvuln, ανακάλυψε ότι ορισμένα ιδιωτικά μηνύματα, πληροφορίες σύνδεσης λογαριασμού και κλειδιά API που σχετίζονται με το Moltbot είχαν διαρρεύσει στο διαδίκτυο.

Συνεπώς, αυτά τα δεδομένα θα μπορούσαν να αξιοποιηθούν από χάκερ για να κλέψουν πληροφορίες ή να πραγματοποιήσουν άλλες επιθέσεις. Είπε ότι ανέφερε το πρόβλημα στην ομάδα ανάπτυξης του Moltbot και ότι έχει κυκλοφορήσει μια ενημέρωση κώδικα, σύμφωνα με το The Register .

Πηγή: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html