Ισραήλ: Προειδοποίηση ότι οι βοηθοί τεχνητής νοημοσύνης μπορούν να γίνουν κακόβουλοι πράκτορες για να επιτεθούν σε χρήστες

Το Ισραήλ μόλις αποκάλυψε την ανακάλυψη μιας ευπάθειας Zero Click στο ChatGPT, η οποία θα μπορούσε να επιτρέψει σε χάκερ να ελέγχουν δεδομένα και συνομιλίες χωρίς να το γνωρίζουν οι χρήστες, απειλώντας την ασφάλεια του δικτύου.

Η ισραηλινή εταιρεία κυβερνοασφάλειας Zenity αποκάλυψε την πρώτη ευπάθεια «Zero Click» που ανακαλύφθηκε στην υπηρεσία ChatGPT της OpenAI. Αυτός ο τύπος επίθεσης δεν απαιτεί από τους χρήστες να εκτελέσουν καμία ενέργεια, όπως κλικ σε έναν σύνδεσμο, άνοιγμα ενός αρχείου ή συμμετοχή σε οποιαδήποτε προβλεπόμενη αλληλεπίδραση, αλλά μπορεί να αποκτήσει πρόσβαση σε λογαριασμούς και να διαρρεύσει ευαίσθητα δεδομένα.

Σύμφωνα με έναν δημοσιογράφο του VNA στο Τελ Αβίβ, ο κ. Mikhail Bergori, συνιδρυτής και CTO της Zenity, εξήγησε άμεσα πώς ένας χάκερ χρειάζεται μόνο τη διεύθυνση email ενός χρήστη για να ελέγχει πλήρως τις συνομιλίες - συμπεριλαμβανομένου του περιεχομένου του παρελθόντος και του μέλλοντος, να αλλάζει τον σκοπό της συνομιλίας, ακόμη και να ελέγχει το ChatGPT ώστε να ενεργεί σύμφωνα με τις επιθυμίες του χάκερ.

Στην παρουσίασή τους, οι ερευνητές έδειξαν ότι ένα παραβιασμένο ChatGPT θα μπορούσε να μετατραπεί σε έναν «κακόβουλο παράγοντα» που θα μπορούσε να λειτουργήσει κρυφά εναντίον χρηστών. Οι χάκερ θα μπορούσαν να κάνουν το chatbot να προτείνει στους χρήστες να κατεβάσουν λογισμικό που έχει μολυνθεί από ιό, να δώσουν παραπλανητικές επιχειρηματικές συμβουλές ή να έχουν πρόσβαση σε αρχεία που είναι αποθηκευμένα στο Google Drive, εάν ο λογαριασμός του χρήστη είναι συνδεδεμένος.

Όλη η διαδικασία έλαβε χώρα χωρίς να το γνωρίζει ο χρήστης. Η ευπάθεια διορθώθηκε πλήρως μόνο αφού η Zenity ειδοποίησε το OpenAI.

Εκτός από το ChatGPT, η Zenity έχει επίσης επιδείξει παρόμοιες επιθέσεις εναντίον άλλων δημοφιλών πλατφορμών βοηθών τεχνητής νοημοσύνης. Στο Copilot Studio της Microsoft, οι ερευνητές ανακάλυψαν πώς να διαρρεύσουν ολόκληρες βάσεις δεδομένων CRM.

Για το Salesforce Einstein, οι χάκερ μπορούν να δημιουργήσουν ψεύτικα αιτήματα εξυπηρέτησης για να ανακατευθύνουν όλες τις επικοινωνίες των πελατών σε διευθύνσεις email που ελέγχουν.

Το Google Gemini και το Microsoft 365 Copilot μετατράπηκαν επίσης σε «εχθρικούς δρώντες», πραγματοποιώντας επιθέσεις ηλεκτρονικού «ψαρέματος» (phishing) και διαρροή ευαίσθητων πληροφοριών μέσω email και συμβάντων ημερολογίου.

Σε ένα άλλο παράδειγμα, το εργαλείο ανάπτυξης λογισμικού Cursor, όταν ενσωματώθηκε με το Jira MCP, αξιοποιήθηκε επίσης για την κλοπή διαπιστευτηρίων προγραμματιστή μέσω ψεύτικων «εισιτηρίων».

Η Zenity ανέφερε ότι ορισμένες εταιρείες, όπως η OpenAI και η Microsoft, κυκλοφόρησαν γρήγορα ενημερώσεις κώδικα αφού ειδοποιήθηκαν. Ωστόσο, άλλες αρνήθηκαν να αντιμετωπίσουν το πρόβλημα, υποστηρίζοντας ότι η συμπεριφορά ήταν ένα «χαρακτηριστικό σχεδιασμού» και όχι ένα κενό ασφαλείας.

Η μεγάλη πρόκληση τώρα, σύμφωνα με τον Μιχαήλ Μπεργκόρι, είναι ότι οι βοηθοί τεχνητής νοημοσύνης δεν εκτελούν απλώς απλές εργασίες, αλλά γίνονται «ψηφιακές οντότητες» που αντιπροσωπεύουν τους χρήστες - ικανές να ανοίγουν φακέλους, να στέλνουν αρχεία και να έχουν πρόσβαση σε email. Προειδοποίησε ότι αυτό είναι σαν ένας «παράδεισος» για τους χάκερ, με τόσα πολλά σημεία εκμετάλλευσης.

Ο Μπεν Κάλιγκερ, συνιδρυτής και διευθύνων σύμβουλος της Zenity, τόνισε ότι η έρευνα της εταιρείας δείχνει ότι οι τρέχουσες μέθοδοι ασφαλείας δεν είναι πλέον κατάλληλες για τον τρόπο λειτουργίας των βοηθών τεχνητής νοημοσύνης. Κάλεσε τους οργανισμούς να αλλάξουν την προσέγγισή τους και να επενδύσουν σε εξειδικευμένες λύσεις, ώστε να είναι σε θέση να ελέγχουν και να παρακολουθούν τις δραστηριότητες αυτών των «πρακτόρων».

Η Zenity ιδρύθηκε το 2021. Η εταιρεία απασχολεί σήμερα περίπου 110 υπαλλήλους παγκοσμίως, εκ των οποίων οι 70 εργάζονται στο γραφείο του Τελ Αβίβ. Στους πελάτες της Zenity περιλαμβάνονται πολλές εταιρείες του Fortune 100, ακόμη και του Fortune 5.

(TTXVN/Βιετνάμ+)

Πηγή: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp