Χάκερ χρησιμοποιούν Τεχνητή Νοημοσύνη για να επιτεθούν στο Gemini της Google

Σύμφωνα με το BGR , μια νέα ερευνητική έκθεση μόλις δημοσίευσε μια ανησυχητική τεχνική που ονομάζεται «Fun-Tuning», η οποία χρησιμοποιεί την ίδια την Τεχνητή Νοημοσύνη (AI) για να δημιουργεί αυτόματα εξαιρετικά αποτελεσματικές επιθέσεις άμεσης έγχυσης που στοχεύουν άλλα προηγμένα μοντέλα Τεχνητής Νοημοσύνης, συμπεριλαμβανομένου του Gemini της Google.

Η μέθοδος καθιστά την «αποκρυπτογράφηση» της Τεχνητής Νοημοσύνης (ΤΝ) ταχύτερη, φθηνότερη και ευκολότερη από ποτέ, σηματοδοτώντας μια νέα κλιμάκωση στον πόλεμο κυβερνοασφάλειας που σχετίζεται με την ΤΝ.

Ο κίνδυνος όταν οι κακοί χρησιμοποιούν την Τεχνητή Νοημοσύνη για να σπάσουν την Τεχνητή Νοημοσύνη

Η άμεση έγχυση είναι μια τεχνική όπου ένας κακόβουλος εισχωρεί κρυφά κακόβουλες οδηγίες στα δεδομένα εισόδου ενός μοντέλου Τεχνητής Νοημοσύνης (π.χ., μέσω σχολίων στον πηγαίο κώδικα, κρυφού κειμένου στον ιστό). Στόχος είναι να «ξεγελάσει» την Τεχνητή Νοημοσύνη, αναγκάζοντάς την να παρακάμψει προγραμματισμένους κανόνες ασφαλείας, οδηγώντας σε σοβαρές συνέπειες, όπως διαρροή ευαίσθητων δεδομένων, παροχή ψευδών πληροφοριών ή εκτέλεση άλλων επικίνδυνων συμπεριφορών.

Οι χάκερ χρησιμοποιούν την τεχνητή νοημοσύνη για να επιτεθούν στην τεχνητή νοημοσύνη

ΦΩΤΟΓΡΑΦΙΑ: ΣΤΙΓΜΙΟΤΥΠΟ ΟΘΟΝΗΣ LINKEDIN

Προηγουμένως, η επιτυχής εκτέλεση αυτών των επιθέσεων, ειδικά σε «κλειστά» μοντέλα όπως το Gemini ή το GPT-4, συχνά απαιτούσε πολλές πολύπλοκες και χρονοβόρες χειροκίνητες δοκιμές.

Αλλά το Fun-Tuning άλλαξε εντελώς τα δεδομένα. Η μέθοδος, που αναπτύχθηκε από μια ομάδα ερευνητών από πολλά πανεπιστήμια, εκμεταλλεύεται έξυπνα την πολύ εύχρηστη διεπαφή προγραμματισμού εφαρμογών (API) που παρέχει η Google δωρεάν στους χρήστες του Gemini.

Αναλύοντας τις ανεπαίσθητες αντιδράσεις του μοντέλου Gemini κατά τη διάρκεια του tuning (π.χ., πώς ανταποκρίνεται σε σφάλματα στα δεδομένα), το Fun-Tuning μπορεί να προσδιορίσει αυτόματα τα πιο αποτελεσματικά «προθέματα» και «επιθήματα» για την κάλυψη μιας κακόβουλης εντολής. Αυτό αυξάνει σημαντικά την πιθανότητα η Τεχνητή Νοημοσύνη να συμμορφωθεί με τις κακόβουλες προθέσεις ενός εισβολέα.

Τα αποτελέσματα των δοκιμών δείχνουν ότι το Fun-Tuning επιτυγχάνει ποσοστό επιτυχίας έως και 82% σε ορισμένες εκδόσεις του Gemini, ένα ποσοστό που ξεπερνά το λιγότερο από 30% των παραδοσιακών μεθόδων επίθεσης.

Αυτό που κάνει το Fun-Tuning ακόμη πιο επικίνδυνο είναι το χαμηλό του κόστος. Δεδομένου ότι το API ρύθμισης της Google είναι ελεύθερα διαθέσιμο, το υπολογιστικό κόστος δημιουργίας μιας αποτελεσματικής επίθεσης μπορεί να φτάσει τα 10 δολάρια. Επιπλέον, οι ερευνητές διαπίστωσαν ότι μια επίθεση που έχει σχεδιαστεί για μια έκδοση του Gemini θα μπορούσε εύκολα να εφαρμοστεί με επιτυχία σε άλλες εκδόσεις, ανοίγοντας την πιθανότητα εκτεταμένων επιθέσεων.

Η Google επιβεβαίωσε ότι γνωρίζει την απειλή που θέτει το Fun-Tuning, αλλά δεν έχει ακόμη σχολιάσει εάν αυτό θα αλλάξει τον τρόπο λειτουργίας του API ρύθμισης. Η ομάδα επισημαίνει επίσης το αμυντικό δίλημμα: η αφαίρεση των πληροφοριών που εκμεταλλεύεται το Fun-Tuning από τη διαδικασία ρύθμισης θα καθιστούσε το API λιγότερο χρήσιμο για τους νόμιμους προγραμματιστές. Αντίθετα, αν το άφηνε ως έχει, θα συνέχιζε να αποτελεί εφαλτήριο για την εκμετάλλευση από κακόβουλους παράγοντες.

Η εμφάνιση του Fun-Tuning αποτελεί σαφή προειδοποίηση ότι η αντιπαράθεση στον κυβερνοχώρο έχει εισέλθει σε μια νέα, πιο σύνθετη φάση. Η Τεχνητή Νοημοσύνη δεν είναι πλέον μόνο στόχος αλλά και εργαλείο και όπλο στα χέρια κακόβουλων φορέων.

Πηγή: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm