Πολλές προκλήσεις της Τεχνητής Νοημοσύνης στη νέα εποχή

Καθώς η Τεχνητή Νοημοσύνη γίνεται πιο προσβάσιμη, με όλο και περισσότερα άτομα και επιχειρήσεις να χρησιμοποιούν την Τεχνητή Νοημοσύνη μέσω κοινών εργαλείων... οι χάκερ μπορούν επίσης να αυτοματοποιήσουν τις επιθέσεις, να επιταχύνουν τις λειτουργίες και να αναπτύξουν πιο σύνθετες καμπάνιες για να επιτύχουν τους παράνομους στόχους τους.

Η Kaspersky αποκαλύπτει τύπους κυβερνοεπιθέσεων που χρησιμοποιούν Τεχνητή Νοημοσύνη

Ακολουθούν οι τύποι επιθέσεων που έχει παρατηρήσει η Kaspersky: Το ChatGPT μπορεί να χρησιμοποιηθεί για την ανάπτυξη κακόβουλου λογισμικού και την αυτόματη ανάπτυξη επιθέσεων σε πολλά θύματα. Τα προγράμματα τεχνητής νοημοσύνης διεισδύουν στα δεδομένα των χρηστών σε smartphones και, μέσω της διαδικασίας ανάλυσης ευαίσθητων δεδομένων, μπορούν να «διαβάσουν» πλήρως μηνύματα, κωδικούς πρόσβασης και τραπεζικούς κωδικούς των θυμάτων. Οι αλγόριθμοι Swarm intelligence βοηθούν τα αυτοματοποιημένα δίκτυα υπολογιστών (bonets) να αποκαθιστούν κακόβουλα δίκτυα που έχουν εξαλειφθεί από λύσεις ασφαλείας.

Η έρευνα της Kaspersky σχετικά με τη χρήση της Τεχνητής Νοημοσύνης για την αποκρυπτογράφηση κωδικών πρόσβασης δείχνει ότι οι περισσότεροι κωδικοί πρόσβασης κρυπτογραφούνται χρησιμοποιώντας αλγόριθμους κατακερματισμού όπως το MD5 και το SHA. Μια απλή λειτουργία μπορεί να μετατρέψει έναν κωδικό πρόσβασης σε ροή κρυπτογραφημένου κειμένου, αλλά η αντιστροφή της διαδικασίας αποτελεί μεγάλη πρόκληση.

Μέσω της Τεχνητής Νοημοσύνης, οι κακόβουλοι δράστες μπορούν να εκμεταλλευτούν δόλιο περιεχόμενο, συμπεριλαμβανομένου κειμένου, εικόνων, ήχου και βίντεο , για να εξαπολύσουν επιθέσεις κοινωνικής μηχανικής. Μεγάλα γλωσσικά μοντέλα όπως το ChatGPT-4o χρησιμοποιούνται για τη δημιουργία εξαιρετικά εξελιγμένων σεναρίων και μηνυμάτων ηλεκτρονικού "ψαρέματος" (phishing). Ξεπερνώντας τα γλωσσικά εμπόδια, η Τεχνητή Νοημοσύνη μπορεί να γράψει ένα γνήσιο email, βασισμένο μόνο σε πληροφορίες σε κοινωνικά δίκτυα. Η Τεχνητή Νοημοσύνη μπορεί ακόμη και να μιμηθεί το στυλ γραφής του θύματος. Αυτό καθιστά ακόμη πιο δύσκολο να εντοπιστεί η συμπεριφορά ηλεκτρονικού "ψαρέματος" (phishing).

Ταυτόχρονα, το Deepfake υπάρχει ως «πρόβλημα» στην κυβερνοασφάλεια, αν και προηγουμένως θεωρούνταν προϊόν επιστημονικής έρευνας. Η πλαστοπροσωπία διασημοτήτων για οικονομικό όφελος είναι η πιο κοινή μέθοδος, ενώ οι απατεώνες χρησιμοποιούν επίσης το Deepfake για να κλέψουν λογαριασμούς, να κάνουν ψεύτικες κλήσεις σε φίλους και συγγενείς των θυμάτων για να οικειοποιηθούν περιουσία.

Εκτός από την εκμετάλλευση της τεχνολογίας τεχνητής νοημοσύνης για παράνομες δραστηριότητες, οι κακόβουλοι μπορούν επίσης να επιτεθούν σε αλγόριθμους τεχνητής νοημοσύνης. Όπως οι επιθέσεις «άμεσης έγχυσης» εισάγοντας κακόβουλες εντολές σε μεγάλα γλωσσικά μοντέλα, ακόμη και παραβιάζοντας προηγουμένως περιορισμένους κανόνες, ενώ οι επιθέσεις αντιπάλων προσθέτουν κρυφά πεδία πληροφοριών σε εικόνες ή ήχο, για να επηρεάσουν την ικανότητα ταξινόμησης εικόνων του συστήματος μηχανικής μάθησης.

Η Τεχνητή Νοημοσύνη ενσωματώνεται σταδιακά σε κάθε πτυχή της ανθρώπινης ζωής, από την Apple Intelligence, την Google Gemini έως την Microsoft Copilot. Επομένως, η αντιμετώπιση των τρωτών σημείων της Τεχνητής Νοημοσύνης θα πρέπει να αποτελεί ύψιστη προτεραιότητα. Η Kaspersky χρησιμοποιεί την τεχνολογία Τεχνητής Νοημοσύνης για την προστασία πελατών και συνεργατών εδώ και πολλά χρόνια, αναζητώντας συνεχώς τρωτά σημεία σε συστήματα Τεχνητής Νοημοσύνης, αυξάνοντας την ανθεκτικότητα του συστήματος και ερευνώντας ενεργά τεχνικές κυβερνοεπιθέσεων για να παρέχει αξιόπιστη προστασία από επιθέσεις Τεχνητής Νοημοσύνης.

ΚΙΜ ΘΑΝ

Πηγή: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html