Επίθεση από κάθε γωνία.
Η Google κυκλοφόρησε ένα νέο προϊόν τεχνητής νοημοσύνης (AI) που ονομάζεται "Gemini Nano Banana", το οποίο δεν είναι μια μεγάλης κλίμακας γλωσσική AI (LLM) ικανή για γραφή και συλλογισμό, αλλά μάλλον μια AI που ειδικεύεται στην επεξεργασία φωτογραφιών... Πολλοί χρήστες είναι ενθουσιασμένοι με αυτό το εργαλείο, αλλά φέρνει μαζί του και μια σειρά από μειονεκτήματα.
«Είναι σαν ένα «βήμα προς τα πίσω» στην τεχνολογία τεχνητής νοημοσύνης και στους ηθικούς περιορισμούς», δήλωσε ο Nguyen Hong Phuc, Επιστημονικός Διευθυντής της Conductify AI, εκφράζοντας την προσωπική του άποψη. «Το Gemini Nano Banana διαθέτει αποτελεσματικές δυνατότητες επεξεργασίας εικόνας. Αλλά η μη λογοκρισία του Gemini Nano Banana από την Google, χαλαρώνοντας τα εμπόδια και τους περιοριστικούς μηχανισμούς, επιτρέπει σε αυτό το AI να δημιουργεί εικόνες που είναι απίστευτα παρόμοιες με διασημότητες, εικόνες που προκαλούν σεξουαλικές αντιδράσεις, ευαίσθητες εικόνες κ.λπ.», δήλωσε ο Phuc.
Σύμφωνα με τον κ. Nguyen Hong Phuc, αυτή η δυνατότητα καθιστά το Gemini Nano Banana ένα εργαλείο για τη δημιουργία ρεαλιστικών ψεύτικων εικόνων, σε σημείο που ακόμη και οι ειδικοί στην Τεχνητή Νοημοσύνη δεν μπορούν να τις διακρίνουν, οδηγώντας σε νέους κινδύνους απάτης και κυβερνοασφάλειας, όπως η δημιουργία ψεύτικων φωτογραφιών με διάσημους πολιτικούς για τη διάδοση ψευδών πληροφοριών, ακόμη και άτομα που υπόκεινται σε χειραγώγηση φωτογραφιών που δημιουργείται από την Τεχνητή Νοημοσύνη και δυσφήμιση στα μέσα κοινωνικής δικτύωσης...
Επιπλέον, με δεκάδες άλλα εργαλεία επεξεργασίας φωτογραφιών με τεχνητή νοημοσύνη να κατακλύζουν το διαδίκτυο, οι απάτες deepfake δεν δείχνουν κανένα σημάδι σταματήματος. Στατιστικά στοιχεία από οργανισμούς ασφαλείας δείχνουν ότι η τεχνολογία deepfake δημιουργεί καμπάνιες ηλεκτρονικού "ψαρέματος" (phishing) που στοχεύουν άτομα υψηλής αξίας, ιδίως επιχειρηματικούς ηγέτες. Το 2024, υπήρχαν 140.000-150.000 περιπτώσεις παγκοσμίως, με το 75% να στοχεύει διευθύνοντες συμβούλους και ανώτερα στελέχη... Τα deepfakes θα μπορούσαν να αυξήσουν τις παγκόσμιες οικονομικές απώλειες κατά 32%, περίπου 40 δισεκατομμύρια δολάρια ετησίως έως το 2027.
Πρόσφατα, η εταιρεία τεχνητής νοημοσύνης Anthropic εντόπισε και απέτρεψε μια εκστρατεία κυβερνοεπίθεσης που πραγματοποιήθηκε από ξένους χάκερ, η οποία για πρώτη φορά κατέγραψε τη χρήση τεχνητής νοημοσύνης για τον συντονισμό αυτοματοποιημένων δραστηριοτήτων επίθεσης. Συγκεκριμένα, οι χάκερ χρησιμοποίησαν συστήματα τεχνητής νοημοσύνης για να σχεδιάσουν, να κατευθύνουν και να αναπτύξουν επιχειρήσεις εισβολής - μια «ανησυχητική» εξέλιξη που κινδυνεύει να επεκτείνει την κλίμακα και την ταχύτητα των καμπανιών κυβερνοεπιθέσεων...
Ο κ. Ngo Minh Hieu, Διευθυντής του Οργανισμού Καταπολέμησης της Απάτης της Εθνικής Ένωσης Κυβερνοασφάλειας, δήλωσε ότι τα εργαλεία που ενσωματώνονται στην Τεχνητή Νοημοσύνη αυξάνουν την ταχύτητα της απάτης κατά περίπου 20 φορές σε σύγκριση με τη χρήση πραγματικών ανθρώπων. Οι απατεώνες παρέχουν στην Τεχνητή Νοημοσύνη ένα σενάριο απάτης για ανάλυση και το σύστημα συνομιλεί αμέσως αυτόματα με τα θύματα. Από τα αρχικά δεδομένα, η Τεχνητή Νοημοσύνη μπορεί να καταλάβει τι θέλει το θύμα και να επικοινωνήσει μαζί του σε πραγματικό χρόνο. Η πιο εξελιγμένη τακτική είναι η επίθεση "Man-in-the-Middle", όπου όταν ένας χρήστης εκτελεί έλεγχο ταυτότητας μέσω βίντεο (όπως η καταγραφή του προσώπου του ή η παροχή εντολών), ο χάκερ παρεμβαίνει για να παρέμβει στα μεταδιδόμενα δεδομένα. Οι κυβερνοεγκληματίες στη συνέχεια εισάγουν προπαρασκευασμένα deepfake βίντεο, αντικαθιστώντας την πραγματική ροή δεδομένων του χρήστη για να παρακάμψουν τη διαδικασία ελέγχου ταυτότητας. Με αυτήν τη μέθοδο, τα συστήματα ασφαλείας των τραπεζών και των χρηματοπιστωτικών ιδρυμάτων κινδυνεύουν επίσης να εξαπατηθούν.
Καλύτερη διαχείριση δεδομένων
Καθώς η Τεχνητή Νοημοσύνη (ΤΝ) γίνεται ολοένα και πιο διαδεδομένη, οι κίνδυνοι για την ασφάλεια και την ιδιωτικότητα αυξάνονται επίσης σημαντικά. Τα δεδομένα που αποθηκεύονται και υποβάλλονται σε επεξεργασία σε απομακρυσμένους διακομιστές θα γίνουν ελκυστικός στόχος για τους χάκερ και τους κυβερνοεγκληματίες. Σύμφωνα με στοιχεία της Εθνικής Ένωσης Κυβερνοασφάλειας, μόνο κατά το δεύτερο τρίμηνο του 2025, ο αριθμός των κυβερνοεπιθέσεων που υποστηρίζονται από ΤΝ αυξήθηκε κατά 62%, προκαλώντας παγκόσμιες απώλειες έως και 18 δισεκατομμυρίων δολαρίων...
Οι ειδικοί πιστεύουν ότι η προστασία των δεδομένων είναι ζωτικής σημασίας. Ωστόσο, η συλλογή και η πώληση δεδομένων συνεχίζεται ανοιχτά σε πολλές πλατφόρμες «μαύρης αγοράς», για μόλις 20 δολάρια το μήνα. Οι κυβερνοεγκληματίες μπορούν να χρησιμοποιήσουν εργαλεία που μιμούνται γλωσσικά μοντέλα, αλλά είναι προσαρμοσμένα για εγκληματικούς σκοπούς. Αυτά τα εργαλεία είναι ικανά να δημιουργήσουν κακόβουλο λογισμικό, ακόμη και να παρακάμψουν λογισμικό προστασίας από ιούς.
Στο Βιετνάμ, το Διάταγμα αριθ. 13/2023/ND-CP (σε ισχύ από 17 Απριλίου 2023) ρυθμίζει την προστασία των προσωπικών δεδομένων. Επιπλέον, ο Νόμος για την Προστασία Προσωπικών Δεδομένων, ο οποίος αναμένεται να τεθεί σε ισχύ την 1η Ιανουαρίου 2026, θα ανοίξει έναν ισχυρότερο νομικό μηχανισμό για την αντιμετώπιση του κινδύνου διαρροών και κακής χρήσης προσωπικών δεδομένων. Ωστόσο, σύμφωνα με την Εθνική Ένωση Κυβερνοασφάλειας, η αποτελεσματικότητα της επιβολής του νόμου πρέπει ακόμη να ενισχυθεί σε τρεις πυλώνες: την ευαισθητοποίηση του κοινού, την αύξηση της εταιρικής ευθύνης και τη βελτίωση της ικανότητας επεξεργασίας των ρυθμιστικών αρχών. Πέρα από τα τεχνικά μέτρα, κάθε άτομο πρέπει να αναπτύξει την ικανότητα να εντοπίζει ασυνήθιστα και ύποπτα σημάδια και να προστατεύεται προληπτικά από επικίνδυνες ψηφιακές αλληλεπιδράσεις...
Η Kaspersky έχει προειδοποιήσει για την εκμετάλλευση της Σκοτεινής Τεχνητής Νοημοσύνης (ένας όρος που αναφέρεται στην ανάπτυξη μεγάλων γλωσσικών μοντέλων (LLM) που λειτουργούν εκτός των τυπικών ελέγχων ασφαλείας, συχνά επιτρέποντας ενέργειες όπως ηλεκτρονικό ψάρεμα (phishing), χειραγώγηση, κυβερνοεπιθέσεις ή κατάχρηση δεδομένων). Οι οργανισμοί και τα άτομα πρέπει να προετοιμαστούν για να αντιμετωπίσουν ολοένα και πιο εξελιγμένες και δύσκολο να εντοπιστούν κυβερνοεπιθέσεις λόγω της ανόδου της Σκοτεινής Τεχνητής Νοημοσύνης (Dark AI) στην περιοχή Ασίας-Ειρηνικού.
Ο Sergey Lozhkin, Επικεφαλής της Ομάδας Παγκόσμιας Έρευνας και Ανάλυσης (GReAT) για τις περιοχές Μέσης Ανατολής, Τουρκίας, Αφρικής και Ασίας-Ειρηνικού στην Kaspersky, μοιράστηκε ότι μια εκδήλωση της τρέχουσας κατάχρησης της Τεχνητής Νοημοσύνης είναι η εμφάνιση μοντέλων Black Hat GPT. Πρόκειται για μοντέλα Τεχνητής Νοημοσύνης που έχουν αναπτυχθεί ή τροποποιηθεί ειδικά για να εξυπηρετούν ανήθικους και παράνομους σκοπούς, όπως η δημιουργία κακόβουλου λογισμικού, η δημιουργία απροκάλυπτων και πειστικών email ηλεκτρονικού "ψαρέματος" (phishing) για επιθέσεις μεγάλης κλίμακας, η δημιουργία deepfake φωνών και βίντεο, ακόμη και η υποστήριξη προσομοιωμένων επιθέσεων.
Οι ειδικοί της Kaspersky συνιστούν στα άτομα και τις επιχειρήσεις να χρησιμοποιούν λύσεις ασφαλείας επόμενης γενιάς για την ανίχνευση κακόβουλου λογισμικού που δημιουργείται από την Τεχνητή Νοημοσύνη, δίνοντας παράλληλα προτεραιότητα στην προστασία των δεδομένων. Οι επιχειρήσεις θα πρέπει να εφαρμόσουν εργαλεία παρακολούθησης σε πραγματικό χρόνο για την παρακολούθηση της εκμετάλλευσης ευπαθειών που προκαλούνται από την Τεχνητή Νοημοσύνη, να ενισχύσουν τον έλεγχο πρόσβασης και την εκπαίδευση των εργαζομένων για τον περιορισμό της Τεχνητής Νοημοσύνης στη σκοτεινή ζώνη και τον κίνδυνο διαρροών δεδομένων, καθώς και να δημιουργήσουν ένα κέντρο επιχειρήσεων κυβερνοασφάλειας για την παρακολούθηση των απειλών και την ταχεία ανταπόκριση σε περιστατικά.
Πηγή: https://www.sggp.org.vn/bao-mat-du-lieu-thoi-ai-post824210.html
Σχόλιο (0)