Στο φόρουμ Security Summit 2026 που πραγματοποιήθηκε στις 22 Μαΐου, ο κ. Mai Xuan Cuong - Διευθυντής του Κέντρου Υπηρεσιών Ασφάλειας Πληροφοριών της Viettel Cyber Security, δήλωσε ότι η πιο επικίνδυνη διαφορά μεταξύ των πρακτόρων τεχνητής νοημοσύνης και των παραδοσιακών LLM έγκειται στην ικανότητά τους να αλληλεπιδρούν άμεσα με το σύστημα.
Ενώ τα συμβατικά LLM λαμβάνουν μόνο εντολές και επιστρέφουν κείμενο, οι πράκτορες τεχνητής νοημοσύνης έχουν τη δυνατότητα να εκτελούν εντολές shell (να αλληλεπιδρούν με το λειτουργικό σύστημα μέσω της γραμμής εντολών), να χειρίζονται συστήματα αρχείων για ανάγνωση και γραφή, να στέλνουν αυτόματα email, να καλούν API και να ελέγχουν προγράμματα περιήγησης. Αυτή η αναβάθμιση ανοίγει ακούσια ένα ευρύτερο φάσμα δυνατοτήτων επίθεσης, ξεπερνώντας κατά πολύ το πεδίο εφαρμογής των τυπικών καμπανιών παραπληροφόρησης.
Οι πράκτορες τεχνητής νοημοσύνης γίνονται ένας νέος στόχος για τους κυβερνοεγκληματίες.
Σύμφωνα με τους ειδικούς στον τομέα της κυβερνοασφάλειας, αυτή η ικανότητα «δράσης» είναι που καθιστά τους πράκτορες τεχνητής νοημοσύνης νέο στόχο για τους κυβερνοεγκληματίες.
Ένας από τους μεγαλύτερους κινδύνους είναι η διαρροή εταιρικών δεδομένων. Για να λειτουργούν αποτελεσματικά, οι πράκτορες Τεχνητής Νοημοσύνης πρέπει συχνά να επεξεργάζονται μεγάλες ποσότητες εσωτερικών πληροφοριών, όπως πηγαίο κώδικα, έγγραφα και email. Εάν αυτά τα δεδομένα αποσταλούν σε πλατφόρμες τεχνητής νοημοσύνης cloud τρίτων, αυξάνεται ο κίνδυνος έκθεσης εμπιστευτικών πληροφοριών.
Έχουν καταγραφεί περιπτώσεις υπαλλήλων της Samsung που διαρρέουν νέο πηγαίο κώδικα μέσω του ChatGPT ή υπαλλήλων της Meta που διαρρέουν ακούσια δεδομένα ακολουθώντας οδηγίες από εσωτερική τεχνητή νοημοσύνη.
Εκτός από τον κίνδυνο διαρροών δεδομένων, οι ειδικοί προειδοποιούν επίσης για την «έμμεση άμεση έγχυση». Οι χάκερ μπορούν να ενσωματώσουν κακόβουλες οδηγίες σε email, ιστότοπους ή έγγραφα για να ξεγελάσουν τους πράκτορες της τεχνητής νοημοσύνης ώστε να εκτελέσουν ακούσιες ενέργειες, όπως πρόσβαση σε εσωτερικά δεδομένα ή αποστολή πληροφοριών στον χάκερ.
Υπήρξε μια περίπτωση όπου ένας εισβολέας έκρυψε τον κώδικα Μορς σε ένα μήνυμα για να παρακάμψει το σύστημα, επιτρέποντας στον πράκτορα κρυπτονομισμάτων Grok-Bankrbot να εκτελέσει μια μη εξουσιοδοτημένη μεταφορά χρημάτων, με αποτέλεσμα την απώλεια 150.000 δολαρίων.
Ένας άλλος κίνδυνος πηγάζει από το οικοσύστημα των επεκτάσεων για τους πράκτορες τεχνητής νοημοσύνης. Πολλοί υπάλληλοι σε επιχειρήσεις εγκαθιστούν επεκτάσεις από την κοινότητα για να επεκτείνουν τη λειτουργικότητα της τεχνητής νοημοσύνης, αλλά οι χάκερ μπορούν να εκμεταλλευτούν αυτό το κανάλι για να διαδώσουν κακόβουλο λογισμικό. Μόλις τους δοθεί πρόσβαση στο σύστημα, αυτά τα ψεύτικα πρόσθετα (plugins) μπορούν να κλέψουν δεδομένα, διακριτικά ή να δημιουργήσουν κερκόπορτες (backdoors) στη συσκευή.
Σύμφωνα με τον κ. Cuong, η τάση της «Shadow AI» αναδύεται επίσης, καθώς οι εργαζόμενοι εγκαθιστούν ανεξάρτητα πράκτορες τεχνητής νοημοσύνης στους υπολογιστές της εργασίας τους χωρίς να περνούν από το τμήμα IT. Αυτό δυσκολεύει τις επιχειρήσεις να ελέγχουν την πρόσβαση και αυξάνει τον κίνδυνο παραβιάσεων της ασφάλειας του συστήματος.
Επιπλέον, η Τεχνητή Νοημοσύνη μπορεί να παρερμηνεύσει τις προθέσεις των χρηστών, οδηγώντας στην εκτέλεση εντολών που θα μπορούσαν να προκαλέσουν σημαντική ζημιά στις επιχειρήσεις. Για παράδειγμα, ένας παράγοντας Τεχνητής Νοημοσύνης μπορεί να εκτελέσει λανθασμένη λειτουργία ή να διαγράψει κατά λάθος σημαντικά δεδομένα εάν του δοθούν υπερβολικά δικαιώματα.
Για τον μετριασμό των κινδύνων, οι οργανισμοί συμβουλεύονται να δημιουργήσουν ένα πολυεπίπεδο μοντέλο ασφάλειας αντί να βασίζονται αποκλειστικά σε παραδοσιακό λογισμικό προστασίας από ιούς και να αναπτύξουν έναν κατάλληλο οδικό χάρτη εφαρμογής.
Οι επιχειρήσεις πρέπει να δημιουργήσουν ένα πολυεπίπεδο μοντέλο ασφάλειας.
Το πρώτο βήμα που πρέπει να κάνει μια επιχείρηση είναι η ανίχνευση απειλών. Οι επιχειρήσεις μπορούν να χρησιμοποιήσουν τερματικά σημεία και κίνηση διακομιστή μεσολάβησης ιστού (ενδιάμεσοι διακομιστές που συνδέουν συσκευές στο Διαδίκτυο) για να συγκεντρώσουν και να εντοπίσουν απειλές.
Στη συνέχεια, πρέπει να ρυθμίσουμε μια πύλη τεχνητής νοημοσύνης, καθιστώντας την το μοναδικό σημείο ελέγχου για όλη την πρόσβαση στην τεχνητή νοημοσύνη. Αυτή η πύλη θα ελέγχει τη μετάδοση δεδομένων στο δημόσιο cloud.
Στη συνέχεια, οι επιχειρήσεις πρέπει να εφαρμόσουν ένα επιπλέον επίπεδο εξειδικευμένου ελέγχου (Guardrail) στην πύλη τεχνητής νοημοσύνης τους και σε άλλες εφαρμογές τεχνητής νοημοσύνης, για τον εντοπισμό κακόβουλων εντολών, την αποτροπή διαρροών δεδομένων και την ανίχνευση μη εξουσιοδοτημένης πρόσβασης ή εκμετάλλευσης του συστήματος.
Το επόμενο βήμα είναι η δημιουργία ενισχύσεων για τον Πράκτορα Τεχνητής Νοημοσύνης (AI Agent). Το σύστημα παρακολούθησης στο τελικό σημείο πρέπει να ρυθμιστεί ώστε να παρακολουθεί ασυνήθιστη «αυτόνομη συμπεριφορά». Ο Πράκτορας Τεχνητής Νοημοσύνης (AI Agent) θα πρέπει να λειτουργεί σε απομονωμένο περιβάλλον με ελάχιστη πρόσβαση για να περιοριστεί ο κίνδυνος εξάπλωσης σε περίπτωση συμβάντος. Τέλος, η τακτική παρακολούθηση του συστήματος είναι απαραίτητη.
«Η διακυβέρνηση της ασφάλειας της Τεχνητής Νοημοσύνης δεν είναι μια εφάπαξ ανάπτυξη, αλλά μια διαδικασία συνεχούς παρακολούθησης», δήλωσε ο κ. Cuong.
Η διαχείριση της ασφάλειας των πρακτόρων Τεχνητής Νοημοσύνης θα καταστεί υποχρεωτική απαίτηση κατά την περίοδο της ταχείας ανάπτυξης των πρακτόρων Τεχνητής Νοημοσύνης. Εάν οι επιχειρήσεις δεν είναι προετοιμασμένες να δημιουργήσουν μοντέλα ασφάλειας μηδενικής εμπιστοσύνης και αυστηρή παρακολούθηση, η ενδυνάμωση των πρακτόρων Τεχνητής Νοημοσύνης να δράσουν είναι σαν να παραδίδετε τα κλειδιά του συστήματος σε έναν υπάλληλο ο οποίος, αν και είναι εξαιρετικά εξειδικευμένος, είναι πολύ ευάλωτος στη χειραγώγηση.
Πηγή: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
![[INFOGRAPHICS] 25 στόχοι και ομάδες στόχων που επιδιώκει η πόλη Can Tho έως το 2030](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2026/05/25/1779688983034_1779688951.webp)
Σχόλιο (0)