Πέρα από τις αρνητικές επιπτώσεις της στο περιβάλλον και τους πόρους, η τεχνητή νοημοσύνη (ΤΝ) εξελίσσεται ραγδαία σε ένα εργαλείο υψηλού κινδύνου στον τομέα της κυβερνοασφάλειας. Ως απόδειξη, η OALABS Research αποκάλυψε πρόσφατα μια περίπτωση όπου ένας ερασιτέχνης Αιθίοπας χάκερ χρησιμοποίησε πράκτορες ΤΝ από τον Claude και το OpenAI Codex για να πραγματοποιήσει μια σειρά από κυβερνοεπιθέσεις.
Παρά το γεγονός ότι η εντολή ήταν γεμάτη ορθογραφικά και γραμματικά λάθη και προσέφερε μόνο αόριστες οδηγίες, αυτό το άτομο κατάφερε να παραβιάσει πολλούς ιδιωτικούς διακομιστές. Αυτός ο χάκερ διείσδυσε στα ασφαλή δεδομένα τουλάχιστον 14 εταιρειών και μάλιστα σχεδίαζε να κλέψει κρυπτονομίσματα αξίας 4 εκατομμυρίων δολαρίων.

Ερασιτέχνες χάκερ χρησιμοποίησαν τον Claude and the Codex για να επιτεθούν σε 14 επιχειρήσεις.
Χάκερ και οι τακτικές τους για την εκμετάλλευση της Τεχνητής Νοημοσύνης για την παράκαμψη των συστημικών εμποδίων.
Οι επιτιθέμενοι παρέκαμψαν τα ισχυρά μέτρα ασφαλείας του μοντέλου Claude Opus σχετικά εύκολα μέσω ψυχολογικής χειραγώγησης. Παρουσιάζοντας μέλη που ερευνούσαν τρωτά σημεία ασφαλείας, οι χάκερ ξεγέλασαν το chatbot τεχνητής νοημοσύνης ώστε να παρέχει αυτόματα ολόκληρο τον πηγαίο κώδικα της επίθεσης. Το σύστημα μάλιστα περιέγραψε λεπτομερείς μεθόδους εκμετάλλευσης, όπως εκβιασμό, πωλήσεις δεδομένων, και έδωσε απευθείας οδηγίες για τον τρόπο κλοπής δεδομένων. Αυτό το chatbot μπλόκαρε μόνο ένα αίτημα που στόχευε σκόπιμα τους προσωπικούς ψηφιακούς λογαριασμούς μιας συγκεκριμένης οικογένειας.
Αυτό το ασυνήθιστο περιστατικό αποκαλύφθηκε πλήρως αφού ένα θύμα του οποίου ο διακομιστής είχε παραβιαστεί επικοινώνησε με τους ειδικούς της OALABS . Αξιοσημείωτο είναι ότι η ταυτότητα του νεαρού χάκερ αποκαλύφθηκε απλώς και μόνο επειδή είχε προηγουμένως ζητήσει από την Τεχνητή Νοημοσύνη να επεξεργαστεί το προσωπικό του προφίλ. Το περιστατικό προκάλεσε έντονες ανησυχίες σχετικά με την εύκολη πρόσβαση του κοινού σε αυτά τα ισχυρά τεχνολογικά εργαλεία χωρίς να απαιτούνται εξειδικευμένες γνώσεις. Οι χρήστες θα μπορούσαν εύκολα να χρησιμοποιήσουν έναν άλλο ενδιάμεσο της Τεχνητής Νοημοσύνης για να συντάξουν παρόμοιες επικίνδυνες εντολές επίθεσης.
Αυτή τη στιγμή, τεχνολογικοί κολοσσοί όπως η Anthropic και η OpenAI βρίσκονται σε αδιέξοδο στην προσπάθεια εξεύρεσης μιας οριστικής λύσης για την πρόληψη τέτοιων επιθέσεων. Η αυστηροποίηση των περιορισμών του μοντέλου θα στερούσε άμεσα από τους πραγματικούς ερευνητές ασφάλειας την ευκαιρία να ενισχύσουν το σύστημα. Αντίθετα, η διατήρηση του status quo θα άφηνε τη γραμμή μεταξύ ηθικής χρήσης και παράνομου κέρδους ως ανυπέρβλητο εμπόδιο για την Τεχνητή Νοημοσύνη. Η εύρεση της βέλτιστης λύσης για την αποτροπή κακόβουλων προθέσεων των χρηστών παραμένει μια άλυτη πρόκληση.
Σύμφωνα με την εφημερίδα Thanh Nien
Πηγή: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html










