Ειδικός ασφαλείας «ξεγελάει» το ChatGPT ώστε να γράψει κακόβουλο λογισμικό.

Η τεχνητή νοημοσύνη (AI) όπως το ChatGPT έχει γίνει παγκόσμια αίσθηση από τις αρχές του 2023, αλλά δεν χρησιμοποιείται πάντα για θετικούς σκοπούς. Πρόσφατα, ένας ειδικός ασφαλείας ανακάλυψε έναν τρόπο να δώσει εντολή στο ChatGPT να δημιουργεί κακόβουλο κώδικα κατά τη διάρκεια των δοκιμών.

Ο Aaron Mulgrew, ειδικός ασφαλείας στην Forcepoint, μοιράστηκε τους κινδύνους της σύνταξης κακόβουλου κώδικα χρησιμοποιώντας το δίγλωσσο chatbot της OpenAI. Παρόλο που το ChatGPT έχει σχεδιαστεί για να εμποδίζει τους χρήστες να ζητούν από την Τεχνητή Νοημοσύνη να σχεδιάσει κακόβουλο λογισμικό, ο Aaron εντόπισε μια ευπάθεια δημιουργώντας εντολές (προτροπές) για την τεχνητή νοημοσύνη ώστε να γράφει κώδικα γραμμή προς γραμμή. Όταν συνδυάστηκαν, ο Aaron συνειδητοποίησε ότι είχε στα χέρια του ένα μη ανιχνεύσιμο εργαλείο εκτέλεσης κλοπής δεδομένων, τόσο εξελιγμένο που ανταγωνίζεται ακόμη και το πιο προηγμένο κακόβουλο λογισμικό που διατίθεται σήμερα.

Κάθε μεμονωμένη γραμμή κώδικα που παράγεται από το ChatGPT, όταν συνδυαστεί, μπορεί να μετατραπεί σε εξελιγμένο κακόβουλο λογισμικό.

Η ανακάλυψη του Mulgrew χρησιμεύει ως ένα κάλεσμα αφύπνισης σχετικά με τις δυνατότητες αξιοποίησης της Τεχνητής Νοημοσύνης για τη δημιουργία επικίνδυνου κακόβουλου λογισμικού χωρίς την ανάγκη ομάδων hacking και χωρίς οι δημιουργοί να γράψουν οι ίδιοι έστω και μια γραμμή κώδικα.

Το κακόβουλο λογισμικό του Mulgrew είναι μεταμφιεσμένο σε εφαρμογή για υπολογιστές, αλλά μπορεί να ενεργοποιηθεί αυτόματα σε συσκευές Windows. Μόλις εισέλθει στο λειτουργικό σύστημα, το κακόβουλο λογισμικό «διεισδύει» σε όλα τα αρχεία, συμπεριλαμβανομένων των εγγράφων Word, των αρχείων εικόνας και των PDF, για να αναζητήσει δεδομένα για κλοπή.

Μόλις λάβει τις πληροφορίες που χρειάζεται, το πρόγραμμα τις αναλύει και τις ενσωματώνει σε αρχεία εικόνας στον υπολογιστή. Για να αποφευχθεί η ανίχνευση, αυτές οι εικόνες μεταφορτώνονται σε έναν φάκελο στο cloud storage του Google Drive. Το κακόβουλο λογισμικό γίνεται απίστευτα ισχυρό επειδή το Mulgrew μπορεί να βελτιώσει και να βελτιώσει τις δυνατότητές του για να αποφύγει την ανίχνευση μέσω απλών εντολών που εισάγονται στο ChatGPT.

Παρόλο που αυτό ήταν το αποτέλεσμα μιας ιδιωτικής δοκιμής από έναν ειδικό ασφαλείας και δεν πραγματοποιήθηκαν επιθέσεις εκτός της περιοχής δοκιμών, οι ειδικοί στον κυβερνοχώρο αναγνώρισαν τον κίνδυνο των δραστηριοτήτων που χρησιμοποιούν το ChatGPT. Ο Mulgrew δήλωσε ότι ο ίδιος δεν είχε μεγάλη εμπειρία στον προγραμματισμό, αλλά η τεχνητή νοημοσύνη του OpenAI δεν ήταν ακόμη αρκετά ισχυρή ή έξυπνη για να σταματήσει τη δοκιμή του.

Σύνδεσμος πηγής: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm