Το νέο εργαλείο τεχνητής νοημοσύνης της Αυστραλίας καταπολεμά τις επιβλαβείς deepfake εικόνες

Η Αυστραλία αναπτύσσει το Silverer, ένα εργαλείο τεχνητής νοημοσύνης που βοηθά στην πρόληψη των deepfakes και στην προστασία των προσωπικών δεδομένων, το οποίο βρίσκεται σε φάση δοκιμών για την καταπολέμηση του κυβερνοεγκλήματος.

Σύμφωνα με ανταποκριτή του VNA στο Σίδνεϊ, το Πανεπιστήμιο Monash και η Ομοσπονδιακή Αστυνομία της Αυστραλίας (AFP) συνεργάζονται για την ανάπτυξη ενός πρωτοποριακού νέου εργαλείου Τεχνητής Νοημοσύνης (AI) που θα επιβραδύνει και θα αποτρέπει τους εγκληματίες από το να δημιουργούν επιβλαβείς deepfake εικόνες και υλικό κακοποίησης παιδιών χρησιμοποιώντας την Τεχνητή Νοημοσύνη.

Το εργαλείο, που ονομάζεται Silverer, είναι προϊόν του Εργαστηρίου Τεχνητής Νοημοσύνης για την Επιβολή του Νόμου και την Ασφάλεια της Κοινότητας (AiLECS), μιας στρατηγικής ερευνητικής συνεργασίας μεταξύ του AFP και του Πανεπιστημίου Monash που εφαρμόζει την Τεχνητή Νοημοσύνη σε σύνθετες προκλήσεις επιβολής του νόμου και ασφάλειας. Αυτή τη στιγμή βρίσκεται σε πιλοτική φάση και το εργαλείο αναπτύσσεται υπό την ηγεσία της διδακτορικής φοιτήτριας του Πανεπιστημίου Monash, Elizabeth Perry.

Σύμφωνα με το Πανεπιστήμιο Monash, το έργο χρησιμοποιεί μια τεχνική που ονομάζεται «Δηλητηρίαση Δεδομένων» ως βασική τεχνική σε αυτό το νέο εργαλείο. Αυτή η τεχνική περιλαμβάνει την ανεπαίσθητη τροποποίηση των δεδομένων πηγής στο διαδίκτυο, καθιστώντας σημαντικά πιο δύσκολη τη δημιουργία, τον χειρισμό και την κακή χρήση εικόνων ή βίντεο από τα μοντέλα Τεχνητής Νοημοσύνης και Μηχανικής Μάθησης (ML).

Δεδομένου ότι τα εργαλεία τεχνητής νοημοσύνης απαιτούν μεγάλες ποσότητες δεδομένων πηγής, η δηλητηρίαση δεδομένων προκαλεί την παραγωγή ανακριβών, παραμορφωμένων ή αλλοιωμένων αποτελεσμάτων από το μοντέλο, διευκολύνοντας την ανίχνευση ψεύτικων εικόνων ή βίντεο που δημιουργούνται από εγκληματίες.

Ο Πέρι, διδακτορικός φοιτητής, εξηγεί ότι οι χρήστες μπορούν να χρησιμοποιήσουν το Silverer για να επεξεργαστούν εικόνες πριν τις ανεβάσουν στα μέσα κοινωνικής δικτύωσης ή στο διαδίκτυο. Αυτό θα αλλάξει τα pixel για να ξεγελάσει το μοντέλο τεχνητής νοημοσύνης, καθιστώντας την απόδοσή τους παραμορφωμένη, καλυμμένη με «παραμορφώσεις» ή εντελώς αγνώριστη.

Ο Αναπληρωτής Καθηγητής Campbell Wilson - συν-διευθυντής του AiLECS και ειδικός στην ψηφιακή εγκληματολογία - δήλωσε ότι η δημιουργία ψεύτικων και κακόβουλων εικόνων με χρήση τεχνολογίας ανοιχτού κώδικα γίνεται όλο και πιο σοβαρό πρόβλημα λόγω της ευκολίας χρήσης της.

Το AFP έχει καταγράψει αύξηση του υλικού κακοποίησης παιδιών που παράγεται από τεχνητή νοημοσύνη, καθώς οι εγκληματίες εκμεταλλεύονται την τεχνολογία για να παράγουν και να μοιράζονται μεγάλες ποσότητες ψεύτικης πορνογραφίας στο διαδίκτυο.

Το Πανεπιστήμιο Monash δήλωσε ότι ο γενικός στόχος του έργου Silverer είναι η ανάπτυξη εύχρηστης τεχνολογίας για τους Αυστραλούς που θέλουν να προστατεύσουν τα προσωπικά τους δεδομένα στα μέσα κοινωνικής δικτύωσης. Μια πιλοτική έκδοση του εργαλείου εξετάζεται επί του παρόντος για εσωτερική χρήση εντός του AFP./.

(TTXVN/Βιετνάμ+)

Πηγή: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp