Η Αυστραλία αναπτύσσει εργαλείο για την αποκάλυψη ψεύτικων deepfake φωνών

Η τεχνολογία RAIS βοηθά στην ανίχνευση ψεύτικου ήχου με υψηλή ακρίβεια, ακόμη και καθώς οι μορφές deepfake επιθέσεων συνεχίζουν να εξελίσσονται.

Η Αυστραλία αναπτύσσει τεχνολογία τεχνητής νοημοσύνης για την ανίχνευση deepfake ήχου με σχεδόν απόλυτη ακρίβεια - Φωτογραφία εικονογράφησης: REUTERS

Επιστήμονες του Οργανισμού Επιστημονικής και Βιομηχανικής Έρευνας της Κοινοπολιτείας (CSIRO), του Πανεπιστημίου Federation Australia και του Πανεπιστημίου RMIT ανέπτυξαν με επιτυχία μια μέθοδο για την ανίχνευση ηχητικών deepfakes με εξαιρετική ακρίβεια και προσαρμοστικότητα.

Η νέα τεχνική, που ονομάζεται Rehearsal with Auxiliary-Informed Sampling (RAIS), έχει σχεδιαστεί ειδικά για την ανίχνευση deepfake ήχου, μιας αυξανόμενης απειλής στο κυβερνοέγκλημα, με κινδύνους όπως η παράκαμψη συστημάτων βιομετρικής επαλήθευσης φωνής, η πλαστοπροσωπία και η διάδοση παραπληροφόρησης, δήλωσε το CSIRO.

Οι τεχνικές RAIS όχι μόνο καθορίζουν την αυθεντικότητα ενός ηχητικού κομματιού, αλλά διασφαλίζουν και τη διατήρηση της υψηλής απόδοσης, ακόμη και όταν οι επιθέσεις πλαστογράφησης συνεχίζουν να εξελίσσονται και να αλλάζουν.

Η Δρ. Kristen Moore, συν-συγγραφέας της μελέτης στο Data61 - μονάδα δεδομένων και ψηφιακού περιεχομένου του CSIRO, μοιράστηκε ότι ο στόχος της ομάδας είναι να αναπτύξει ένα σύστημα ανίχνευσης που μπορεί να ενημερώνει νέα deepfake δείγματα χωρίς να χρειάζεται να επανεκπαιδεύσει το μοντέλο από την αρχή, αποφεύγοντας το φαινόμενο το μοντέλο να ξεχνά τα παλιά δεδομένα κατά τη βελτιστοποίηση.

Το RAIS λύνει αυτό το πρόβλημα επιλέγοντας και αποθηκεύοντας αυτόματα ένα μικρό, ποικίλο σύνολο προηγούμενων deepfakes, συμπεριλαμβανομένων κρυφών ηχητικών χαρακτηριστικών, για να βοηθήσει την τεχνητή νοημοσύνη να μάθει νέους τύπους deepfake διατηρώντας παράλληλα τη γνώση των παλιών, εξήγησε ο Moore.

Συγκεκριμένα, το RAIS λειτουργεί με βάση μια έξυπνη διαδικασία επιλογής που δημιουργεί «βοηθητικές ετικέτες» για κάθε δείγμα ήχου. Ο συνδυασμός αυτών των βοηθητικών ετικετών, αντί να τις επισημαίνει απλώς ως «πραγματικές» ή «ψεύτικες», εξασφαλίζει ένα πλούσιο και ποικίλο σύνολο δεδομένων εκπαίδευσης. Αυτός ο μηχανισμός βελτιώνει σημαντικά την ικανότητα του συστήματος να θυμάται και να προσαρμόζεται με την πάροδο του χρόνου.

Σύμφωνα με το CSIRO, κατά τη διάρκεια των δοκιμών, το RAIS ξεπέρασε άλλες μεθόδους με μέσο ποσοστό σφάλματος 1,95% σε πέντε διαδοχικές δοκιμές. Ο πηγαίος κώδικας για αυτήν την τεχνική έχει διατεθεί στο GitHub - έναν ιστότοπο που ειδικεύεται στην αποθήκευση πηγαίου κώδικα στο διαδίκτυο με βάση την πλατφόρμα Git.

Επιστροφή στο θέμα

ΒΝΑ

Πηγή: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm