Deepfake πορνό, ένα πρόβλημα στον αγώνα της Τεχνητής Νοημοσύνης

Τα deepfakes είναι βίντεο και εικόνες που δημιουργούνται ή τροποποιούνται ψηφιακά χρησιμοποιώντας τεχνητή νοημοσύνη (AI) ή μηχανική μάθηση (ML). Η πορνογραφία που δημιουργήθηκε με την τεχνολογία άρχισε να κυκλοφορεί στο διαδίκτυο πριν από λίγα χρόνια, όταν ένας χρήστης του Reddit μοιράστηκε ψεύτικα πορνογραφικά κλιπ με τα πρόσωπα διασημοτήτων.

Φωτογραφία: Γ.Ι.

Οποιοσδήποτε μπορεί να είναι θύμα.

Έκτοτε, οι δημιουργοί deepfake συνεχίζουν να δημοσιεύουν παρόμοια βίντεο και εικόνες που στοχεύουν σε διαδικτυακούς influencers, δημοσιογράφους και άλλους με δημόσια προφίλ. Χιλιάδες τέτοια βίντεο υπάρχουν σε πολυάριθμους ιστότοπους.

Καθώς οι τεχνολογίες τεχνητής νοημοσύνης γίνονται ολοένα και πιο προσβάσιμες, αυτό επιτρέπει στους χρήστες να μετατρέπουν όποιον θέλουν σε «πορνοστάρ» χωρίς τη συγκατάθεσή τους ή, πιο επικίνδυνα, να χρησιμοποιούν την τεχνολογία για να δυσφημούν ή να εκβιάζουν άλλους.

Οι ειδικοί λένε ότι το πρόβλημα θα μπορούσε να επιδεινωθεί με την ανάπτυξη εργαλείων γενετικής τεχνητής νοημοσύνης (Generative AI) που εκπαιδεύονται σε δισεκατομμύρια εικόνες από το διαδίκτυο και δημιουργούν νέο περιεχόμενο χρησιμοποιώντας υπάρχοντα δεδομένα.

«Η πραγματικότητα είναι ότι η τεχνολογία θα συνεχίσει να πολλαπλασιάζεται, θα συνεχίσει να εξελίσσεται και θα συνεχίσει να γίνεται πιο εύκολα διαθέσιμη και προσβάσιμη», δήλωσε ο Άνταμ Ντοτζ, ιδρυτής της EndTAB, μιας ομάδας που παρέχει εκπαίδευση σχετικά με την κατάχρηση τεχνολογίας. «Και όσο αυτό συνεχίζεται, οι άνθρωποι αναμφίβολα... θα συνεχίσουν να κάνουν κατάχρηση αυτής της τεχνολογίας για να βλάψουν άλλους, κυρίως μέσω διαδικτυακής σεξουαλικής βίας, deepfake πορνογραφίας και ψεύτικων γυμνών φωτογραφιών».

Η Noelle Martin από το Περθ της Αυστραλίας έχει βιώσει αυτή την πραγματικότητα. Η 28χρονη ανακάλυψε deepfake πορνό του εαυτού της πριν από 10 χρόνια, όταν, από περιέργεια, έψαξε στο Google μια μέρα για τη δική της εικόνα. Μέχρι σήμερα, η Martin λέει ότι δεν έχει ιδέα ποιος δημιούργησε τις ψεύτικες εικόνες ή βίντεο πορνό. Υποψιάζεται ότι κάποιος χρησιμοποίησε τις εικόνες της στα μέσα κοινωνικής δικτύωσης για να δημιουργήσει βίντεο πορνό.

Η Μάρτιν προσπάθησε να επικοινωνήσει με τους ιστότοπους για να αφαιρέσει τα βίντεο, αλλά οι προσπάθειές της ήταν μάταιες. Κάποιοι δεν απάντησαν. Άλλοι τα κατέβασαν, αλλά γρήγορα τα αναδημοσίευσαν. «Δεν μπορείς να κερδίσεις», είπε η κα. Μάρτιν. «Θα είναι στο διαδίκτυο για πάντα και μπορεί να σου καταστρέψει τη ζωή».

Οι προσπάθειες των τεχνολογικών εταιρειών να διορθώσουν το πρόβλημα

Ορισμένα μοντέλα τεχνητής νοημοσύνης λένε ότι έχουν περιορισμένη πρόσβαση σε πορνογραφικές εικόνες.

Η OpenAI δήλωσε ότι αφαίρεσε πορνογραφικό περιεχόμενο από τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση της γεννήτριας εικόνων DALL-E, κάτι που θα πρέπει να περιορίσει την πιθανότητα κακής χρήσης της. Η εταιρεία φιλτράρει επίσης τα αιτήματα και λέει ότι εμποδίζει τους χρήστες να δημιουργούν εικόνες τεχνητής νοημοσύνης διασημοτήτων και εξέχοντων πολιτικών . Ένα άλλο μοντέλο, το Midjourney, εμποδίζει επίσης τη χρήση ορισμένων λέξεων-κλειδιών και ενθαρρύνει τους χρήστες να επισημαίνουν προβληματικές εικόνες στους συντονιστές.

Εν τω μεταξύ, το Stability AI κυκλοφόρησε επίσης μια ενημέρωση που εμποδίζει τους χρήστες να δημιουργούν άσεμνες εικόνες. Αυτές οι αλλαγές έρχονται μετά από αναφορές ότι ορισμένοι χρήστες χρησιμοποιούσαν την τεχνολογία για να δημιουργήσουν γυμνά εμπνευσμένα από διασημότητες.

Ο εκπρόσωπος της Stability AI, Motez Bishara, δήλωσε ότι το φίλτρο χρησιμοποιεί έναν συνδυασμό λέξεων-κλειδιών και άλλων τεχνικών, όπως η αναγνώριση εικόνων, για την ανίχνευση γυμνού. Ωστόσο, οι χρήστες μπορούν να τροποποιήσουν το λογισμικό και να δημιουργήσουν ό,τι θέλουν, καθώς η εταιρεία έχει κυκλοφορήσει τον ανοιχτού κώδικα της εφαρμογής.

Ορισμένες εταιρείες μέσων κοινωνικής δικτύωσης έχουν επίσης αυστηροποιήσει τους κανόνες για να προστατεύσουν καλύτερα τις πλατφόρμες τους από επιβλαβές περιεχόμενο.

Τον περασμένο μήνα, το TikTok δήλωσε ότι όλο το deepfake ή χειραγωγημένο περιεχόμενο πρέπει να επισημαίνεται ότι είναι ψεύτικο ή τροποποιημένο με κάποιο τρόπο.

Η πλατφόρμα παιχνιδιών Twitch ενημέρωσε επίσης πρόσφατα τις πολιτικές της σχετικά με τις deepfake εικόνες, αφότου ένας δημοφιλής streamer ονόματι Atrioc πιάστηκε να ανοίγει μια deepfake πορνογραφική ιστοσελίδα στο πρόγραμμα περιήγησής του κατά τη διάρκεια μιας ζωντανής μετάδοσης στα τέλη Ιανουαρίου.

Η Apple και η Google δήλωσαν ότι πρόσφατα αφαίρεσαν μια εφαρμογή από τα καταστήματα εφαρμογών τους επειδή προέβαλε βίντεο deepfake με σεξουαλικά προκλητικά στοιχεία για την προώθηση των προϊόντων τους.

Από τραγουδιστής της Δυτικής Αμερικής σε είδωλο της K-pop.

Η έρευνα για το deepfake πορνό είναι σπάνια, αλλά μια έκθεση του 2019 από την εταιρεία τεχνητής νοημοσύνης DeepTrace Labs διαπίστωσε ότι σχεδόν εξ ολοκλήρου χρησιμοποιήθηκε ως όπλο εναντίον των γυναικών, με τις δυτικές ηθοποιούς να αποτελούν το πιο στοχευμένο θέμα, ακολουθούμενες από τις τραγουδίστριες της K-pop.

Ο εκπρόσωπος της Meta, Dani Lever, δήλωσε σε ανακοίνωσή του ότι οι πολιτικές της εταιρείας περιορίζουν τόσο το περιεχόμενο για ενηλίκους που δημιουργείται από τεχνητή νοημοσύνη όσο και αυτό που δεν δημιουργείται από αυτήν και ότι περιορίζει τη διαφήμιση της σελίδας της εφαρμογής που δημιουργεί deepfake στην πλατφόρμα της.

Τον Φεβρουάριο, το Meta, καθώς και ιστότοποι ενηλίκων όπως το Only**** και το Porn***, άρχισαν να συμμετέχουν σε ένα διαδικτυακό εργαλείο που ονομάζεται Take It Down, το οποίο επιτρέπει στους εφήβους να αναφέρουν εικόνες και βίντεο με σεξουαλικό περιεχόμενο από το διαδίκτυο. Ο ιστότοπος υποστηρίζει τόσο βίντεο που έχουν γυριστεί κρυφά όσο και βίντεο που δημιουργούνται από τεχνητή νοημοσύνη.

Χοάνγκ Τον (σύμφωνα με το AP)

Πηγή: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html