Το κοινωνικό δίκτυο X αναγκάστηκε να μπλοκάρει τις αναζητήσεις για την Taylor Swift, αφότου οι deepfake πορνογραφικές εικόνες της τραγουδίστριας έγιναν viral. Κατά την αναζήτηση της Taylor Swift στην πλατφόρμα X, οι χρήστες θα δουν ένα μήνυμα σφάλματος και θα τους ζητηθεί να επαναφορτώσουν τη σελίδα. Ο Joe Benarroch - Διευθυντής Επιχειρηματικών Λειτουργιών της X - δήλωσε ότι πρόκειται για μια προκαταρκτική ενέργεια και γίνεται με προσοχή.

ofdhxx6v.png
Γυμνές φωτογραφίες της Taylor Swift που δημιουργήθηκαν από τεχνητή νοημοσύνη κατέκλυσαν το X και το Facebook πριν αφαιρεθούν. (Φωτογραφία: Reuters)

Πορνογραφικές εικόνες της Taylor Swift, δημιουργημένες από τεχνητή νοημοσύνη, άρχισαν να κυκλοφορούν στο X στις 24 Ιανουαρίου, ωθώντας τους θαυμαστές της τραγουδίστριας να δημοσιεύσουν μια σειρά από πραγματικές φωτογραφίες της σταρ για να «πνίξουν» το deepfake. Ζήτησαν επίσης από το X να λάβει αυστηρότερα μέτρα για να διαγράψει αυτές τις φωτογραφίες και να αναφέρει λογαριασμούς που μοιράζονται ψεύτικες φωτογραφίες. Το σύνθημα «protect Taylor Swift» έγινε επίσης κορυφαία τάση στην πλατφόρμα.

Μια μέρα αργότερα, οι αναφερόμενοι λογαριασμοί αναστέλλονταν ή περιορίζονταν, αλλά ήταν ακόμα εύκολο να βρει κανείς πορνογραφικό υλικό με τεχνητή νοημοσύνη στο X.

Σε δήλωσή του το Σαββατοκύριακο, το X δήλωσε ότι απαγορεύει την κοινοποίηση γραφικών εικόνων χωρίς την άδεια του υποκειμένου και έχει πολιτική μηδενικής ανοχής για τέτοιο περιεχόμενο. Η δήλωση δεν ανέφερε ονομαστικά τη Swift.

«Η ομάδα μας αφαιρεί ενεργά όλες τις εικόνες που έχουν εντοπιστεί και λαμβάνει τα κατάλληλα μέτρα κατά των λογαριασμών που τις δημοσίευσαν. Θα παρακολουθούμε στενά την κατάσταση για να διασφαλίσουμε ότι τυχόν περαιτέρω παραβιάσεις θα αντιμετωπιστούν άμεσα και το περιεχόμενο θα αφαιρεθεί», δήλωσε ο X.

Οι πρόοδοι στην παραγωγική τεχνητή νοημοσύνη έχουν διευκολύνει την πλαστογράφηση πορνογραφικών εικόνων άλλων ανθρώπων. Με το X, αφού περιέλθει στον έλεγχο του Elon Musk το 2022, πολλοί κανονισμοί λογοκρισίας έχουν χαλαρώσει, ενώ έχει απολύσει χιλιάδες υπαλλήλους για να σταθεροποιήσει τα οικονομικά του.

Σύμφωνα με το NBC News, δεν είναι σαφές από πού προήλθαν οι deepfake εικόνες της Taylor Swift, αλλά είχαν υδατογράφημα για να υποδεικνύουν ότι προέρχονταν από έναν ιστότοπο γνωστό για τη διανομή ψεύτικων πορνογραφικών εικόνων διασημοτήτων. Ο ιστότοπος διαθέτει επίσης μια ενότητα αφιερωμένη στα deepfakes μέσω τεχνητής νοημοσύνης. Οι ψεύτικες φωτογραφίες της Swift προβλήθηκαν περισσότερες από 27 εκατομμύρια φορές και έλαβαν περισσότερα από 260.000 likes μετά από 19 ώρες από την ανάρτησή τους.

Μετά το περιστατικό, ο Διευθύνων Σύμβουλος της Microsoft, Σάτια Ναντέλα, ζήτησε να τεθούν σε εφαρμογή περισσότερα προστατευτικά κιγκλιδώματα για τη ρύθμιση της Τεχνητής Νοημοσύνης. Σε συνέντευξή του στο NBC News, υποστήριξε ότι έχουμε την ευθύνη να παρακολουθούμε αυτήν την αναδυόμενη τεχνολογία, ώστε να μπορεί να παραχθεί περισσότερο ασφαλές περιεχόμενο.

Απαντώντας σε ερώτηση σχετικά με το deepfake της Swift, ο επικεφαλής της Microsoft δήλωσε: «Ναι, πρέπει να δράσουμε. Νομίζω ότι όλοι ωφελούμαστε από έναν ασφαλή διαδικτυακό κόσμο . Δεν νομίζω ότι κανείς θέλει έναν διαδικτυακό κόσμο που είναι εντελώς μη ασφαλής τόσο για τους δημιουργούς περιεχομένου όσο και για τους καταναλωτές περιεχομένου. Πιστεύω λοιπόν ότι πρέπει να δράσουμε γρήγορα σε αυτό το ζήτημα».

Σύμφωνα με το 404 Media, μια ομάδα συνομιλίας στο Telegram ανέφερε ότι χρησιμοποίησε το εργαλείο Designer της Microsoft που δημιουργήθηκε από τεχνητή νοημοσύνη για να πλαστογραφήσει τη φωτογραφία του Taylor. Ο κ. Nadella δεν σχολίασε άμεσα τις πληροφορίες του 404 Media, αλλά σε μια δήλωση που στάλθηκε στον ιστότοπο ειδήσεων, η Microsoft ανέφερε ότι διερευνά την αναφορά και θα λάβει τα κατάλληλα μέτρα.

Η κυβέρνηση του προέδρου των ΗΠΑ Τζο Μπάιντεν χαρακτήρισε «ανησυχητική» τη διάδοση του πορνογραφικού deepfake της Τέιλορ Σουίφτ και κάλεσε τις εταιρείες κοινωνικής δικτύωσης να εξετάσουν τον «ζωτικό τους ρόλο» στην επιβολή κανονισμών για την αποτροπή της διάδοσης ψευδών πληροφοριών και ευαίσθητων εικόνων χωρίς συγκατάθεση.

Τον Οκτώβριο του 2023, ο Πρόεδρος Μπάιντεν υπέγραψε εκτελεστικό διάταγμα για την Τεχνητή Νοημοσύνη με επίκεντρο τη ρύθμιση της αναδυόμενης τεχνολογίας και των κινδύνων της.

(Σύμφωνα με το The Hill, WSJ)