Τα deepfakes είναι ανεξέλεγκτα - Κανείς δεν είναι ασφαλής από κόλπα πλαστοπροσωπίας με τεχνητή νοημοσύνη

Μίμηση φωνής, μίμηση προσώπου, συγχρονισμός χειλιών... Η Τεχνητή Νοημοσύνη δεν χρησιμοποιείται πλέον μόνο για εργασία και ψυχαγωγία, αλλά γίνεται και ένα επικίνδυνο εργαλείο εμπορικής απάτης. Εικόνες διασημοτήτων, γιατρών, ακόμη και μοναχών πλαστογραφούνται από την Τεχνητή Νοημοσύνη για την πώληση προϊόντων σε όλα τα κοινωνικά δίκτυα. Οι πραγματικοί άνθρωποι δεν γνωρίζουν και οι αγοραστές χάνουν την εμπιστοσύνη τους.

Όντας «δανεικός» για να πουλήσεις αγαθά

«Ανεξάρτητα από την αρχική πάθηση του γόνατος, απλώς εφαρμόστε τη μέθοδό μας, εγγυόμαστε ότι εντός 7 ημερών θα βελτιωθεί σημαντικά. Εάν είναι εντελώς αναποτελεσματική, είμαι πρόθυμος να σας αποζημιώσω με 1 δισεκατομμύριο VND ως ειλικρινή συγγνώμη. Εάν πραγματικά δεν δείτε κανένα αποτέλεσμα, δεσμευόμαστε για 100% επιστροφή χρημάτων και εγώ η ίδια είμαι πρόθυμος να σας αποζημιώσω με 1 δισεκατομμύριο VND. Δεν τολμούν όλοι να δεσμευτούν έτσι», αυτή είναι η ανάρτηση μιας διάσημης τραγουδίστριας που διαφημίζει ένα προϊόν κρέμας μασάζ για την ανακούφιση από τον πόνο στις αρθρώσεις, αλλά αξίζει να σημειωθεί ότι αυτή η διαφήμιση δημιουργήθηκε εξ ολοκλήρου από την Τεχνητή Νοημοσύνη.

Το παραπάνω διαφημιστικό κλιπ χρησιμοποιήθηκε από έναν λογαριασμό TikTok με το όνομα LShop, χρησιμοποιώντας την εικόνα, τη φωνή και τη γλώσσα του σώματος του τραγουδιστή με ρεαλιστικό τρόπο που δεν μπορεί να ανιχνευθεί χωρίς προσεκτική παρατήρηση. Αυτός ο λογαριασμός έχει σχεδόν 9.000 ακόλουθους, 67.000 likes και κάθε κλιπ έχει χιλιάδες προβολές. Μόνο το «διαφημιστικό» βίντεο που χρησιμοποιεί την εικόνα του τραγουδιστή έχει προσελκύσει περισσότερα από 1.000 likes και σχεδόν 100 σχόλια για αγορά.

Με το ίδιο προϊόν κρέμας μασάζ, τα κανάλια πωλήσεων «παρήγαγαν» επίσης μια άλλη deepfake εκδοχή, αυτή τη φορά έναν γιατρό. Στο κλιπ, ο χαρακτήρας υποσχέθηκε σταθερά: «Είμαι ο πιο διάσημος ορθοπεδικός γιατρός στο Ανόι και εγγυώμαι ότι ακόμη και η πιο σοβαρή ρήξη μηνίσκου μπορεί να θεραπευτεί πλήρως σε μόλις 3 ημέρες. Αυτό το τζελ έχει πιστοποιηθεί από τον πιο διάσημο ορθοπεδικό σύλλογο στο Βιετνάμ». Αυτή η σειρά αναδημιουργήθηκε από την Τεχνητή Νοημοσύνη για μια σειρά από άλλους «γιατρούς», διευκολύνοντας τους θεατές να το μπερδέψουν με την πραγματική.

Το κλιπ προσέλκυσε σχεδόν 4.000 likes και περισσότερα από 120 σχόλια, αλλά όταν στείλαμε μήνυμα για να προσπαθήσουμε να αγοράσουμε, ο λογαριασμός δεν απάντησε ούτε αλληλεπίδρασε με τους θεατές στην ενότητα σχολίων, αφήνοντας απλώς το προϊόν στο καλάθι για άμεση αγορά. Αξίζει να σημειωθεί ότι το προϊόν προς πώληση προέρχεται από την Κίνα και οι πληροφορίες του προϊόντος είναι πολύ ασαφείς.

Από τραγουδιστές, διασημότητες μέχρι γιατρούς, όλοι έχουν πλαστογραφηθεί από κανάλια πωλήσεων που δημιουργούν κλιπ τεχνητής νοημοσύνης για την πώληση προϊόντων που σχετίζονται με την υγεία.

Χωρίς να σταματάει εκεί, το κόλπο του deepfake έχει εξαπλωθεί και σε πνευματικά θέματα. Ένας λογαριασμός στο TikTok με το όνομα Phat Phap NM όχι μόνο αναδημοσιεύει τις διαλέξεις του Δασκάλου TPH, αλλά χρησιμοποιεί επίσης τεχνολογία τεχνητής νοημοσύνης για να δημιουργήσει εικόνες του «δασκάλου» να πουλάει προϊόντα όπως φύλλα Bodhi και βραχιόλια από ξύλο αγάρ.

Όταν οι θεατές άφησαν σχόλια ζητώντας να αγοράσουν, το κανάλι απάντησε: «Αν τα πράγματα δεν πάνε όπως τα έχουμε σχεδιάσει, πηγαίνετε στην ενότητα προβολής στον λογαριασμό μου και επιλέξτε αυτό που χρειάζεστε, μην είστε τσιγκούνηδες με τα ψιλά και αγνοήστε τα μεγαλύτερα». Αμέσως μετά, ο ίδιος ο μοναχός αναγκάστηκε να μιλήσει για να διευκρινίσει ότι ποτέ δεν είχε διαφημίσει ή ασχοληθεί με τέτοια προϊόντα.

Η γραμμή μεταξύ δημιουργικότητας και παραβίασης

Ο ειδικός σε θέματα κυβερνοασφάλειας, Νγκο Μιν Χιέου (Hieu PC), του Εθνικού Κέντρου Παρακολούθησης Κυβερνοασφάλειας (NCSC), δήλωσε ότι τα ψεύτικα διαφημιστικά κλιπ που διαδίδονται στα μέσα κοινωνικής δικτύωσης δημιουργούνται κυρίως με λογισμικό Deepfake. Αυτό το λογισμικό δεν είναι σπάνιο και πολλές υπηρεσίες παρέχουν ακόμη και πακέτα με χαμηλό κόστος και πολύ απλές λειτουργίες. Αν και υπάρχουν θετικές εφαρμογές στον τομέα της δημιουργίας ψηφιακού περιεχομένου και της παραγωγής μέσων ενημέρωσης, σύμφωνα με τον κ. Χιέου, το πρόβλημα έγκειται στο γεγονός ότι ορισμένα υποκείμενα έχουν εκμεταλλευτεί αυτήν την τεχνολογία για αρνητικούς σκοπούς, όπως απάτη, πλαστογράφηση ταυτότητας, διάδοση ψεύτικων ειδήσεων ή δυσφήμιση άλλων μέσω βίντεο που φαίνονται πραγματικά.

Ο κ. Hieu έδωσε επίσης ορισμένα σημάδια που βοηθούν στην αναγνώριση των deepfake κλιπ, όπως οι εκφράσεις του προσώπου στο βίντεο που είναι κάπως δύσκαμπτες, τα σχήματα και οι κινήσεις του στόματος που δεν ταιριάζουν με τον διάλογο... Ο κ. Hieu προειδοποίησε ότι έχουν υπάρξει πιο σοβαρές περιπτώσεις όπου η Τεχνητή Νοημοσύνη χρησιμοποιήθηκε για την εισαγωγή προσώπων θυμάτων σε ευαίσθητα βίντεο με σκοπό τον εκφοβισμό, τον εξαναγκασμό και την κερδοσκοπία.

Σύμφωνα με τον δικηγόρο Tran Duc Phuong, του Δικηγορικού Συλλόγου της πόλης Χο Τσι Μινχ, η χρήση Τεχνητής Νοημοσύνης για τη δημιουργία εικόνων διασημοτήτων (ή συγκεκριμένων ατόμων) χωρίς τη συγκατάθεσή τους αποτελεί πράξη παραβίασης των προσωπικών δικαιωμάτων, και συγκεκριμένα του δικαιώματος στην εικόνα, όπως ορίζεται στο Άρθρο 32 του Αστικού Κώδικα του 2015. Ο νόμος ορίζει: «Τα άτομα έχουν δικαίωμα στην εικόνα τους. Η χρήση της εικόνας ενός ατόμου πρέπει να έχει τη συγκατάθεση του εν λόγω προσώπου. Η χρήση μιας εικόνας για εμπορικούς σκοπούς πρέπει να καταβάλλει αμοιβή στο πρόσωπο του οποίου η εικόνα χρησιμοποιείται, εκτός εάν τα μέρη έχουν άλλη συμφωνία».

Έτσι, εάν ένας κάτοχος λογαριασμού κοινωνικής δικτύωσης χρησιμοποιεί εικόνες αναπαραγόμενες με τεχνητή νοημοσύνη από πραγματικές φωτογραφίες, παλιά βίντεο κ.λπ. για διαφημιστικούς ή εμπορικούς σκοπούς χωρίς άδεια, έχει παραβιάσει τον νόμο. Εάν η χρήση μιας εικόνας παραβιάζει τις διατάξεις αυτού του άρθρου, το άτομο που κατέχει την εικόνα έχει το δικαίωμα να ζητήσει από το δικαστήριο να εκδώσει απόφαση που να υποχρεώνει τον παραβάτη, τις αρμόδιες υπηρεσίες, τους οργανισμούς και τα άτομα να αποσύρουν, να καταστρέψουν και να τερματίσουν τη χρήση της εικόνας, να αποζημιώσουν για ζημίες και να εφαρμόσουν άλλα μέτρα σύμφωνα με τις διατάξεις του νόμου.

ΚΑΜ ΝΟΥΟΝΓΚ

Πηγή: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html