Από εικόνες, βίντεο μέχρι τραγούδια τεχνητής νοημοσύνης: Προσοχή στον «ανεμοστρόβιλο» περιεχομένου τεχνητής νοημοσύνης στα κοινωνικά δίκτυα

Η τεχνητή νοημοσύνη (ΤΝ) γίνεται αντικείμενο εκμετάλλευσης σε διαδικτυακές εμπορικές δραστηριότητες, από πωλήσεις έως απάτες σε φιλανθρωπικά ιδρύματα, αναγκάζοντας τις ρυθμιστικές αρχές και τις επιχειρήσεις να βρίσκουν γρήγορα λύσεις για τον εντοπισμό και τον έλεγχο των κινδύνων στην εποχή του τεχνητού περιεχομένου.

Όλο και περισσότερες εικόνες και βίντεο που έχουν υποστεί επεξεργασία και προστεθεί από την Τεχνητή Νοημοσύνη δημοσιεύονται στα κοινωνικά δίκτυα για να προσελκύσουν προβολές - Φωτογραφία: DUC THIEN

Αν στο παρελθόν, για να δημιουργήσουν μια ψεύτικη φωτογραφία, οι απλοί χρήστες έπρεπε να προσλάβουν ειδικούς στο Photoshop, σήμερα με την τεχνητή νοημοσύνη, σε λιγότερο από 5 λεπτά και με κάποιες βασικές δεξιότητες, ένα σύνολο ψεύτικων φωτογραφιών μπορεί να εμφανιστεί παντού.

Όταν η Τεχνητή Νοημοσύνη δημιουργεί εικόνες, βίντεο, τραγούδια... τόσο αληθινά που είναι δύσκολο να τα πιστέψει κανείς

Σερφάροντας τακτικά στο Facebook κάθε μέρα, η κα Hoan My (HCMC) - μέλος του προσωπικού επικοινωνίας - δήλωσε ότι υπάρχει όλο και περισσότερο περιεχόμενο με την παρέμβαση εργαλείων τεχνητής νοημοσύνης που δημοσιεύεται από τους χρήστες.

«Υπάρχουν πολλές φωτογραφίες που έχουν αναρτηθεί από φίλους ή μέλη ομάδας και είναι τόσο αληθινές που δεν θα μπορούσα να καταλάβω αν χρησιμοποιήθηκε Τεχνητή Νοημοσύνη αν δεν το έλεγαν οι ίδιοι. Όλο και περισσότερα βίντεο, από κινούμενα σχέδια, φαντασία μέχρι ταινίες μικρού μήκους ή βίντεο που σχετίζονται με ένα γεγονός που συμβαίνει στην πραγματική ζωή, δημιουργούνται από εργαλεία Τεχνητής Νοημοσύνης, αλλά εγώ δεν θα μπορούσα να το ξέρω», μοιράστηκε η κα. My.

Όχι μόνο εικόνες και βίντεο, ακόμη και στο κοινωνικό δίκτυο YouTube, υπάρχουν πολλά τραγούδια που ερμηνεύονται ή συντίθενται από «τραγουδιστές τεχνητής νοημοσύνης». Πολλοί χρήστες ενθουσιάζονται με τη νέα εμπειρία και ανταγωνίζονται για να την μοιραστούν στα κοινωνικά δίκτυα με τους φίλους τους.

«Δεν μπορώ να καταλάβω αν πρόκειται για τραγουδιστή τεχνητής νοημοσύνης αν δεν ανακοινωθεί. Το περιεχόμενο τεχνητής νοημοσύνης είναι ολοένα και πιο διαδεδομένο στον κυβερνοχώρο του Βιετνάμ. Οι απλοί χρήστες σαν εμένα πιθανότατα σύντομα δεν θα γνωρίζουν πλέον ποιο περιεχόμενο προέρχεται από πραγματικούς ανθρώπους, ποιο περιεχόμενο προέρχεται από τεχνητή νοημοσύνη ή έχει παρέμβαση τεχνητής νοημοσύνης», δήλωσε ο Khanh Ha (HCMC).

Πρόσφατα, πολλές πλατφόρμες κοινωνικής δικτύωσης στο Βιετνάμ έχουν παρουσιάσει βίντεο και ζωντανές μεταδόσεις που πωλούν προϊόντα από άτομα με αναπηρίες, καθιστώντας την διαδικτυακή κοινότητα πιο συμπονετική και πιο κοινά αποδεκτή.

Ωστόσο, πολλές περιπτώσεις χρήσης Τεχνητής Νοημοσύνης για τη μετατροπή φυσιολογικών ανθρώπων σε άτομα με αναπηρία αποκαλύφθηκαν αργότερα από την διαδικτυακή κοινότητα. Σκοπός αυτού του κόλπου είναι να εκμεταλλευτεί τη συμπόνια των θεατών για να πουλήσει αγαθά ή να προβάλει δόλιες πράξεις.

Πολλοί ειδικοί στην τεχνολογία λένε ότι πρόσφατα, στα μέσα κοινωνικής δικτύωσης έχει αυξηθεί ο αριθμός των λογαριασμών που δημοσιεύουν βίντεο πωλήσεων με εικόνες ατόμων με αναπηρία, ασθενών ή μειονεκτούντων ατόμων, ζητώντας συμπαράσταση. Ωστόσο, η πραγματικότητα δείχνει ότι μεγάλο μέρος αυτού του περιεχομένου δημιουργείται ή επεξεργάζεται με εργαλεία τεχνητής νοημοσύνης, μετατρέποντας τους κανονικούς ανθρώπους σε άτομα με αναπηρία για κέρδος ή απάτη.

Μοιραζόμενος πληροφορίες με τον Tuoi Tre, ο κ. Milko Radotic, Αντιπρόεδρος αρμόδιος για την περιοχή Ασίας- Ειρηνικού της iProov - του κορυφαίου παρόχου τεχνολογίας βιομετρικής πιστοποίησης στον κόσμο, προειδοποίησε: «Η έρευνά μας δείχνει ότι το 99,9% των συμμετεχόντων δεν μπορεί να αναγνωρίσει τα deepfakes. Ακόμα και τα σημερινά προηγμένα εργαλεία ανίχνευσης αντιμετωπίζουν πολλές δυσκολίες».

Αύξηση της αντίστασης για τους ψηφιακούς χρήστες

Ο κ. Dang Huu Son - Αναπληρωτής Διευθυντής του Ινστιτούτου Εφαρμοσμένης Έρευνας και Ανάπτυξης Ανθρώπινου Δυναμικού AIOV, Ιδρυτής και Διευθύνων Σύμβουλος της LovinBot AI Company - δήλωσε ότι από τότε που η Google λάνσαρε την τεχνολογία τεχνητής νοημοσύνης Nano Banana, Veo 3, η ByteDance λάνσαρε το Seedream 4 και πριν από αυτό η OpenAI λάνσαρε το GPT Image, η αγορά τεχνητής νοημοσύνης ήταν εξαιρετικά ζωηρή και είχε επίσης πολλές συνέπειες.

«Η τεχνολογία δεν ήταν ποτέ τόσο προσβάσιμη όσο είναι σήμερα. Αυτά είναι όλα εξαιρετικά ισχυρά μοντέλα τεχνητής νοημοσύνης που μπορούν να «αντιγράψουν πρόσωπα» σχεδόν 90%, ακόμη και 99% σε σύγκριση με την αρχική φωτογραφία», σχολίασε ο κ. Σον.

Αν στο παρελθόν, για να δημιουργήσουν μια ψεύτικη φωτογραφία, οι απλοί χρήστες έπρεπε να προσλάβουν ειδικούς στο Photoshop, τότε με την Τεχνητή Νοημοσύνη σήμερα, σε λιγότερο από 5 λεπτά με κάποιες βασικές δεξιότητες, ένα σύνολο ψεύτικων φωτογραφιών, ένα ψεύτικο βίντεο που έχει αποκοπεί και επικολληθεί και έχει προσθέσει εφέ που μοιάζουν με ειδήσεις μπορεί να εξαπλωθεί με ιλιγγιώδη ταχύτητα.

«Οι ψευδείς ειδήσεις επαναλαμβάνονται πολλές φορές, με υψηλή πυκνότητα και εύκολη πρόσβαση, επομένως ένας μεγάλος αριθμός ανθρώπων που έρχονται σε επαφή με αυτές καθημερινά θα πιστέψει ότι είναι αληθινές. Επομένως, απαιτούνται λύσεις για τον περιορισμό των παραπάνω προβλημάτων», σημείωσε ο κ. Σον.

Σύμφωνα με τον κ. Trinh Nguyen Thien Phuoc - Διευθυντή Τεχνολογίας της Gianty Vietnam Company, για να είναι δυνατή η διάκριση του περιεχομένου που δημιουργείται από Τεχνητή Νοημοσύνη, απαιτούνται τρία επίπεδα: (1) δεξιότητες επαλήθευσης χρήστη (μαζί με χρυσούς κανόνες)· (2) τεχνικά εργαλεία όπως τα Διαπιστευτήρια Περιεχομένου (C2PA), τα σήματα αναγνώρισης με υδατογράφημα (SynthID, AudioSeal) και ο ανιχνευτής deepfake· (3) διαδικασία συντονισμού μεταξύ συνδεδεμένων μερών όπως: πλατφόρμες, πάροχοι δικτύων, τράπεζες...

Συγκεκριμένα, ο χρυσός κανόνας πρέπει να εφαρμόζεται πολύ γρήγορα, εντός 30-60 δευτερολέπτων, όπως: μην κάνετε κλικ σε παράξενους συνδέσμους και μεταβείτε στην επίσημη εφαρμογή/ιστότοπο για επαλήθευση· σταματήστε αμέσως όταν συναντήσετε λέξεις-κλειδιά που σας επιβάλλουν δράση (OTP/μεταφορά χρημάτων/επείγον).

Ταυτόχρονα, οι χρήστες θα πρέπει να επαληθεύσουν με δύο ανεξάρτητες πηγές πριν πιστέψουν κάτι· να ελέγξουν την ημερομηνία, την ώρα και το πλαίσιο (παλιά είδηση ​​μεταμφιεσμένη σε νέα)· να καλέσουν πίσω τον επίσημο αριθμό που βρήκατε μόνοι σας, να μην χρησιμοποιήσουν τον αριθμό που έδωσαν άλλοι· με εικόνες και βίντεο, οι χρήστες μπορούν να αναζητήσουν σχετικά αποτελέσματα...

Πολλοί ειδικοί πιστεύουν ότι η πιο θεμελιώδης λύση για την αντιμετώπιση του κύματος ψεύτικου περιεχομένου που δημιουργείται από την Τεχνητή Νοημοσύνη είναι η ευαισθητοποίηση του κοινού. Αντί να εστιάζουμε μόνο σε τεχνικά μέτρα, είναι απαραίτητο να δημιουργήσουμε προγράμματα κατάρτισης, διαγωνισμούς ή να προσομοιώσουμε καταστάσεις της πραγματικής ζωής για να βοηθήσουμε τους ανθρώπους να αλλάξουν τις συνήθειές τους όσον αφορά την πρόσληψη πληροφοριών.

Για τους νέους, ιδίως τους φοιτητές, ο συνδυασμός διαδικτυακών διαγωνισμών, καμπανιών στα μέσα ενημέρωσης με διασημότητες ή άτομα που έχουν κάνει γνωριμίες με το κοινό (KOL) μπορεί να δημιουργήσει φυσική έλξη, βοηθώντας τους να μάθουν και να βιώσουν, ενώ παράλληλα να κατακτήσουν τις δεξιότητες αναγνώρισης ψευδών ειδήσεων και ψεύτικων βίντεο. Εν τω μεταξύ, οι ηλικιωμένοι, ιδίως στις αγροτικές περιοχές, χρειάζονται πιο οικείες και εύχρηστες μορφές, όπως εικονογραφημένα φυλλάδια, εκπαιδευτικά βίντεο ή προβολές σε πολιτιστικά σπίτια και κοινοτικές δραστηριότητες.

«Μια προσέγγιση που είναι κατάλληλη για κάθε ομάδα ανθρώπων θα βοηθήσει στη δημιουργία μιας σταθερής, μακροπρόθεσμης βάσης ευαισθητοποίησης, αντί να περιορίζεται μόνο σε βραχυπρόθεσμες δραστηριότητες. Για παράδειγμα, ορισμένες μονάδες έχουν αναπτύξει επεκτάσεις που μπορούν να εγκατασταθούν στο πρόγραμμα περιήγησης Chrome για να υποστηρίζουν τους χρήστες στην επαλήθευση ειδήσεων κατά την περιήγηση στο διαδίκτυο ή στα κοινωνικά δίκτυα...», μοιράστηκε ο κ. Dang Huu Son.

Χρήση Τεχνητής Νοημοσύνης για την ανίχνευση ψεύτικης Τεχνητής Νοημοσύνης

Πρόσφατα, η εταιρεία τηλεφωνίας Honor ενσωμάτωσε τη λειτουργία ανίχνευσης Deepfake με τεχνητή νοημοσύνη (AI Deepfake Detection) στη νέα τηλεφωνική της γραμμή. Αυτή η λειτουργία μπορεί να αναλύσει εικόνες και φωνές σε 3 δευτερόλεπτα για να προειδοποιήσει για ψεύτικες πληροφορίες απευθείας σε εφαρμογές όπως το Messenger, το Zalo, το Viber ή το Google Meet, αποτελώντας μια «ψηφιακή ασπίδα» για την προστασία των χρηστών από απάτες υψηλής τεχνολογίας.

Προηγουμένως, τον Σεπτέμβριο του 2025, η MoMo ανακοίνωσε τη συνεργασία της με την iProov για την ανάπτυξη της τεχνολογίας Dynamic Liveness, η οποία θα βοηθήσει στην επαλήθευση ότι οι χρήστες είναι πραγματικοί, έχουν τη σωστή ταυτότητα και είναι παρόντες κατά τη στιγμή της συναλλαγής, αποτρέποντας την απάτη χρησιμοποιώντας deepfake, ψεύτικα βίντεο ή εικόνες.

Σε τομείς υψηλού κινδύνου όπως τα χρηματοοικονομικά, αυτό το επίπεδο ασφάλειας είναι ζωτικής σημασίας για την πρόληψη της απάτης, την αποτροπή μη εξουσιοδοτημένης πρόσβασης και τη διατήρηση της εμπιστοσύνης των χρηστών στην πλατφόρμα.

Επιστροφή στο θέμα

ΑΡΕΤΗ

Πηγή: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm