Η τεχνολογική βιομηχανία επιδιώκει να εντοπίσει εικόνες που δημιουργούνται από την Τεχνητή Νοημοσύνη

[διαφήμιση_1]

Ο Διευθύνων Σύμβουλος της Truepic, Τζέφρι ΜακΓκρέγκορ, δήλωσε ότι το περιστατικό ήταν μόνο η κορυφή του παγόβουνου. Θα υπάρξει περισσότερο περιεχόμενο που δημιουργείται από την Τεχνητή Νοημοσύνη στα μέσα κοινωνικής δικτύωσης και δεν είμαστε έτοιμοι γι' αυτό, δήλωσε ο ΜακΓκρέγκορ.

Σύμφωνα με το CNN, η Truepic θέλει να λύσει αυτό το πρόβλημα παρέχοντας τεχνολογία που ισχυρίζεται ότι ελέγχει την αυθεντικότητα των πολυμέσων κατά τη στιγμή της δημιουργίας τους μέσω του Truepic Lens. Η εφαρμογή συλλογής δεδομένων θα ενημερώνει τους χρήστες για την ημερομηνία, την ώρα, την τοποθεσία και τη συσκευή που χρησιμοποιήθηκε για τη δημιουργία της εικόνας και θα εφαρμόζει μια ψηφιακή υπογραφή για να επαληθεύει εάν η εικόνα είναι φυσική ή δημιουργήθηκε από τεχνητή νοημοσύνη.

Ψεύτικη φωτογραφία από την έκρηξη στο Πεντάγωνο γίνεται viral στο Twitter

Η Truepic, μια εταιρεία που υποστηρίζεται από τη Microsoft και ιδρύθηκε το 2015, δήλωσε ότι η εταιρεία βλέπει ενδιαφέρον από ΜΚΟ προς εταιρείες μέσων ενημέρωσης, ακόμη και ασφαλιστικές εταιρείες που θέλουν να επιβεβαιώσουν ότι οι ισχυρισμοί είναι βάσιμοι.

Ο ΜακΓκρέγκορ λέει ότι όταν όλα μπορούν να παραποιηθούν, όταν η τεχνητή νοημοσύνη έχει φτάσει στο αποκορύφωμά της σε ποιότητα και προσβασιμότητα, δεν γνωρίζουμε πλέον ποια είναι η πραγματικότητα στο διαδίκτυο.

Τεχνολογικές εταιρείες όπως η Truepic εργάζονται εδώ και χρόνια για την καταπολέμηση της παραπληροφόρησης στο διαδίκτυο. Ωστόσο, η άνοδος μιας νέας γενιάς εργαλείων τεχνητής νοημοσύνης που μπορούν να δημιουργούν εικόνες και κείμενο κατ' εντολή του χρήστη έχει προσθέσει επείγουσα ανάγκη. Νωρίτερα φέτος, ψεύτικες εικόνες του Πάπα Φραγκίσκου με ένα πουπουλένιο μπουφάν Balenciaga και του πρώην προέδρου των ΗΠΑ Ντόναλντ Τραμπ κατά τη σύλληψη κοινοποιήθηκαν ευρέως. Και τα δύο περιστατικά έχουν αφήσει εκατομμύρια ανθρώπους σε σύγχυση σχετικά με τους πιθανούς κινδύνους της τεχνητής νοημοσύνης.

Ορισμένοι νομοθέτες καλούν τώρα τις εταιρείες τεχνολογίας να αντιμετωπίσουν το ζήτημα επισημαίνοντας το περιεχόμενο που παράγεται από την τεχνητή νοημοσύνη. Η Αντιπρόεδρος της Ευρωπαϊκής Επιτροπής (ΕΚ), Βέρα Γιούροβα, δήλωσε ότι εταιρείες όπως οι Google, Meta, Microsoft και TikTok έχουν ενταχθεί στον εθελοντικό κώδικα δεοντολογίας της Ευρωπαϊκής Ένωσης (ΕΕ) για την καταπολέμηση της παραπληροφόρησης.

Ένας αυξανόμενος αριθμός νεοσύστατων επιχειρήσεων και τεχνολογικών γιγάντων, συμπεριλαμβανομένων ορισμένων που εφαρμόζουν παραγωγική τεχνητή νοημοσύνη στα προϊόντα τους, προσπαθούν να εφαρμόσουν πρότυπα και λύσεις για να βοηθήσουν τους ανθρώπους να προσδιορίσουν εάν μια εικόνα ή ένα βίντεο δημιουργήθηκε με τεχνητή νοημοσύνη.

Καθώς όμως η τεχνολογία τεχνητής νοημοσύνης εξελίσσεται ταχύτερα από ό,τι μπορούν να παρακολουθήσουν οι άνθρωποι, δεν είναι σαφές εάν αυτές οι λύσεις μπορούν να λύσουν πλήρως το πρόβλημα. Ακόμη και η OpenAI, η εταιρεία πίσω από τα Dall-E και ChatGPT, έχει παραδεχτεί ότι οι δικές της προσπάθειες να βοηθήσει στην ανίχνευση γραφής που δημιουργείται από την τεχνητή νοημοσύνη είναι ατελείς.

Οι εταιρείες που αναπτύσσουν λύσεις ακολουθούν δύο προσεγγίσεις στο πρόβλημα. Η πρώτη βασίζεται στην ανάπτυξη προγραμμάτων για την αναγνώριση εικόνων που δημιουργούνται από τεχνητή νοημοσύνη, αφού αυτές έχουν παραχθεί και κοινοποιηθεί στο διαδίκτυο. Η άλλη επικεντρώνεται στην επισήμανση μιας εικόνας ως πραγματικής ή ως δημιουργημένης από τεχνητή νοημοσύνη με ένα είδος ψηφιακής υπογραφής.

Το Reality Defender και το Hive Moderation εργάζονται πάνω στο πρώτο. Με την πλατφόρμα τους, οι χρήστες μπορούν να ανεβάσουν εικόνες για σάρωση και στη συνέχεια να λάβουν μια ανάλυση που δείχνει ένα ποσοστό του αν η φωτογραφία είναι πραγματική ή δημιουργείται από τεχνητή νοημοσύνη.

Το Reality Defender δήλωσε ότι χρησιμοποιεί ιδιόκτητη τεχνολογία deepfake και generative content fingerprinting για την ανίχνευση βίντεο, ήχου και εικόνων που δημιουργούνται από τεχνητή νοημοσύνη. Σε ένα παράδειγμα που παρείχε η εταιρεία, το Reality Defender έδειξε μια deepfake εικόνα του Tom Cruise που ήταν 53% «ύποπτη» επειδή το άτομο στην εικόνα είχε ένα παραμορφωμένο πρόσωπο που συχνά εμφανίζεται σε επεξεργασμένες φωτογραφίες.

Εικόνες με ετικέτα που δημιουργούνται από τεχνητή νοημοσύνη

Αυτές οι υπηρεσίες προσφέρουν δωρεάν και επί πληρωμή εκδόσεις. Η Hive Moderation αναφέρει ότι χρεώνει 1,50 δολάρια ανά 1.000 εικόνες. Η Realty Defender αναφέρει ότι η τιμολόγησή της μπορεί να διαφέρει ανάλογα με διάφορους παράγοντες, σε περιπτώσεις όπου οι πελάτες χρειάζονται την εμπειρία και την υποστήριξη της εταιρείας. Ο Διευθύνων Σύμβουλος της Reality Defender, Ben Colman, λέει ότι ο κίνδυνος διπλασιάζεται κάθε μήνα, επειδή ο καθένας μπορεί να δημιουργήσει ψεύτικες φωτογραφίες χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης.

Αρκετές άλλες εταιρείες εργάζονται για την προσθήκη ενός είδους ετικέτας στις εικόνες για να πιστοποιούν εάν είναι πραγματικές ή δημιουργούνται από τεχνητή νοημοσύνη. Μέχρι στιγμής, η προσπάθεια έχει καθοδηγηθεί σε μεγάλο βαθμό από τη Συμμαχία Αυθεντικότητας και Προέλευσης Περιεχομένου (C2PA).

Η C2PA ιδρύθηκε το 2021 για να δημιουργήσει ένα τεχνικό πρότυπο για την πιστοποίηση της προέλευσης και της ιστορίας των ψηφιακών μέσων, συνδυάζοντας την Πρωτοβουλία Ελέγχου Πιστοποίησης Περιεχομένου (CAI) της Adobe και το Project Origin, με επικεφαλής τη Microsoft και το BBC, με επίκεντρο την καταπολέμηση της παραπληροφόρησης στις ψηφιακές ειδήσεις. Άλλες εταιρείες που συμμετέχουν στην C2PA περιλαμβάνουν τις Truepic, Intel και Sony.

Με βάση τις αρχές του C2PA, το CAI θα κυκλοφορήσει εργαλεία ανοιχτού κώδικα για τις εταιρείες, ώστε να δημιουργούν διαπιστευτήρια περιεχομένου ή μεταδεδομένα, που περιέχουν πληροφορίες σχετικά με εικόνες. Σύμφωνα με τον ιστότοπο του CAI, αυτό επιτρέπει στους δημιουργούς να μοιράζονται με διαφάνεια λεπτομέρειες σχετικά με τον τρόπο με τον οποίο δημιούργησαν μια εικόνα. Με αυτόν τον τρόπο, οι τελικοί χρήστες μπορούν να έχουν πρόσβαση στο πλαίσιο σχετικά με το ποιος, τι και πώς τροποποιήθηκε μια εικόνα — και στη συνέχεια να κρίνουν οι ίδιοι πόσο αυθεντική είναι η εικόνα.

Πολλές εταιρείες έχουν ήδη ενσωματώσει το πρότυπο C2PA και τα εργαλεία CAI στις εφαρμογές τους. Το Firefly της Adobe, ένα νέο εργαλείο απεικόνισης με τεχνητή νοημοσύνη που προστέθηκε στο Photoshop, συμμορφώνεται με το πρότυπο C2PA μέσω της λειτουργίας Content Credentials. Η Microsoft ανακοίνωσε επίσης ότι οι εικόνες και τα βίντεο που δημιουργούνται με το Bing Image Creator και το Microsoft Designer θα φέρουν κρυπτογραφικές υπογραφές τους επόμενους μήνες.

Τον Μάιο, η Google ανακοίνωσε τη λειτουργία «Σχετικά με αυτήν την εικόνα», η οποία επιτρέπει στους χρήστες να βλέπουν πότε εμφανίστηκε για πρώτη φορά μια εικόνα στην Google και πού μπορούν να τη δουν. Ο γίγαντας της αναζήτησης ανακοίνωσε επίσης ότι κάθε εικόνα που δημιουργείται από την τεχνητή νοημοσύνη της Google θα φέρει μια σήμανση στο αρχικό αρχείο για να «προσθέσει περιεχόμενο» εάν η εικόνα βρεθεί σε άλλον ιστότοπο ή πλατφόρμα.

Ενώ οι εταιρείες τεχνολογίας προσπαθούν να αντιμετωπίσουν τις ανησυχίες σχετικά με τις εικόνες που παράγονται από την τεχνητή νοημοσύνη και την ακεραιότητα των ψηφιακών μέσων, οι ειδικοί στον τομέα τονίζουν ότι οι επιχειρήσεις θα πρέπει να συνεργαστούν μεταξύ τους και με τις κυβερνήσεις για να αντιμετωπίσουν το ζήτημα. Ωστόσο, οι εταιρείες τεχνολογίας αγωνίζονται να αναπτύξουν την τεχνητή νοημοσύνη παρά τους κινδύνους.

[διαφήμιση_2]
Σύνδεσμος πηγής