Ανησυχίες σχετικά με απάτες που προκύπτουν από την ικανότητα του ChatGPT να δημιουργεί ρεαλιστικές εικόνες.

Το ChatGPT "σχεδιάζει σαν φωτογραφία"

Στις 26 Μαρτίου, οι παγκόσμιες και βιετναμέζικες κοινότητες χρηστών τεχνητής νοημοσύνης ήταν ενθουσιασμένες όταν η OpenAI κυκλοφόρησε επίσημα το Images in ChatGPT, ένα εργαλείο που επικεντρώνεται στη δημιουργία εικόνων, για τους χρήστες του έξυπνου μοντέλου της. Προηγουμένως, το ChatGPT είχε επίσης δυνατότητες δημιουργίας εικόνων, αλλά αυτές ήταν περιορισμένες και βασίζονταν σε ένα άλλο γνωστό μοντέλο μετατροπής κειμένου σε εικόνα που ονομάζεται DALL-E.

Η ικανότητα του εργαλείου να μετατρέπει κείμενο σε σχέδια και να εκτελεί «συγχώνευση εικόνων ποιότητας Photoshop» τράβηξε γρήγορα την προσοχή. Πολλοί χρήστες ανέφεραν την ποιότητα της εικόνας εξόδου ως «εκπληκτική», με τους περισσότερους να την αξιολογούν ως «ανώτερη» από άλλα δημοφιλή μοντέλα τεχνητής νοημοσύνης στην αγορά.

Το ChatGPT δημιουργεί ρεαλιστικές εικόνες φλιτζανιών καφέ με μια απλή εντολή.

Σύμφωνα με τον Gabriel Goh, επικεφαλής έρευνας στην OpenAI, η σημαντική βελτίωση στις δυνατότητες δημιουργίας εικόνων του ChatGPT χρησιμοποιώντας το μοντέλο GPT-4o είναι η «Δέσμευση»—ένας όρος που αναφέρεται στον βαθμό στον οποίο η γεννήτρια εικόνων AI διατηρεί συνδέσμους μεταξύ χαρακτηριστικών και αντικειμένων. Ο Goh ισχυρίζεται ότι το GPT-4o μπορεί να συνδέσει με ακρίβεια χαρακτηριστικά για 15-20 διαφορετικά αντικείμενα χωρίς σφάλματα, βελτιώνοντας σημαντικά την ακρίβεια και την αξιοπιστία του παραγόμενου περιεχομένου.

Το Images in ChatGPT όχι μόνο διαπρέπει στη δημιουργία εικόνων, αλλά αντιμετωπίζει επίσης μια κρίσιμη αδυναμία σε άλλα εργαλεία δημιουργίας εικόνων με τεχνητή νοημοσύνη: την απόδοση κειμένου μέσα σε εικόνες. Στην πραγματικότητα, πολλές εικόνες που περιέχουν κείμενο αποδίδονται με ακρίβεια, γεγονός που καθιστά ολοένα και πιο δύσκολη τη διάκριση μεταξύ πραγματικών και ψεύτικων εικόνων.

Το μειονέκτημα του εργαλείου είναι ο σχετικά μεγάλος χρόνος δημιουργίας εικόνων, αλλά αυτός θεωρείται λογικός επειδή η καθυστέρηση οφείλεται στο γεγονός ότι οι εικόνες υψηλής ποιότητας με ακριβείς λεπτομέρειες που ταιριάζουν με την περιγραφή του χρήστη απαιτούν πάντα υπομονή. Η ερευνητική ομάδα δήλωσε ότι το πρόβλημα της καθυστέρησης θα βελτιωθεί στο μέλλον.

Πολλές ανησυχίες έχουν εκφραστεί σχετικά με την πιθανότητα χειραγώγησης εικόνας.

Πέρα από την αρχική απόλαυση που προσφέρουν στους χρήστες το ChatGPT και το OpenAI, οι ανησυχίες σχετικά με την ασφάλεια των πληροφοριών, το απόρρητο και τον κίνδυνο εκμετάλλευσης έχουν έρθει για άλλη μια φορά στο προσκήνιο. «Σύντομα, οι εικόνες που βλέπετε στο διαδίκτυο μπορεί να μην είναι απαραίτητα αληθινές», εξέφρασε την ανησυχία του ένας χρήστης του Facebook στο Βιετνάμ, καθώς θα μπορούσε να ζητήσει από το ChatGPT να δημιουργήσει εντελώς κατασκευασμένες εικόνες που να φαίνονται τόσο ρεαλιστικές όσο οι φωτογραφίες, για παράδειγμα, μια φωτογραφία του ηθοποιού και πρώην παλαιστή Dwayne Johnson (The Rock) να διαφημίζει μια μάρκα τσίχλας ή μια γάτα από τσίτι που κάθεται σε μια σόμπα και μοιάζει ακριβώς με φωτογραφία.

Με λεπτομερείς εντολές που παρέχονται, οι χρήστες μπορούν να δημιουργήσουν εκπληκτικά αποτελέσματα χωρίς να χρειάζονται εις βάθος γνώση των παραδοσιακών εργαλείων επεξεργασίας φωτογραφιών.

Στην πραγματικότητα, πολλοί άνθρωποι έχουν δοκιμάσει ακόμη και τη λειτουργία «γδύσιμο» του νέου εργαλείου. Η TN ( Ανόι ) είπε ότι χρησιμοποίησε φωτογραφία ενός μοντέλου από το διαδίκτυο για να ζητήσει από το ChatGPT να αλλάξει ρούχα όπως της ζητήθηκε και σχεδόν όλα τα αιτήματα ικανοποιήθηκαν με μεγάλη ακρίβεια. «Ωστόσο, υπήρξαν μερικές φορές που τα αιτήματα απορρίφθηκαν, κυρίως λόγω παραβιάσεων της πολιτικής του συστήματος σχετικά με τη δημιουργία εικόνων που προστατεύονται από πνευματικά δικαιώματα ή υπερβολικά προκλητικού περιεχομένου», μοιράστηκε η TN.

Σε δοκιμές που διεξήγαγε η εφημερίδα Thanh Nien , το ChatGPT αρνήθηκε να δημιουργήσει εικόνες που σχετίζονται με διάσημους ή χαρακτήρες που προστατεύονται από πνευματικά δικαιώματα στον πραγματικό κόσμο ή σε ταινίες και κόμικς. «Δεν μπορώ να δημιουργήσω την εικόνα όπως ζητήθηκε επειδή η εικόνα αναφοράς που στείλατε δείχνει καθαρά τον Doctor Strange - έναν χαρακτήρα της Marvel που προστατεύεται από πνευματικά δικαιώματα - και αυτό παραβιάζει την τρέχουσα πολιτική περιεχομένου μας», απάντησε το σύστημα όταν του ζητήθηκε να δημιουργήσει μια εικόνα του Doctor Strange να κάθεται... πίνει παγωμένο τσάι στο Βιετνάμ.

Η Jackie Shannon, επικεφαλής πολυτροπικών προϊόντων στο ChatGPT, επιβεβαιώνει ότι οι εικόνες στο ChatGPT προσφέρουν ισχυρή προστασία από deepfake, πορνογραφικό ή δόλιο περιεχόμενο. Αξίζει να σημειωθεί ότι οι εικόνες που δημιουργούνται ενσωματώνουν τυπικά μεταδεδομένα C2PA για την αναγνώρισή τους ως προϊόντα τεχνητής νοημοσύνης, αλλά απαιτούν ξεχωριστό εργαλείο για επαλήθευση.

Ωστόσο, πολλοί άνθρωποι εξακολουθούν να «παρακάμπτουν τους κανόνες» με επιτυχία και να χρησιμοποιούν εικόνες διασημοτήτων για ψυχαγωγικούς σκοπούς. Για παράδειγμα, μια φωτογραφία του Διευθύνοντος Συμβούλου Τιμ Κουκ να κρατάει ένα τηλέφωνο Samsung αντί για iPhone, ή μια εικόνα του ηθοποιού Ρόμπερτ Ντάουνι Τζούνιορ να μασούν μια λαχανόκουστη καραμέλα, ή μια σειρά από πίνακες του Κριστιάνο Ρονάλντο και του Λιονέλ Μέσι να ανταγωνίζονται για μια μπάλα σε ένα μικρό σοκάκι στο Βιετνάμ μπροστά σε πολλούς θεατές...

Πηγή: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm