Οι κίνδυνοι της νέας τεχνολογίας δημιουργίας εικόνων του ChatGPT στην πλαστογράφηση αποδείξεων.

(CLO) Το ChatGPT κυκλοφόρησε πρόσφατα ένα νέο εργαλείο δημιουργίας εικόνων ενσωματωμένο στο μοντέλο GPT-4o, με ανώτερες δυνατότητες δημιουργίας κειμένου σε εικόνα.

Ωστόσο, οι χρήστες ανακάλυψαν γρήγορα ότι αυτή η λειτουργία θα μπορούσε να χρησιμοποιηθεί καταχρηστικά για την παραποίηση των λογαριασμών των εστιατορίων.

Ο επενδυτής Deedy Das δημοσίευσε μια εικόνα μιας πλαστής απόδειξης από ένα steakhouse στο Σαν Φρανσίσκο στο X, ισχυριζόμενος ότι η φωτογραφία δημιουργήθηκε χρησιμοποιώντας το GPT-4o.

Ο επενδυτής Deedy κοινοποίησε την εικόνα στην πλατφόρμα κοινωνικής δικτύωσης X.

Πολλοί άλλοι χρήστες έχουν επίσης αναδημιουργήσει με επιτυχία το εφέ, προσθέτοντας ακόμη και λεκέδες από φαγητό και ποτό για να ενισχύσουν τον ρεαλισμό.

Ένας άλλος χρήστης μοιράστηκε μια εικόνα μιας απόδειξης με λεκέδες από φαγητό που φαινόταν πολύ ρεαλιστική, αλλά είχε επίσης δημιουργηθεί από το ChatGPT.

Ή, για παράδειγμα, ένας χρήστης στη Γαλλία δημοσίευσε μια πλαστή, τσαλακωμένη απόδειξη από μια τοπική αλυσίδα εστιατορίων.

Η φωτογραφία κοινοποιήθηκε από έναν χρήστη στη Γαλλία.

Πολλοί άλλοι έχουν δοκιμάσει τη νέα λειτουργία και έχουν επίσης δημιουργήσει πλαστές αποδείξεις για καταστήματα, αλλά οι εικόνες εξακολουθούν να έχουν ασυνέπειες, όπως: Κόμματα αντί για τελείες στο συνολικό ποσό· λανθασμένοι υπολογισμοί (αδυναμία της Τεχνητής Νοημοσύνης στους βασικούς υπολογισμούς).

Ωστόσο, κακόβουλοι παράγοντες μπορούν εύκολα να το διορθώσουν αυτό κάνοντας απλές επεξεργασίες χρησιμοποιώντας λογισμικό ή τροποποιώντας εντολές (προτροπές).

Η ευκολία με την οποία μπορούν να δημιουργηθούν πλαστά τιμολόγια εγκυμονεί σημαντικούς κινδύνους, όπως δόλιες επιστροφές χρημάτων για ανύπαρκτα έξοδα.

Σε απάντηση σε αυτό το ζήτημα, η OpenAI δήλωσε ότι όλες οι εικόνες που δημιουργούνται από την Τεχνητή Νοημοσύνη περιέχουν μεταδεδομένα που επιβεβαιώνουν την προέλευσή τους από το ChatGPT. Η εταιρεία «λαμβάνει επίσης μέτρα» όταν οι χρήστες παραβιάζουν τις πολιτικές της και «μαθαίνει συνεχώς» από τα σχόλια του πραγματικού κόσμου.

Όταν ρωτήθηκε σχετικά με την άδεια δημιουργίας πλαστών τιμολογίων, η εκπρόσωπος της OpenAI, Taya Christianson, εξήγησε ότι ο στόχος είναι «η μεγιστοποίηση της δημιουργικής ελευθερίας» και υπαινίχθηκε ότι τα πλαστά τιμολόγια θα μπορούσαν να χρησιμοποιηθούν για οικονομική εκπαίδευση , τέχνη ή διαφημιστικούς σκοπούς.

Δεν είναι η πρώτη φορά που η Τεχνητή Νοημοσύνη έχει γίνει αντικείμενο εκμετάλλευσης. Προηγουμένως, τα MidJourney και DALL-E είχαν χρησιμοποιηθεί για τη δημιουργία πλαστών εικόνων εγγράφων, ταυτοτήτων, ακόμη και νομισμάτων.

Κάο Φονγκ (σύμφωνα με την TC, MSB)

Πηγή: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html