Οι γιατροί μπορούν να ξεγελαστούν από την Τεχνητή Νοημοσύνη.

Νέα έρευνα δείχνει ότι οι εικόνες ακτίνων Χ που παράγονται από τεχνητή νοημοσύνη γίνονται ολοένα και πιο ρεαλιστικές, καθιστώντας δύσκολη τη διάκρισή τους από τις πραγματικές εικόνες και θέτοντας σε σημαντικό κίνδυνο την ψηφιακή υγειονομική περίθαλψη.

Οι συνδυασμένες εικόνες ακτίνων Χ, που αποτελούνται από πραγματικές εικόνες και εικόνες που παράγονται από το GPT-4o σε διαφορετικά σημεία του σώματος, καταδεικνύουν ότι η Τεχνητή Νοημοσύνη μπορεί να παράγει εξαιρετικά ρεαλιστικές ιατρικές εικόνες. (Πηγή: RSNA)

Στις 24 Μαρτίου, δημοσιεύθηκε στο περιοδικό Radiology της Ακτινολογικής Εταιρείας της Βόρειας Αμερικής (RSNA) μια μελέτη από μια ομάδα 18 ακτινολόγων από 12 ιατρικά ιδρύματα σε 6 χώρες (συμπεριλαμβανομένων των ΗΠΑ, της Γαλλίας, της Γερμανίας, της Τουρκίας, του Ηνωμένου Βασιλείου και των ΗΑΕ), με επικεφαλής τον Δρ. Mickael Tordjman, μεταδιδακτορικό ερευνητή στην Ιατρική Σχολή Icahn, στο Mount Sinai (Νέα Υόρκη, ΗΠΑ).

Έρευνες δείχνουν ότι οι εικόνες ακτίνων Χ που παράγονται από την τεχνητή νοημοσύνη (ΤΝ) είναι πλέον τόσο ρεαλιστικές που όχι μόνο οι άνθρωποι αλλά ακόμη και τα προηγμένα συστήματα ΤΝ δυσκολεύονται να τις αναγνωρίσουν.

Από τις 264 εικόνες ακτίνων Χ που χρησιμοποιήθηκαν στη μελέτη, οι μισές ήταν πραγματικές και οι μισές δημιουργήθηκαν από τεχνητή νοημοσύνη. Οι συμμετέχοντες γιατροί αξιολόγησαν δύο ξεχωριστά σύνολα δεδομένων, συμπεριλαμβανομένων πολλαπλών περιοχών του σώματος και ενός εξειδικευμένου συνόλου δεδομένων ακτινογραφίας θώρακος, που δημιουργήθηκαν χρησιμοποιώντας μοντέλα τεχνητής νοημοσύνης όπως το ChatGPT και το RoentGen.

Τα αποτελέσματα έδειξαν ότι, χωρίς προηγούμενη ειδοποίηση για την ύπαρξη πλαστών εικόνων, οι γιατροί αναγνώρισαν σωστά μόνο το 41% ​​των εικόνων που δημιουργήθηκαν από τεχνητή νοημοσύνη. Όταν ειδοποιήθηκαν, το ποσοστό αυτό αυξήθηκε στο 75%. Ωστόσο, η ακρίβεια διέφερε σημαντικά μεταξύ των ατόμων, κυμαινόμενη από 58% έως 92%.

Όχι μόνο οι άνθρωποι, αλλά και τα πολυτροπικά συστήματα τεχνητής νοημοσύνης αντιμετωπίζουν παρόμοιες δυσκολίες. Τα τέσσερα μοντέλα που δοκιμάστηκαν πέτυχαν ποσοστά ακρίβειας που κυμαίνονταν από 57% έως 85%. Αξίζει να σημειωθεί ότι ακόμη και το σύστημα που συμμετείχε στη δημιουργία των ψεύτικων εικόνων δεν μπορούσε να αναγνωρίσει πλήρως τις δικές του δημιουργίες.

Ένα άλλο αξιοσημείωτο εύρημα είναι ότι τα χρόνια εμπειρίας δεν βελτίωσαν την ικανότητα ανίχνευσης εικόνων που μοιάζουν με τεχνουργήματα. Ωστόσο, οι ορθοπεδικοί ειδικοί είχαν καλύτερες επιδόσεις από εκείνους άλλων ειδικοτήτων.

Σύμφωνα με την ερευνητική ομάδα, οι ψευδείς εικόνες ακτίνων Χ συχνά παρουσιάζουν ανεπαίσθητα οπτικά χαρακτηριστικά όπως υπερβολικά ομαλή οστική δομή, ασυνήθιστα ευθεία σπονδυλική στήλη, τέλεια συμμετρικούς πνεύμονες, ομοιόμορφα κατανεμημένα αιμοφόρα αγγεία και κατάγματα που φαίνονται «πολύ όμορφα», συχνά εμφανίζονται μόνο στη μία πλευρά του οστού.

Η ανακάλυψη εγείρει ανησυχίες ότι πλαστές εικόνες θα μπορούσαν να χρησιμοποιηθούν σε αγωγές ή να εισαχθούν σε νοσοκομειακά συστήματα για την παραποίηση διαγνώσεων, τη διατάραξη της κλινικής πρακτικής και την υπονόμευση της εμπιστοσύνης στα ψηφιακά ιατρικά αρχεία.

Για τον μετριασμό των κινδύνων, οι ερευνητές προτείνουν την εφαρμογή μέτρων ασφαλείας, όπως η ενσωμάτωση αόρατων υδατογραφημάτων σε εικόνες και η χρήση κρυπτογραφικών υπογραφών που συνδέονται με τον φωτογράφο για την επαλήθευση της προέλευσης των δεδομένων.

Σύμφωνα με τον Δρ. Τόρτζμαν, όσα έχουν παρατηρηθεί μέχρι στιγμής μπορεί να είναι μόνο η κορυφή του παγόβουνου. Το επόμενο βήμα σε αυτήν την τεχνολογία θα μπορούσε να είναι η δημιουργία τρισδιάστατων ιατρικών εικόνων όπως αξονική τομογραφία ή μαγνητική τομογραφία χρησιμοποιώντας τεχνητή νοημοσύνη. Σε αυτό το πλαίσιο, η δημιουργία συνόλων δεδομένων εκπαίδευσης και εργαλείων ανίχνευσης θεωρείται πλέον κρίσιμη απαίτηση για την προστασία της ακρίβειας των ιατρικών διαγνώσεων.

Πηγή: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html