Τα ChatGPT και DeepSeek διαστρεβλώνουν τα επιστημονικά δεδομένα.

Έχει διαπιστωθεί ότι μοντέλα τεχνητής νοημοσύνης όπως το ChatGPT και το DeepSeek είναι σε θέση να παραμορφώνουν το επιστημονικό περιεχόμενο κατά τη σύνοψή του, ειδικά στον ιατρικό τομέα.

Báo Khoa học và Đời sống•08/07/2025

Μια ομάδα ερευνητών στη Γερμανία εξέδωσε πρόσφατα μια προειδοποίηση σχετικά με την πιθανότητα μεροληψίας στη χρήση chatbots τεχνητής νοημοσύνης για τη συντόμευση του ερευνητικού περιεχομένου. Αφού ανέλυσε 4.900 επιστημονικές περιλήψεις που γράφτηκαν από ανθρώπους, η ομάδα χρησιμοποίησε διάφορα μοντέλα τεχνητής νοημοσύνης για να συγκρίνει τον τρόπο με τον οποίο αυτά τα συστήματα επεξεργάζονταν τις πληροφορίες. Τα αποτελέσματα έδειξαν ότι τα περισσότερα chatbot έκαναν το λάθος της υπερβολικής γενίκευσης, ακόμη και όταν τους ζητήθηκε να συνοψίσουν με ακρίβεια.

τι-είναι-το-ai-chatbot.jpg

Η Τεχνητή Νοημοσύνη μπορεί εύκολα να παραμορφώσει το περιεχόμενο κατά τη σύνοψη επιστημονικής έρευνας.

Στα πειράματα, τα μοντέλα τεχνητής νοημοσύνης έκαναν πέντε φορές περισσότερα λάθη από τους ανθρώπινους ερευνητές όταν δεν καθοδηγούνταν. Ακόμα και με σαφείς απαιτήσεις ακρίβειας, το ποσοστό σφάλματος ήταν ακόμα διπλάσιο από ό,τι με μια τυπική περίληψη. Ένα μέλος της ερευνητικής ομάδας σχολίασε: «Η γενίκευση μπορεί να φαίνεται ακίνδυνη κατά καιρούς, αλλά στην πραγματικότητα αλλάζει τη φύση της αρχικής έρευνας. Είναι μια συστημική προκατάληψη».

Αξίζει να σημειωθεί ότι οι νεότερες εκδόσεις των chatbot όχι μόνο δεν αντιμετωπίζουν το πρόβλημα, αλλά στην πραγματικότητα το επιδεινώνουν. Με την ομαλή και ελκυστική τους παρουσίαση, οι περιλήψεις που δημιουργούνται από την τεχνητή νοημοσύνη δίνουν εύκολα την εντύπωση αξιοπιστίας, ενώ το πραγματικό περιεχόμενο παραμορφώνεται. Σε μια περίπτωση, το DeepSeek άλλαξε τη φράση «ασφαλές και εφαρμόσιμο με επιτυχία» σε «ασφαλής και αποτελεσματική θεραπεία» - μια ερμηνεία που παρέκκλινε από τα αρχικά συμπεράσματα της μελέτης.

Μπορεί επίσης να σας αρέσει

Η Νότια Κορέα ποντάρει στη θέση της ως υπερδύναμη ημιαγωγών στους εφήβους της.Η Νότια Κορέα έχει υιοθετήσει μια τολμηρή στρατηγική για να διατηρήσει τη θέση της ως υπερδύναμη ημιαγωγών, ξεκινώντας μια πολιτική εκπαίδευσης άκρως εξειδικευμένου τεχνικού προσωπικού από νεαρή ηλικία.

Ο «αθάνατος» οργανισμός Deinococcus radiodurans αναγκάζει τους επιστήμονες να ξαναγράψουν τα όρια της ζωής.Υπάρχει ένας οργανισμός που επιβιώνει από ακτινοβολία αρκετά ισχυρή ώστε να καταστρέψει τους ανθρώπους σε μια στιγμή - και αυτός είναι ένα μικροσκοπικό βακτήριο που ονομάζεται Deinococcus radiodurans.

Η VinFast προσφέρει εκπτώσεις έως και 13% στο τρίο των ηλεκτρικών μοτοσικλετών κάμπριο.Εκπτώσεις έως και 13%, μαζί με πολιτικές υποστήριξης για αντικατάσταση και φόρτιση μπαταριών, βοήθησαν την τριάδα των ηλεκτρικών μοτοσικλετών VinFast να συνεχίσουν να προσελκύουν καταναλωτές τον Ιούλιο.

Σε ένα άλλο παράδειγμα, το μοντέλο Llama εφάρμοσε συστάσεις για φαρμακευτική αγωγή για τον διαβήτη σε νεαρά άτομα χωρίς να προσδιορίζει τη δοσολογία, τη συχνότητα ή τις παρενέργειες. Εάν ο αναγνώστης, γιατρός ή επαγγελματίας υγείας , δεν επαληθεύσει την αρχική μελέτη, αυτοί οι τύποι περιλήψεων θα μπορούσαν να αποτελέσουν άμεσο κίνδυνο για τους ασθενείς.

Οι ειδικοί πιστεύουν ότι αυτό το φαινόμενο πηγάζει από τον τρόπο με τον οποίο εκπαιδεύονται τα μοντέλα Τεχνητής Νοημοσύνης. Πολλά τρέχοντα chatbots εκπαιδεύονται χρησιμοποιώντας δευτερογενή δεδομένα - όπως μαζικά παραγόμενα επιστημονικά νέα - τα οποία έχουν ήδη απλοποιηθεί. Καθώς η Τεχνητή Νοημοσύνη συνεχίζει να συνοψίζει αυτό το απλοποιημένο περιεχόμενο, ο κίνδυνος παραμόρφωσης αυξάνεται.

Οι ειδικοί στην Τεχνητή Νοημοσύνη στον τομέα της ψυχικής υγείας υποστηρίζουν ότι πρέπει σύντομα να καθοριστούν τεχνικά εμπόδια στην ανάπτυξη και χρήση της Τεχνητής Νοημοσύνης.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Οι χρήστες θα πρέπει να είναι προσεκτικοί, καθώς τα chatbots μπορούν εύκολα να παραμορφώσουν το περιεχόμενο.

Καθώς οι χρήστες βασίζονται ολοένα και περισσότερο σε chatbots τεχνητής νοημοσύνης για να μαθαίνουν επιστημονικές πληροφορίες, μικρές ανακρίβειες στην ερμηνεία μπορούν να συσσωρευτούν και να εξαπλωθούν γρήγορα, οδηγώντας σε εκτεταμένες παρανοήσεις. Σε μια εποχή που η εμπιστοσύνη στην επιστήμη μειώνεται, αυτός ο κίνδυνος είναι ιδιαίτερα ανησυχητικός και απαιτεί τη δέουσα προσοχή.

Ηνωμένες Πολιτείες - Βιετνάμ: Μην το χάσετε

Το Υπουργείο Εξωτερικών έλαβε αντίγραφο της Επιστολής Διαπιστευτηρίων του Πρέσβη των ΗΠΑ στο Βιετνάμ.Το απόγευμα της 2ας Ιουλίου, στην έδρα του Υπουργείου Εξωτερικών, ο κ. Le Cong Dung, Διευθυντής του Τμήματος Κρατικού Πρωτοκόλλου και Διερμηνείας Ξένων Φόρων, παρέλαβε αντίγραφο της Επιστολής Διαπιστευτηρίων από την κα Jennifer Wicks, Πρέσβειρα των Ηνωμένων Πολιτειών Αμερικής στο Βιετνάμ.

Ο Πρέσβης Νγκουγιέν Κουόκ Ντουνγκ επισκέπτεται και εργάζεται στη Μινεσότα των ΗΠΑ.Από τις 28 έως τις 30 Ιουνίου, ο Πρέσβης του Βιετνάμ στις Ηνωμένες Πολιτείες, Nguyen Quoc Dung, πραγματοποίησε επίσκεψη και εργάστηκε στη Μινεσότα.

Το Βιετνάμ ενθαρρύνει τις αμερικανικές επιχειρήσεις να επεκτείνουν τις επενδύσεις τους στην υψηλή τεχνολογία.Το πρωί της 26ης Ιουνίου, στην έδρα της κυβέρνησης, ο Αντιπρόεδρος της κυβέρνησης Ho Quoc Dung δέχθηκε τον κ. Jeff Place, Διευθυντή Εφοδιαστικής Αλυσίδας της Coherent Group (ΗΠΑ). Κατά τη διάρκεια της συνάντησης, ο Αντιπρόεδρος της κυβέρνησης επιβεβαίωσε ότι το Βιετνάμ ενθαρρύνει τις αμερικανικές επιχειρήσεις να επεκτείνουν τις επενδύσεις τους, ιδίως στις βιομηχανίες υψηλής τεχνολογίας, καινοτομίας και ημιαγωγών.

Η ενσωμάτωση της Τεχνητής Νοημοσύνης στην έρευνα και τη διάδοση της γνώσης αποτελεί μια μη αναστρέψιμη τάση. Ωστόσο, οι ειδικοί υποστηρίζουν ότι η τεχνολογία δεν μπορεί να αντικαταστήσει τον ρόλο των ανθρώπων στην κατανόηση και την επαλήθευση επιστημονικού περιεχομένου. Κατά τη χρήση chatbot σε τομείς υψηλού κινδύνου, όπως η υγειονομική περίθαλψη, πρέπει να δίνεται προτεραιότητα στην ακρίβεια, αντί να επικεντρώνεται αποκλειστικά στην ομαλή γλωσσική εμπειρία ή την ταχύτητα απόκρισης.

Πηγή: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html