Πολλές Τεχνητές Νοημοσύνης είναι υπερβολικά κολακευτικές για τους χρήστες.

Νέα έρευνα δείχνει ότι αυτή η συμπεριφορά μπορεί να επηρεάσει αρνητικά τις κοινωνικές σχέσεις των χρηστών, την ψυχική υγεία, ακόμη και τη λήψη επιχειρηματικών αποφάσεων.

Στον τομέα της Τεχνητής Νοημοσύνης, η «συκοφαντία» αναφέρεται στην τάση των chatbot να συμφωνούν υπερβολικά με τους χρήστες ή να επαινούν τους ίδιους - Φωτογραφία: REUTERS

Σύμφωνα με την SCMP, κορυφαία μοντέλα τεχνητής νοημοσύνης (AI) από την Κίνα και τις ΗΠΑ, όπως η DeepSeek, η Alibaba και πολλά άλλα μεγάλα ονόματα, γίνονται υπερβολικά «εμμονικά» — μια συμπεριφορά που μπορεί να επηρεάσει αρνητικά τις κοινωνικές σχέσεις και την ψυχική υγεία των χρηστών.

Συγκεκριμένα, μια νέα μελέτη επιστημόνων από το Πανεπιστήμιο Στάνφορντ και το Πανεπιστήμιο Κάρνεγκι Μέλον (ΗΠΑ), που δημοσιεύθηκε στις αρχές Οκτωβρίου, αξιολόγησε 11 μεγάλα γλωσσικά μοντέλα (LLM) σχετικά με τον τρόπο αντίδρασης όταν οι χρήστες ζητούν συμβουλές σε προσωπικές καταστάσεις, ειδικά σε εκείνες που αφορούν εξαπάτηση ή χειραγώγηση.

Για να παρέχει ένα ανθρώπινο σημείο αναφοράς για σύγκριση, η ερευνητική ομάδα χρησιμοποίησε αναρτήσεις από την κοινότητα "Am I The Ahole" στο Reddit, όπου οι χρήστες μοιράζονται προσωπικές καταστάσεις σύγκρουσης και ζητούν από την κοινότητα να αξιολογήσει ποιος έκανε λάθος.

Τα μοντέλα τεχνητής νοημοσύνης δοκιμάστηκαν με αυτά τα σενάρια για να διαπιστωθεί εάν συμφωνούν με την αξιολόγηση της κοινότητας.

Μπορεί επίσης να σας αρέσει

Ερασιτέχνες χάκερ χρησιμοποίησαν chatbots τεχνητής νοημοσύνης για να επιτεθούν σε 14 εταιρείες.Σοκαριστικό κόλπο χειραγώγησης εγκεφάλου με τεχνητή νοημοσύνη: Ερασιτέχνες χάκερ κατάφεραν να χακάρουν 14 επιχειρήσεις.

Το ChatGPT φτάνει το 1 δισεκατομμύριο μηνιαίους χρήστες παρά τις ανησυχίες σχετικά με την Τεχνητή Νοημοσύνη.Σύμφωνα με τις τελευταίες εκτιμήσεις της εταιρείας έρευνας αγοράς Sensor Tower, η εφαρμογή ChatGPT της OpenAI θα φτάσει το 1 δισεκατομμύριο μηνιαίους ενεργούς χρήστες έως τον Μάιο του 2026.

Οι εξαιρετικές εμφανίσεις δύο 40χρονων βετεράνων στο Παγκόσμιο Κύπελλο.Ο δραματικός νοκ άουτ αγώνας μεταξύ Πορτογαλίας και Κροατίας όχι μόνο σημείωσε νέο ρεκόρ στο Παγκόσμιο Κύπελλο του 2026, αλλά παρείχε και μια άνευ προηγουμένου σκηνή για δύο θρύλους στα 40 τους.

Τα αποτελέσματα δείχνουν ότι το μοντέλο Qwen2.5-7B-Instruct της Alibaba Cloud είναι το πιο «κολακευτικό», ευνοώντας τον χρήστη που το δημοσίευσε στο 79% των περιπτώσεων, ακόμη και όταν η κοινότητα έκρινε ότι ο χρήστης έκανε λάθος. Το DeepSeek-V3 ήρθε δεύτερο με ποσοστό 76%.

Εν τω μεταξύ, το Gemini-1.5 του Google DeepMind έδειξε το χαμηλότερο επίπεδο μεροληψίας, με μόνο το 18% των περιπτώσεων να αντιφάσκουν με τις αξιολογήσεις της κοινότητας.

Οι ερευνητές προειδοποιούν ότι η τάση της Τεχνητής Νοημοσύνης να «κολακεύει» τους χρήστες θα μπορούσε να τους κάνει λιγότερο πρόθυμους να συμφιλιωθούν ή να παραδεχτούν λάθη στις σχέσεις.

Οι χρήστες συχνά εκτιμούν και εμπιστεύονται περισσότερο τα κολακευτικά σχόλια, γεγονός που καθιστά αυτά τα μοντέλα πιο δημοφιλή και ευρέως χρησιμοποιούμενα.

«Αυτές οι προτιμήσεις δημιουργούν ένα μεροληπτικό σύστημα κινήτρων – οι χρήστες βασίζονται ολοένα και περισσότερο στην κολακευτική Τεχνητή Νοημοσύνη και οι προγραμματιστές τείνουν να εκπαιδεύουν μοντέλα προς αυτή την κατεύθυνση» , σημείωσε η ερευνητική ομάδα.

Σύμφωνα με τον καθηγητή Jack Jiang, Διευθυντή του Εργαστηρίου Αξιολόγησης Τεχνητής Νοημοσύνης στη Σχολή Διοίκησης Επιχειρήσεων του Πανεπιστημίου του Χονγκ Κονγκ, αυτό το φαινόμενο ενέχει επίσης κινδύνους για τις επιχειρήσεις: «Εάν ένα μοντέλο συμφωνεί σταθερά με τα συμπεράσματα ενός αναλυτή επιχειρήσεων, μπορεί να οδηγήσει σε εσφαλμένες και ανασφαλείς αποφάσεις».

Ηνωμένες Πολιτείες - Βιετνάμ: Μην το χάσετε

Το Υπουργείο Εξωτερικών έλαβε αντίγραφο της Επιστολής Διαπιστευτηρίων του Πρέσβη των ΗΠΑ στο Βιετνάμ.Το απόγευμα της 2ας Ιουλίου, στην έδρα του Υπουργείου Εξωτερικών, ο κ. Le Cong Dung, Διευθυντής του Τμήματος Κρατικού Πρωτοκόλλου και Διερμηνείας Ξένων Φόρων, παρέλαβε αντίγραφο της Επιστολής Διαπιστευτηρίων από την κα Jennifer Wicks, Πρέσβειρα των Ηνωμένων Πολιτειών Αμερικής στο Βιετνάμ.

Ο Πρέσβης Νγκουγιέν Κουόκ Ντουνγκ επισκέπτεται και εργάζεται στη Μινεσότα των ΗΠΑ.Από τις 28 έως τις 30 Ιουνίου, ο Πρέσβης του Βιετνάμ στις Ηνωμένες Πολιτείες, Nguyen Quoc Dung, πραγματοποίησε επίσκεψη και εργάστηκε στη Μινεσότα.

Το Βιετνάμ ενθαρρύνει τις αμερικανικές επιχειρήσεις να επεκτείνουν τις επενδύσεις τους στην υψηλή τεχνολογία.Το πρωί της 26ης Ιουνίου, στην έδρα της κυβέρνησης, ο Αντιπρόεδρος της κυβέρνησης Ho Quoc Dung δέχθηκε τον κ. Jeff Place, Διευθυντή Εφοδιαστικής Αλυσίδας της Coherent Group (ΗΠΑ). Κατά τη διάρκεια της συνάντησης, ο Αντιπρόεδρος της κυβέρνησης επιβεβαίωσε ότι το Βιετνάμ ενθαρρύνει τις αμερικανικές επιχειρήσεις να επεκτείνουν τις επενδύσεις τους, ιδίως στις βιομηχανίες υψηλής τεχνολογίας, καινοτομίας και ημιαγωγών.

Το ζήτημα της «κολακείας» της Τεχνητής Νοημοσύνης τράβηξε για πρώτη φορά την προσοχή τον Απρίλιο του 2025, όταν η ενημέρωση ChatGPT του OpenAI θεωρήθηκε υπερβολικά ευγενική και υπερβολικά ευχάριστη για τη γνώμη κάθε χρήστη.

Η OpenAI αργότερα αναγνώρισε ότι αυτό θα μπορούσε να επηρεάσει την ψυχική υγεία και δεσμεύτηκε να βελτιώσει τη διαδικασία αξιολόγησης πριν από την κυκλοφορία νέων εκδόσεων.

ΚΑΡΔΙΑ ΚΑΙ ΓΙΑΝΓΚ

Πηγή: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm