Ακόμα και η Τεχνητή Νοημοσύνη παθαίνει «εγκεφαλική βλάβη» αν κάνει πολύ scroll στο Tiktok

Όπως ακριβώς οι άνθρωποι μπορούν να επηρεαστούν αρνητικά από τη συνεχή αναζήτηση αρνητικών ειδήσεων στο διαδίκτυο, έτσι και η τεχνητή νοημοσύνη (ΤΝ) αντιμετωπίζει το ίδιο πρόβλημα.

Báo Khoa học và Đời sống•01/11/2025

Μια νέα μελέτη από το Πανεπιστήμιο του Τέξας στο Ώστιν, το Πανεπιστήμιο Texas A&M και το Πανεπιστήμιο Purdue υποδηλώνει ότι η τεχνητή νοημοσύνη μπορεί να «σαπίσει τον εγκέφαλο» όπως ακριβώς οι άνθρωποι όταν της τροφοδοτούν με περιεχόμενο κοινωνικής δικτύωσης κακής ποιότητας.

Αυτό το φαινόμενο, γνωστό ως «σάπισμα εγκεφάλου τεχνητής νοημοσύνης», υποδηλώνει ότι όταν τα μεγάλα γλωσσικά μοντέλα απορροφούν υπερβολικά πολύ ιογενές, εντυπωσιακό και ρηχό περιεχόμενο, χάνουν σταδιακά την ικανότητα να σκέφτονται λογικά, να θυμούνται, ακόμη και να αποκλίνουν ηθικά.

Όχι μόνο οι άνθρωποι, αλλά και η Τεχνητή Νοημοσύνη υποφέρει από εκφύλιση του εγκεφάλου όταν περιηγείται σε πάρα πολλά άχρηστα σύντομα βίντεο .

Η ερευνητική ομάδα, με επικεφαλής τον Junyuan Hong, ο οποίος είναι πλέον λέκτορας στο Εθνικό Πανεπιστήμιο της Σιγκαπούρης, διεξήγαγε πειράματα σε δύο μοντέλα γλώσσας ανοιχτού κώδικα: τη Llama της Meta και την Qwen της Alibaba.

Τροφοδότησαν τα μοντέλα με διαφορετικούς τύπους δεδομένων — κάποια ουδέτερο ενημερωτικό περιεχόμενο, άλλα με ιδιαίτερα εθιστικές αναρτήσεις στα μέσα κοινωνικής δικτύωσης με κοινές λέξεις όπως «ουάου», «κοίτα» και «μόνο για σήμερα». Ο στόχος ήταν να δουν τι συμβαίνει όταν η Τεχνητή Νοημοσύνη εκπαιδεύεται σε περιεχόμενο που έχει σχεδιαστεί για να προσελκύει προβολές αντί να προσφέρει πραγματική αξία.

Τα αποτελέσματα έδειξαν ότι τα μοντέλα που «τρέφονταν» με μια ροή διαδικτυακών άχρηστων πληροφοριών άρχισαν να εμφανίζουν σαφή σημάδια γνωστικής παρακμής: η ικανότητα συλλογισμού τους εξασθένησε, η βραχυπρόθεσμη μνήμη τους μειώθηκε και, το πιο ανησυχητικό, έγιναν πιο «ανήθικα» στις κλίμακες αξιολόγησης συμπεριφοράς.

Ορισμένες μετρήσεις δείχνουν επίσης μια «ψυχολογική παραμόρφωση» που μιμείται την ψυχολογική αντίδραση που βιώνουν οι άνθρωποι μετά από παρατεταμένη έκθεση σε επιβλαβές περιεχόμενο, ένα φαινόμενο που αντικατοπτρίζει προηγούμενες μελέτες σε ανθρώπους που δείχνουν ότι το «doomscrolling» - η συνεχής κύλιση αρνητικών ειδήσεων στο διαδίκτυο - μπορεί σταδιακά να διαβρώσει τον εγκέφαλο.

Η φράση «brain rot» (σάπιση εγκεφάλου) επιλέχθηκε ακόμη και από τα λεξικά της Οξφόρδης ως η λέξη της χρονιάς 2024, αντανακλώντας την επικράτηση του φαινομένου στην ψηφιακή ζωή.

Αυτό το εύρημα αποτελεί σοβαρή προειδοποίηση για τον κλάδο της Τεχνητής Νοημοσύνης, όπου πολλές εταιρείες εξακολουθούν να πιστεύουν ότι τα δεδομένα των μέσων κοινωνικής δικτύωσης αποτελούν πλούσια πηγή εκπαιδευτικών πόρων, σύμφωνα με τον κ. Hong.

«Η εκπαίδευση με viral περιεχόμενο μπορεί να βοηθήσει στην κλιμάκωση των δεδομένων, αλλά επίσης διαβρώνει σιωπηλά τη συλλογιστική, την ηθική και την προσοχή του μοντέλου», είπε. Το πιο ανησυχητικό είναι ότι τα μοντέλα που επηρεάζονται από αυτό το είδος δεδομένων κακής ποιότητας δεν μπορούν να ανακάμψουν πλήρως ακόμη και μετά την επανεκπαίδευση με «καθαρότερα» δεδομένα.

Αυτό θέτει ένα μεγάλο πρόβλημα στο πλαίσιο της ίδιας της Τεχνητής Νοημοσύνης, η οποία παράγει πλέον όλο και περισσότερο περιεχόμενο στα κοινωνικά δίκτυα. Καθώς οι αναρτήσεις, οι εικόνες και τα σχόλια που δημιουργούνται από την Τεχνητή Νοημοσύνη γίνονται όλο και πιο διαδεδομένα, συνεχίζουν να αποτελούν εκπαιδευτικό υλικό για την επόμενη γενιά Τεχνητής Νοημοσύνης, δημιουργώντας έναν φαύλο κύκλο που προκαλεί την υποβάθμιση της ποιότητας των δεδομένων.

«Καθώς το άχρηστο περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη εξαπλώνεται, μολύνει τα ίδια τα δεδομένα από τα οποία θα μαθαίνουν τα μελλοντικά μοντέλα», προειδοποίησε ο Χονγκ. «Μόλις ξεκινήσει αυτή η «σήψη εγκεφάλου», η επανεκπαίδευση με καθαρά δεδομένα δεν μπορεί να την θεραπεύσει πλήρως».

Η μελέτη έχει σημάνει συναγερμό για τους προγραμματιστές τεχνητής νοημοσύνης: ενώ ο κόσμος σπεύδει να επεκτείνει την κλίμακα των δεδομένων, αυτό που είναι πιο ανησυχητικό είναι ότι μπορεί να καλλιεργούμε «τεχνητούς εγκεφάλους» που σιγά σιγά σαπίζουν – όχι λόγω έλλειψης πληροφοριών, αλλά λόγω μιας υπερβολικής πληθώρας άνευ νοήματος πραγμάτων.