Η τεχνητή νοημοσύνη έχει παραισθήσεις, αλλά οι άνθρωποι υποφέρουν περισσότερο

Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, κάνει αμφιλεγόμενα σχόλια σχετικά με τις δυνατότητες «παραισθήσεων» της τρέχουσας Τεχνητής Νοημοσύνης σε σύγκριση με τους ανθρώπους.

Το πρόσφατα κυκλοφορημένο Claude 4 της Anthropic είναι πιο έξυπνο, αλλά εξακολουθεί να προκαλεί παραισθήσεις. Φωτογραφία: Anthropic .

Στην πρώτη εκδήλωση προγραμματιστών της Anthropic στο Σαν Φρανσίσκο, ο Διευθύνων Σύμβουλος Dario Amodei δήλωσε ότι τα τρέχοντα μοντέλα τεχνητής νοημοσύνης μπορούν να δημιουργήσουν «παραισθήσεις» με χαμηλότερο ρυθμό από τους ανθρώπους. Οι «παραισθήσεις» εδώ νοούνται ως το φαινόμενο της τεχνητής νοημοσύνης να δημιουργεί φανταστικό περιεχόμενο αλλά να το παρουσιάζει ως πραγματικό.

Ο Amodei τόνισε ότι το γεγονός ότι η Τεχνητή Νοημοσύνη έχει παραισθήσεις δεν εμποδίζει τον στόχο του Anthropic να επιτύχει την Τεχνητή Γενική Νοημοσύνη (AGI). «Εξαρτάται από τις μετρήσεις σας, αλλά νομίζω ότι η συχνότητα των παραισθήσεων στα μοντέλα Τεχνητής Νοημοσύνης είναι πιθανώς χαμηλότερη από ό,τι στους ανθρώπους, απλώς ο τρόπος που κάνουν λάθη είναι πιο εκπληκτικός», είπε.

Ο Amodei είναι ένας από τους πιο ένθερμους υποστηρικτές στον κλάδο της Τεχνητής Νοημοσύνης (AGI). «Οι άνθρωποι προσπαθούν πάντα να βρουν ένα «ανώτατο όριο» για την Τεχνητή Νοημοσύνη», λέει. «Προς το παρόν, δεν βλέπουμε κανένα τέτοιο ανώτατο όριο».

Ο Διευθύνων Σύμβουλος της Anthropic είναι ένας από τους υποστηρικτές της «αισιοδοξίας για την Τεχνητή Νοημοσύνη». Φωτογραφία: Anthropic.

Δεν συμφωνούν όλοι, ωστόσο. Ο Διευθύνων Σύμβουλος της Google DeepMind, Ντέμις Χασάμπης, επεσήμανε αυτή την εβδομάδα ότι τα τρέχοντα μοντέλα τεχνητής νοημοσύνης είναι «γεμάτα κενά», κάνοντας μάλιστα λάθος ακόμη και σε ορισμένες βασικές ερωτήσεις.

Υπάρχουν επίσης ενδείξεις ότι ορισμένα νεότερα μοντέλα έχουν υψηλότερη συχνότητα εμφάνισης προβλημάτων όσον αφορά τις σύνθετες εργασίες συμπερασμού. Οι εκδόσεις o3 και o4-mini του OpenAI έχουν αυξημένη συχνότητα εμφάνισης ψευδαισθήσεων σε σύγκριση με προηγούμενα μοντέλα συμπερασμού. Ακόμα και το ίδιο το OpenAI δεν καταλαβαίνει το γιατί.

Ο Amodei ανέφερε επίσης ότι οι άνθρωποι συχνά κάνουν λάθη, επομένως είπε ότι μόνο και μόνο επειδή η Τεχνητή Νοημοσύνη κάνει λάθη δεν σημαίνει ότι «δεν είναι αρκετά έξυπνη». Ωστόσο, ο ηγέτης των Ανθρώπων παραδέχτηκε επίσης ότι μπορούν εύκολα να προκαλέσουν προβλήματα όταν δίνουν ψευδείς πληροφορίες με εξαιρετικά υψηλή αξιοπιστία.

Τα σχόλια του Amodei έχουν πυροδοτήσει συζήτηση στην κοινότητα της Τεχνητής Νοημοσύνης σχετικά με τις πραγματικές δυνατότητες των τρεχόντων μοντέλων. Ορισμένοι ειδικοί συμφωνούν ότι η Τεχνητή Νοημοσύνη σημειώνει σημαντική πρόοδο στη μείωση των ψευδαισθήσεων. Άλλοι προειδοποιούν για τους πιθανούς κινδύνους της υπερβολικής εμπιστοσύνης της Τεχνητής Νοημοσύνης σε ανακριβείς πληροφορίες.

Η συζήτηση αντικατοπτρίζει μια σημαντική πρόκληση που αντιμετωπίζει ο κλάδος της Τεχνητής Νοημοσύνης. Οι εταιρείες επιδιώκουν να αναπτύξουν συστήματα που είναι ταυτόχρονα έξυπνα και αξιόπιστα, ικανά να διαχειριστούν την αβεβαιότητα στις απαντήσεις τους.

Πηγή: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html