Ο κόσμος δεν είναι έτοιμος να αναπτύξει Τεχνητή Νοημοσύνη τόσο έξυπνη όσο ο ανθρώπινος εγκέφαλος.

Ο κόσμος δεν είναι έτοιμος για την τεχνητή γενική νοημοσύνη (AGI) ή για το σημείο όπου η τεχνητή νοημοσύνη θα είναι τόσο έξυπνη όσο ο ανθρώπινος εγκέφαλος, σύμφωνα με έναν ανώτερο ερευνητή της OpenAI.

Είναι η γενική τεχνητή νοημοσύνη επικίνδυνη;

Επί χρόνια, οι ερευνητές κάνουν εικασίες σχετικά με την εμφάνιση της τεχνητής γενικής νοημοσύνης, ή AGI, όπου τα τεχνητά συστήματα θα είναι σε θέση να χειρίζονται ένα ευρύ φάσμα εργασιών εκτός από τους ανθρώπους. Πολλοί βλέπουν την εμφάνισή της ως υπαρξιακό κίνδυνο, καθώς θα μπορούσε να επιτρέψει στους υπολογιστές να λειτουργούν με τρόπους που οι άνθρωποι δεν μπορούν να φανταστούν.

Σύμφωνα με τον κ. Miles Brindage, ο κόσμος δεν είναι έτοιμος για την εποχή της τεχνητής γενικής νοημοσύνης (AGI).

Τώρα, ο άνθρωπος που έχει αναλάβει να διασφαλίσει ότι η OpenAI, προγραμματίστρια του ChatGPT, είναι έτοιμη για την AGI, παραδέχεται ότι ούτε ο κόσμος ούτε η ίδια η εταιρεία είναι «έτοιμες» για το επόμενο βήμα. Ο Miles Brundage διετέλεσε «ανώτερος σύμβουλος της OpenAI για την ετοιμότητα AGI», αλλά ανακοίνωσε την αποχώρησή του αυτή την εβδομάδα, καθώς η εταιρεία διέλυσε την ομάδα.

«Ούτε η OpenAI ούτε κανένα άλλο πρωτοποριακό εργαστήριο είναι έτοιμο (για την Τεχνητή Νοημοσύνη), ούτε και ο κόσμος. Για να είμαστε σαφείς, δεν νομίζω ότι πρόκειται για μια αμφιλεγόμενη δήλωση μεταξύ της ηγεσίας της OpenAI, αλλά μάλλον για ένα ερώτημα σχετικά με το κατά πόσον η εταιρεία και ο κόσμος είναι σε καλό δρόμο για να είναι έτοιμοι την κατάλληλη στιγμή», δήλωσε ο Brundage, ο οποίος έχει αφιερώσει έξι χρόνια βοηθώντας στη διαμόρφωση των πρωτοβουλιών ασφάλειας της εταιρείας στον τομέα της Τεχνητής Νοημοσύνης.

Η αποχώρηση του Brundage σηματοδοτεί την τελευταία σε μια σειρά αξιοσημείωτων αποχωρήσεων από τις ομάδες ασφαλείας της OpenAI. Ο Jan Leike, ένας εξέχων ερευνητής, αποχώρησε αφού δήλωσε ότι «η κουλτούρα και οι διαδικασίες ασφαλείας έχουν περάσει σε δεύτερη μοίρα σε σχέση με τα λαμπερά προϊόντα». Ο συνιδρυτής Ilya Sutskever αποχώρησε επίσης για να ξεκινήσει τη δική του startup τεχνητής νοημοσύνης που επικεντρώνεται στην ανάπτυξη ασφαλούς AGI.

Η διάλυση της ομάδας του "AGI Readiness" από τον Brundage έρχεται λίγους μήνες αφότου η εταιρεία διέλυσε την ομάδα "Superalignment" που ήταν αφιερωμένη στον μετριασμό των μακροπρόθεσμων κινδύνων της Τεχνητής Νοημοσύνης, εκθέτοντας τις εντάσεις μεταξύ της αρχικής αποστολής της OpenAI και των εμπορικών της φιλοδοξιών.

Η πίεση στα κέρδη ωθεί το OpenAI εκτός ασφαλούς πορείας

Σύμφωνα με πληροφορίες, η OpenAI αντιμετωπίζει πιέσεις να μεταβεί από μη κερδοσκοπική σε κερδοσκοπική εταιρεία εντός δύο ετών — διαφορετικά κινδυνεύει να χάσει τη χρηματοδότηση από τον πρόσφατο γύρο επενδύσεων ύψους 6,6 δισεκατομμυρίων δολαρίων. Αυτή η στροφή προς την εμπορευματοποίηση αποτελεί εδώ και καιρό ανησυχία για την Brundage, η οποία έχει εκφράσει επιφυλάξεις από το 2019, όταν η OpenAI ίδρυσε για πρώτη φορά το κερδοσκοπικό της τμήμα.

Ο Διευθύνων Σύμβουλος της OpenAI, Σαμ Άλτμαν, έχει «πονοκέφαλο» λόγω της πίεσης που δέχεται η εταιρεία για την επιδίωξη κερδών.

Εξηγώντας την αποχώρησή του, ο Brundage επικαλέστηκε τους αυξανόμενους περιορισμούς στην ελευθερία του να ερευνά και να δημοσιεύει στην εξέχουσα εταιρεία. Τόνισε την ανάγκη για μια ανεξάρτητη φωνή στις συζητήσεις πολιτικής για την Τεχνητή Νοημοσύνη, απαλλαγμένη από προκαταλήψεις του κλάδου και συγκρούσεις συμφερόντων. Έχοντας συμβουλεύσει την ηγεσία της OpenAI σχετικά με τις εσωτερικές προετοιμασίες, πιστεύει ότι μπορεί πλέον να έχει μεγαλύτερο αντίκτυπο στην παγκόσμια διακυβέρνηση της Τεχνητής Νοημοσύνης εκτός του οργανισμού.

Οι αποχωρήσεις αντικατοπτρίζουν επίσης ένα βαθύτερο πολιτισμικό χάσμα εντός του OpenAI. Πολλοί ερευνητές εντάχθηκαν για να προωθήσουν την έρευνα για την Τεχνητή Νοημοσύνη και τώρα βρίσκονται σε ένα περιβάλλον που βασίζεται ολοένα και περισσότερο στα προϊόντα. Η εσωτερική κατανομή πόρων έχει γίνει σημείο ανάφλεξης - αναφορές δείχνουν ότι η ομάδα του Leike δεν είχε στη διάθεσή της υπολογιστική ισχύ για έρευνα ασφάλειας πριν διαλυθεί.

Το OpenAI έχει αντιμετωπίσει ερωτήματα τους τελευταίους μήνες σχετικά με τα σχέδιά του για την ανάπτυξη τεχνητής νοημοσύνης και το πόσο σοβαρά λαμβάνει υπόψη την ασφάλεια. Παρόλο που ιδρύθηκε ως μη κερδοσκοπικός οργανισμός αφιερωμένος στην έρευνα για τον τρόπο δημιουργίας ασφαλούς τεχνητής νοημοσύνης, η επιτυχία του ChatGPT έχει φέρει σημαντικές επενδύσεις και πιέσεις για τη χρήση της νέας τεχνολογίας με σκοπό το κέρδος.

Πηγή: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm