Ανθρωπολογική προειδοποίηση

Η Anthropic μόλις κάλεσε τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο να συντονίσουν μια προσωρινή διακοπή της ανάπτυξης του επόμενου προηγμένου μοντέλου, προειδοποιώντας ότι θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο.

Η Anthropic ζητά μια παύση στην ανάπτυξη νέων προηγμένων συστημάτων τεχνητής νοημοσύνης. Φωτογραφία: Bloomberg .

Σε μια ανάρτηση ιστολογίου στις 4 Ιουνίου, η Anthropic υποστήριξε ότι η επιβράδυνση ή η παύση της ανάπτυξης προηγμένης Τεχνητής Νοημοσύνης παγκοσμίως «θα μπορούσε να είναι κάτι καλό». Ωστόσο, η εταιρεία προειδοποίησε ότι αν έστω και μία οντότητα σταματήσει, οι ανταγωνιστές θα συνεχίσουν να προχωρούν.

«Πιστεύουμε ότι ο κόσμος θα πρέπει να έχει την επιλογή να επιβραδύνει ή να διακόψει προσωρινά την ανάπτυξη της προηγμένης Τεχνητής Νοημοσύνης, έτσι ώστε οι κοινωνικές δομές και η έρευνα για την ασφάλεια της Τεχνητής Νοημοσύνης να μπορούν να συμβαδίζουν με την ταχύτητα της τεχνολογικής ανάπτυξης», δήλωσε ο Anthropic.

Αυτό που ανησυχεί περισσότερο τον Anthropic είναι το σενάριο «αναδρομικής αυτοβελτίωσης», όπου η Τεχνητή Νοημοσύνη σχεδιάζει, κατασκευάζει και εκπαιδεύει την επόμενη έκδοση του εαυτού της χωρίς ανθρώπινη παρέμβαση.

Το άρθρο, το οποίο συνυπογράφουν οι Jack Clark και Marina Favaro, επικεφαλής του εσωτερικού ερευνητικού ινστιτούτου της Anthropic, αποκαλύπτει ότι πάνω από το 80% του κώδικα που εισέρχεται στα συστήματα της εταιρείας γράφεται αυτήν τη στιγμή από τον Claude. Οι μηχανικοί ολοκληρώνουν περίπου οκτώ φορές περισσότερο κώδικα ανά τρίμηνο από ό,τι πριν από το 2025.

Μπορεί επίσης να σας αρέσει

Εφαρμογή της ψηφιακής τεχνολογίας για τη μείωση της πληροφοριακής φτώχειας για τις εθνοτικές μειονότητες.Το Τμήμα Εθνικών Μειονοτήτων και Θρησκευμάτων της επαρχίας Cao Bang υλοποιεί ενεργά έργα ψηφιακού μετασχηματισμού και εφαρμόζει την τεχνολογία πληροφοριών για να βελτιώσει την πρόσβαση στη γνώση και να συμβάλει στην αποτελεσματική μείωση της πληροφοριακής φτώχειας για τις εθνοτικές μειονότητες και τους κατοίκους των ορεινών περιοχών.

Η ανακάλυψη του διαστρικού κομήτη 3I/ATLAS αποκαλύπτει μια χημική σύνθεση που δεν έχει παρατηρηθεί ποτέ πριν.Οι αστρονόμοι μόλις ανακάλυψαν ότι ο διαστρικός κομήτης 3I/ATLAS διαθέτει ένα χημικό «αποτύπωμα» που δεν έχει καταγραφεί ποτέ πριν σε κανένα άλλο ουράνιο σώμα στο Ηλιακό Σύστημα.

Πότε μπορεί η κοινοποίηση άρθρων στα μέσα κοινωνικής δικτύωσης να οδηγήσει σε πρόστιμο έως και 30 εκατομμύρια VND;Απαντώντας σε ανησυχίες σχετικά με τις κυρώσεις για την κοινοποίηση δημοσιογραφικού περιεχομένου στα μέσα κοινωνικής δικτύωσης, οι αρχές έχουν διευκρινίσει αρκετές συνηθισμένες περιπτώσεις που προκαλούν μεγάλη διαμάχη.

Αυτή δεν είναι απλώς μια θεωρητική προειδοποίηση. Η εταιρεία πίσω από το chatbot Claude υποστηρίζει ότι με επαρκή υπολογιστική ισχύ και με τον τρέχοντα ρυθμό ανάπτυξης, ένα σύστημα Τεχνητής Νοημοσύνης θα μπορούσε να σχεδιάσει και να αναπτύξει τον δικό του διάδοχο. Αυτό το ορόσημο θα έφερνε σημαντικά οφέλη στην επιστήμη και την ιατρική , αλλά θα αύξανε επίσης τον κίνδυνο τα πράγματα να ξεφύγουν από τον ανθρώπινο έλεγχο.

Για μια πραγματικά αποτελεσματική παύση, απαιτείται συναίνεση από πολλές μεγάλες εταιρείες τεχνητής νοημοσύνης σε πολλές χώρες, ιδίως στις ΗΠΑ και την Κίνα. Η Anthropic δήλωσε ότι το εσωτερικό ερευνητικό της ινστιτούτο θα διερευνήσει αυτό το ζήτημα με άλλα μέρη και θα λάβει διάφορες δράσεις για να βοηθήσει στην οικοδόμηση του μηχανισμού για μια ολοκληρωμένη αναδιάρθρωση.

Αυτή η κλήση έρχεται καθώς η Anthropic προετοιμάζεται για μια αρχική δημόσια προσφορά (IPO), μια συμφωνία που θα μπορούσε να αποτιμήσει την εταιρεία σε σχεδόν 1 τρισεκατομμύριο δολάρια . Ο συνδυασμός προειδοποιήσεων σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και φιλοδοξιών για την αγορά μετοχών δημιουργεί ένα αξιοσημείωτο παράδοξο.

Δεν είναι η πρώτη φορά που ένας σημαντικός παράγοντας στον τομέα της Τεχνητής Νοημοσύνης ζητά παύση. Το 2023, μια ομάδα που περιλάμβανε τον Έλον Μασκ και πολυάριθμους ερευνητές Τεχνητής Νοημοσύνης υπέγραψε μια επιστολή που ζητούσε εξάμηνη διακοπή της ανάπτυξης, αλλά δεν απέδωσε απτά αποτελέσματα.

Μπορεί επίσης να σας αρέσει

13ο Εθνικό Συνέδριο της Ένωσης Νέων: Διαμορφώνοντας τον Ρόλο των Νέων στη Νέα ΕποχήΒασιζόμενο στα εξαιρετικά επιτεύγματα της περιόδου 2022-2026, το 13ο Εθνικό Συνέδριο της Ένωσης Νέων έχει καθορίσει βασικούς στόχους που στοχεύουν στην ανάπτυξη μιας γενιάς νέων που είναι θαρραλέοι, δημιουργικοί, τεχνολογικά καταρτισμένοι και συμβάλλουν ενεργά στην ανάπτυξη της χώρας.

Το τίμημα που πρέπει να πληρώσετε για να παρακολουθήσετε το Παγκόσμιο ΚύπελλοΤο Παγκόσμιο Κύπελλο του 2026 γίνεται το πιο ακριβό τουρνουά στην ιστορία, καθιστώντας ολοένα και πιο απρόσιτη την ευκαιρία για τους απλούς οπαδούς να παρακολουθήσουν αγώνες και να επευφημήσουν τις ομάδες τους αυτοπροσώπως.

Ανακαλύφθηκε ένα είδος καρχαρία που μπορεί να «περπατήσει» κάτω από το νερό.Ένα νέο είδος καρχαρία που περπατάει ανακαλύφθηκε στα ρηχά νερά της Παπούα Νέας Γουινέας. Ωστόσο, αυτό το είδος ενδέχεται να κινδυνεύει με εξαφάνιση.

Πηγή: https://znews.vn/anthropic-canh-bao-post1657460.html