Avvertimento antropico

Anthropic ha appena lanciato un appello alle più grandi aziende di intelligenza artificiale del mondo affinché coordinino una sospensione temporanea dello sviluppo del prossimo modello avanzato, avvertendo che la situazione potrebbe sfuggire al controllo umano.

Anthropic chiede una pausa nello sviluppo di nuovi sistemi avanzati di intelligenza artificiale. Foto: Bloomberg .

In un post sul blog del 4 giugno, Anthropic ha suggerito che rallentare o sospendere lo sviluppo dell'intelligenza artificiale avanzata a livello globale "potrebbe essere una cosa positiva". Tuttavia, l'azienda ha avvertito che se anche una sola entità si fermasse, i concorrenti continuerebbero ad andare avanti.

"Riteniamo che il mondo debba avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell'IA avanzata, in modo che le strutture sociali e la ricerca sulla sicurezza dell'IA possano tenere il passo con la velocità dello sviluppo tecnologico", ha affermato Anthropic.

Ciò che preoccupa maggiormente Anthropic è lo scenario di "auto-miglioramento ricorsivo", in cui l'IA progetta, costruisce e addestra la versione successiva di se stessa senza intervento umano.

L'articolo, scritto a quattro mani da Jack Clark e Marina Favaro, responsabile dell'istituto di ricerca interno di Anthropic, rivela che oltre l'80% del codice che entra nei sistemi dell'azienda è attualmente scritto da Claude. Gli ingegneri producono circa otto volte più codice a trimestre rispetto a prima del 2025.

Potrebbe interessarti

VinFast Evo Lite: design elegante, prestazioni di alto livello, sostituzione della batteria rapidissima.La VinFast Evo Lite sta riscuotendo un grande interesse tra gli studenti grazie ai suoi vantaggi, quali "compattezza in città, guida fluida, sostituzione rapida della batteria e assenza di obbligo di patente di guida", oltre alle offerte promozionali estive.

Da Nang: Funzionari e insegnanti attraversano foreste e corsi d'acqua per partecipare a lezioni sull'intelligenza artificiale.Considerata la scarsità di risorse umane, la vasta estensione geografica e le infrastrutture limitate, l'intelligenza artificiale può diventare uno strumento pratico a supporto sia del governo che del settore dell'istruzione.

La fotocamera più venduta al mondo.Pocket 3 ha venduto oltre 10 milioni di unità in meno di due anni, trasformando le fotocamere tascabili con stabilizzatore in un nuovo mercato in cui molte aziende tecnologiche cinesi desiderano entrare.

Non si tratta solo di un avvertimento teorico. L'azienda che ha creato il chatbot Claude sostiene che, con una potenza di calcolo sufficiente e con l'attuale ritmo di sviluppo, un sistema di intelligenza artificiale potrebbe progettare e sviluppare il proprio successore. Questo traguardo porterebbe notevoli benefici alla scienza e alla medicina , ma aumenterebbe anche il rischio che la situazione sfugga al controllo umano.

Per una pausa davvero efficace, è necessario il consenso di molte importanti aziende di intelligenza artificiale in diversi paesi, in particolare Stati Uniti e Cina. Anthropic ha affermato che il suo istituto di ricerca interno approfondirà la questione con altre parti e intraprenderà diverse azioni per contribuire a costruire il meccanismo per una ristrutturazione completa.

Questa richiesta giunge mentre Anthropic si prepara alla quotazione in borsa, un'operazione che potrebbe valutare l'azienda quasi 1.000 miliardi di dollari . La combinazione di avvertimenti sulla sicurezza dell'IA e ambizioni di quotazione in borsa crea un paradosso notevole.

Non è la prima volta che un attore di primo piano nel campo dell'IA chiede una pausa. Nel 2023, un gruppo che includeva Elon Musk e numerosi ricercatori di IA firmò una lettera chiedendo una sospensione dello sviluppo di sei mesi, ma non produsse risultati tangibili.

Potrebbe interessarti

Cooperazione ASEAN-Cina in materia di scienza, tecnologia e innovazioneAlla conferenza ACJSTIC-13, l'ASEAN e la Cina hanno ribadito il loro impegno a rafforzare la cooperazione in materia di scienza, tecnologia e innovazione, nonché a promuovere la ricerca congiunta.

Come posso condividere un articolo online senza rischiare una multa di 30 milioni di VND?In risposta alle preoccupazioni relative alle sanzioni per la condivisione di contenuti giornalistici sui social media, le autorità hanno chiarito alcuni casi comuni che stanno suscitando molte polemiche.

La provincia di Quang Tri diversifica le proprie attività di comunicazione per fornire assistenza legale agli anziani.La provincia di Quang Tri sta attuando diverse attività di comunicazione per diffondere informazioni sulla riduzione della povertà, concentrandosi sui funzionari a livello di villaggio, come gli anziani del villaggio, i capi delle frazioni e i membri influenti della comunità... per garantire che le politiche di assistenza legale agli anziani siano profondamente integrate nella vita quotidiana.

Fonte: https://znews.vn/anthropic-canh-bao-post1657460.html