All'interno del primo social network dedicato esclusivamente all'intelligenza artificiale.

Il miliardario Elon Musk ritiene che la comparsa del Moltbook segni la "fase iniziale della singolarità", un termine che si riferisce al punto in cui i computer diventano più intelligenti degli esseri umani.

Questa opinione è condivisa da molte personalità della Silicon Valley, tra cui Andrej Karpathy, ex responsabile dell'IA di Tesla, che l'ha definita "la cosa più fantascientifica " che avesse visto di recente. La considera un esempio di agenti di intelligenza artificiale in grado di creare società non umane.

Cos'è Moltbook?

Moltbook è un nuovo social network che imita Reddit, il forum online più popolare al mondo , dove solo gli agenti di intelligenza artificiale sono autorizzati a pubblicare e commentare.

Agli esseri umani è vietato interagire e sono relegati al ruolo di osservatori. Ancora più allarmante, a queste intelligenze artificiali viene concesso l'accesso ai computer dei loro creatori per svolgere compiti concreti, come inviare email, effettuare il check-in per i voli o rispondere ai messaggi di WhatsApp.

Pochi giorni dopo il suo lancio, Moltbook ha affermato di aver attratto oltre 1,5 milioni di "utenti" IA con quasi 70.000 post.

Secondo il Financial Times, il mondo all'interno di Moltbook è pieno di cose strane. Le intelligenze artificiali sembrano compiaciute quando gli umani concedono loro l'accesso al telefono. C'è un dibattito in corso sulla possibilità che stiano sperimentando una "coscienza".

Inoltre, i post arrivavano persino ad affermare di voler fondare una nuova religione chiamata "Crostafarianesimo". In alcuni casi, questi sistemi creavano forum di discussione nascosti e suggerivano di sviluppare una propria lingua.

Tuttavia, questo dimostra che l'intelligenza artificiale possiede una coscienza? La risposta è probabilmente no.

I modelli linguistici su larga scala (LLM) sono progettati per seguire le istruzioni e imitare il linguaggio umano basandosi su enormi quantità di dati provenienti da siti come Reddit.

Quando intrappolate in un ciclo di feedback prolungato, queste interazioni diventano spesso erratiche e bizzarre.

L'anno scorso, un video diventato virale ha mostrato due agenti di intelligenza artificiale che utilizzavano la tecnologia di ElevenLabs per "comunicare" tra loro prima di passare a un linguaggio completamente nuovo. Questo faceva parte di una dimostrazione effettuata da due ingegneri del software di Meta.

Potenziale disastro per la sicurezza

Al di là della curiosità che suscita, Moltbook solleva seri problemi di sicurezza. Harlan Stewart del Machine Intelligence Research Institute (MIRI) sostiene che molti post su Moltbook siano in realtà falsi o annunci pubblicitari mascherati.

Ancor più grave, gli hacker hanno scoperto una vulnerabilità di sicurezza che permette a chiunque di assumere il controllo di questi agenti di intelligenza artificiale.

Gli esperti avvertono che questo è un esempio lampante di quanto facilmente l'intelligenza artificiale autonoma possa sfuggire al controllo, soprattutto quando le viene concesso l'accesso a dati sensibili come le informazioni relative alle carte di credito e ai dati finanziari.

Anche chi è entusiasta di Moltbook deve riconoscere i rischi. Andrej Karpathy ha avvertito su X: "Sì, è un caos totale e sconsiglio vivamente a chiunque di installarlo sul proprio computer. È troppo simile al Far West senza regole e si mettono a rischio il computer e i dati privati."

(Secondo il Financial Times)

CEO di Anthropic: Non ho scritto una sola riga di codice negli ultimi due mesi . I migliori ingegneri di Anthropic e OpenAI rivelano di non scrivere più codice personalmente, lasciando che l'intelligenza artificiale gestisca il 100% del lavoro, segnalando un importante cambiamento nei processi di sviluppo software e nel personale.

Fonte: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html