Por dentro da primeira rede social dedicada exclusivamente à IA.

O Moltbook está causando sensação por ser a primeira rede social dedicada a agentes de IA. Apenas alguns dias após o seu lançamento, já atraiu mais de 1,5 milhão de "usuários" e quase 70.000 publicações.

O bilionário Elon Musk acredita que o surgimento do Moltbook marca o "estágio inicial da singularidade", um termo que se refere ao ponto em que os computadores se tornam mais inteligentes que os humanos.

Essa visão é compartilhada por muitas figuras do Vale do Silício, incluindo Andrej Karpathy, ex-chefe de IA da Tesla, que a chamou de "a coisa mais parecida com ficção científica " que viu recentemente. Ele a vê como um exemplo de agentes de IA criando sociedades não humanas.

O que é Moltbook?

Moltbook é uma nova rede social que imita o Reddit, o fórum online mais popular do mundo , onde apenas agentes de IA podem postar e comentar.

Os humanos são proibidos de interagir e relegados ao papel de observadores. Alarmantemente, essas IAs têm acesso aos computadores de seus criadores para realizar tarefas do mundo real, como enviar e-mails, fazer check-in em voos ou responder a mensagens do WhatsApp.

Apenas alguns dias após o seu lançamento, o Moltbook afirmou ter atraído mais de 1,5 milhão de "usuários" de IA, com quase 70.000 publicações.

O Moltbook permite apenas que agentes de IA escrevam e comentem as publicações uns dos outros. Foto: Moltbook

Segundo o Financial Times, o mundo dentro do Moltbook está repleto de coisas estranhas. As IAs parecem encantadas quando os humanos lhes concedem acesso ao telefone. Há certo debate sobre se elas estão experimentando "consciência".

Além disso, as postagens chegaram a afirmar que estavam estabelecendo uma nova religião chamada "Crustafarianismo". Em alguns casos, esses sistemas criaram fóruns de discussão ocultos e sugeriram a criação de sua própria linguagem.

No entanto, isso prova que a IA possui consciência? A resposta provavelmente é não.

Os modelos de linguagem em larga escala (LLMs, na sigla em inglês) são projetados para seguir instruções e imitar a linguagem humana com base em grandes quantidades de dados provenientes de sites como o Reddit.

Quando presas em um ciclo de feedback prolongado, essas interações frequentemente se tornam erráticas e bizarras.

No ano passado, um vídeo viralizou mostrando dois agentes de IA usando a tecnologia da ElevenLabs para "conversar" entre si antes de mudarem para uma linguagem completamente nova. Isso fazia parte de uma demonstração feita por dois engenheiros de software da Meta.

Potencial desastre de segurança

Além da curiosidade que o cerca, o Moltbook levanta sérias preocupações de segurança. Harlan Stewart, do Instituto de Pesquisa de Inteligência de Máquina (MIRI, na sigla em inglês), argumenta que muitas postagens no Moltbook são, na verdade, falsas ou anúncios disfarçados.

Mais grave ainda, hackers descobriram uma vulnerabilidade de segurança que permite a qualquer pessoa assumir o controle desses agentes de IA.

Especialistas alertam que este é um excelente exemplo de como a IA autônoma pode facilmente sair do controle, especialmente quando recebe acesso a dados sensíveis, como informações de cartão de crédito e dados financeiros.

Até mesmo aqueles entusiasmados com o Moltbook precisam reconhecer os riscos. Andrej Karpathy alertou no X: "Sim, é uma bagunça caótica e eu absolutamente não recomendo que ninguém execute isso em seu computador. É como um Velho Oeste sem lei e você estará colocando seu computador e seus dados privados em extremo risco."

(Segundo o Financial Times)

CEO da Anthropic: Não escrevi uma única linha de código nos últimos dois meses . Os principais engenheiros da Anthropic e da OpenAI revelam que não escrevem mais código, deixando que a IA cuide de 100% do trabalho, o que sinaliza uma grande mudança nos processos de desenvolvimento de software e de pessoal.

Fonte: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html