Realizando inferência com o modelo de linguagem Llama 2 em larga escala usando um PowerBook G4 de 2005. Foto: MacRumors . |
Segundo o MacRumors , um engenheiro de software chamado Andrew Rossignol está causando sensação na comunidade tecnológica ao compartilhar seu processo de execução de tarefas de geração de IA em um PowerBook G4 de 2005.
Especificamente, o laptop usado por Rossignol foi lançado em 2005, com um processador PowerPC G4 de 1,5 GHz e 1 GB de RAM. Apesar dessa configuração desatualizada, o engenheiro de software ainda conseguiu realizar inferências usando a linguagem de programação Llama 2 da Meta, que suporta grandes volumes de dados.
Em sua postagem, Rossignol revelou que, para realizar o experimento, ele passou a usar o projeto de código aberto llama2.c e aumentou o desempenho com um utilitário vetorial PowerPC chamado AltiVec.
Em 2001, o dispositivo apresentado após a frase "One more thing" foi o PowerBook G4, um laptop com corpo de titânio também conhecido como TiBook. Mais de 20 anos depois, o design do PowerBook G4 ainda é considerado moderno e inovador, e foi mantido no MacBook Pro de 2021.
O experimento de Rossignol prova mais uma vez que o treinamento de IA ainda é possível em dispositivos com hardware limitado.
Fonte: https://znews.vn/chay-ai-tren-may-tinh-co-mat-truc-thoi-iphone-post1540827.html






Comentário (0)