Come Apple sta introducendo l'intelligenza artificiale sintetica sugli iPhone meno recenti.

Secondo Android Authority , il documento di ricerca di Apple descrive in dettaglio una soluzione per eseguire modelli linguistici di grandi dimensioni (LLM) su dispositivi con RAM limitata. Il documento rivela come l'azienda possa memorizzare i "parametri del modello" e caricarne una parte nella RAM del dispositivo quando necessario, invece di caricare l'intero modello nella RAM.

Apple sta cercando soluzioni per consentire agli iPhone più vecchi, dotati di meno RAM, di eseguire l'intelligenza artificiale in generale.

L'articolo suggerisce che questo metodo consente di eseguire modelli che richiedono il doppio della RAM disponibile su un iPhone, garantendo al contempo velocità di ragionamento rispettivamente 4-5 volte e 20-25 volte superiori rispetto a metodi più semplici di caricamento su CPU e GPU.

L'implementazione dell'IA sintetica su dispositivi con un'ampia quantità di RAM offre vantaggi significativi, garantendo velocità di lettura/scrittura superiori. La velocità è fondamentale per l'IA on-device, poiché consente tempi di inferenza molto più rapidi, dato che gli utenti non devono necessariamente attendere decine di secondi (o più) per una risposta o un risultato finale. Tutto ciò significa che un assistente IA on-device è in grado di funzionare alla velocità di una conversazione, generare immagini/testo molto più velocemente, riassumere articoli più rapidamente e così via. La soluzione di Apple, inoltre, implica che gli utenti non abbiano necessariamente bisogno di molta RAM per velocizzare la reattività delle attività di IA on-device.

L'approccio di Apple potrebbe consentire sia agli iPhone più vecchi che a quelli più recenti di offrire funzionalità di intelligenza artificiale integrate direttamente sui dispositivi. Questo è importante perché gli iPhone di Apple in genere offrono meno RAM rispetto agli smartphone Android di fascia alta. Ad esempio, la serie iPhone 11 offre solo 4 GB di RAM, mentre persino l'iPhone 15 standard ne ha solo 6 GB.

Apple non è l'unica azienda di telefonia mobile a tentare di miniaturizzare i LLM. I recenti chip di punta di Qualcomm e MediaTek supportano entrambi la precisione INT4 per ridurre le dimensioni di questi modelli. In ogni caso, le aziende stanno cercando nuove soluzioni per minimizzare i requisiti di sistema per l'intelligenza artificiale sui dispositivi, consentendo anche ai telefoni di fascia bassa di offrire questa funzionalità.

Link alla fonte: https://thanhnien.vn/cach-apple-dua-ai-tong-hop-vao-iphone-doi-cu-185231222160500661.htm