Comment Apple intègre l'IA synthétique dans les anciens iPhones

D'après Android Authority , un document de recherche d'Apple détaille une solution pour exécuter des modèles de langage complexes (LLM) sur des appareils disposant d'une mémoire vive (RAM) limitée. Ce document explique comment l'entreprise peut stocker les « paramètres du modèle » et en charger une partie dans la RAM de l'appareil en cas de besoin, au lieu de charger l'intégralité du modèle.

Apple cherche à permettre aux anciens iPhones dotés de moins de RAM d'exécuter une intelligence artificielle générale

L'article affirme que cette méthode permet d'exécuter des modèles nécessitant deux fois plus de RAM qu'un iPhone ne peut en contenir, tout en garantissant des vitesses d'inférence 4 à 5 fois supérieures et 20 à 25 fois supérieures par rapport aux méthodes de chargement simples sur le CPU et le GPU respectivement.

Déployer une IA synthétique sur un appareil doté de plus de RAM serait extrêmement avantageux, car cela permettrait des vitesses de lecture/écriture plus rapides. La vitesse est cruciale pour l'IA embarquée, car elle permet des temps d'inférence bien plus courts : les utilisateurs n'auraient plus à attendre des dizaines de secondes (voire plus) pour obtenir une réponse ou un résultat. Ainsi, un assistant IA embarqué pourrait potentiellement fonctionner à la vitesse d'une conversation, générer des images et du texte beaucoup plus rapidement, résumer des articles plus vite, etc. Or, la solution d'Apple signifie que les utilisateurs n'ont pas forcément besoin d'une grande quantité de RAM pour accélérer la réactivité des tâches d'IA embarquée.

L'approche d'Apple pourrait permettre aux iPhone, anciens comme nouveaux, de proposer des fonctionnalités d'intelligence artificielle directement intégrées. C'est important car les iPhone d'Apple offrent généralement moins de mémoire vive que les smartphones Android haut de gamme. La gamme iPhone 11, par exemple, ne propose que 4 Go de RAM, tandis que même l'iPhone 15 standard n'en possède que 6 Go.

Apple n'est pas la seule entreprise du secteur mobile à travailler sur la miniaturisation des puces LLM. Les puces haut de gamme récentes de Qualcomm et MediaTek prennent toutes deux en charge la précision INT4, permettant ainsi de réduire la taille de ces modèles. Quoi qu'il en soit, les entreprises cherchent de nouvelles façons de diminuer les exigences système pour l'IA embarquée, afin que même les téléphones d'entrée de gamme puissent proposer cette fonctionnalité.

Lien source: https://thanhnien.vn/cach-apple-dua-ai-tong-hop-vao-iphone-doi-cu-185231222160500661.htm