Apple, Sentetik Yapay Zekayı Eski iPhone'lara Nasıl Yerleştiriyor?

Android Authority'ye göre, Apple'ın araştırma makalesi, sınırlı RAM'e sahip cihazlarda büyük dil modelleri (LLM) çalıştırmak için bir çözümün ayrıntılarını veriyor. Makale, şirketin "model parametrelerini" nasıl depolayıp gerektiğinde bunların bir kısmını cihazın RAM'ine yükleyebileceğini, tüm modeli RAM'e yüklemek yerine nasıl yükleyebileceğini açıklıyor.

Apple, daha az RAM'e sahip eski iPhone'ların genel yapay zekayı çalıştırmasına yardımcı olmayı hedefliyor

Makalede, bu yöntemin, bir iPhone'un sahip olabileceği RAM'in iki katını gerektiren modelleri çalıştırmaya izin verdiği ve aynı zamanda CPU ve GPU'da sırasıyla basit yükleme yöntemlerine kıyasla 4-5 kat ve 20-25 kat çıkarım hızı sağladığı iddia ediliyor.

Daha fazla RAM'e sahip bir cihazda sentetik yapay zeka kullanmak, daha hızlı okuma/yazma hızları sağlayacağı için büyük bir avantaj sağlayacaktır. Hız, cihaz içi yapay zeka için önemlidir ve kullanıcıların bir yanıt veya nihai sonuç için onlarca saniye (veya daha fazla) beklemesi gerekmediği için çok daha hızlı çıkarım süreleri sağlar. Tüm bunlar, cihaz içi bir yapay zeka asistanının potansiyel olarak konuşma hızında çalışabileceği, çok daha hızlı resim/metin oluşturabileceği, makaleleri daha hızlı özetleyebileceği vb. anlamına gelir. Ancak Apple'ın çözümü, kullanıcıların cihaz içi yapay zeka görev yanıt hızını artırmak için mutlaka çok fazla RAM'e ihtiyaç duymadığı anlamına gelir.

Apple'ın yaklaşımı, hem eski hem de yeni iPhone'ların kendi cihazlarında sentetik yapay zeka özellikleri sunmasına olanak tanıyabilir. Bu önemli çünkü Apple'ın iPhone'ları genellikle üst düzey Android telefonlardan daha az RAM sunuyor. Örneğin, iPhone 11 serisi yalnızca 4 GB RAM sunarken, normal iPhone 15 bile yalnızca 6 GB RAM'e sahip.

Apple, LLM programını küçültmeye çalışan tek mobil şirket değil. Qualcomm ve MediaTek'in son amiral gemisi yongaları, bu modelleri küçültmek için INT4 hassasiyetini destekliyor. Her iki durumda da şirketler, cihaz içi yapay zeka için sistem gereksinimlerini azaltmanın ve düşük kaliteli telefonların bile bu özelliği sunmasını sağlamanın yeni yollarını bulmaya çalışıyor.

Kaynak bağlantısı: https://thanhnien.vn/cach-apple-dua-ai-tong-hop-vao-iphone-doi-cu-185231222160500661.htm