Cách Apple đưa AI tổng hợp vào iPhone đời cũ

Theo Android Authority, tài liệu nghiên cứu của Apple trình bày chi tiết về giải pháp chạy các mô hình ngôn ngữ lớn (LLM) trên các thiết bị có RAM hạn chế. Bài báo tiết lộ cách công ty có thể lưu trữ "các thông số mô hình" và đưa một phần của chúng vào RAM của thiết bị khi cần thiết thay vì tải toàn bộ mô hình vào RAM.

Apple tìm cách giúp những chiếc iPhone cũ có ít RAM có thể chạy AI tổng quát

Có thể bạn quan tâm

Các quốc gia nên phát triển AI tạo sinh bằng ngôn ngữ của mình

Những tính năng trên iOS 18 mà iPhone cũ có thể trải nghiệm?

5 mẫu iPhone cũ có giá tốt trong tháng 3

Bài báo cho rằng phương pháp này cho phép chạy các mô hình yêu cầu bộ nhớ RAM gấp đôi mà iPhone có thể có nhưng vẫn đảm bảo tốc độ suy luận tăng gấp 4 - 5 lần và 20 - 25 lần so với các phương pháp tải đơn giản vào CPU và GPU tương ứng.

Việc triển khai AI tổng hợp trên thiết bị có nhiều RAM sẽ mang lại lợi ích lớn vì nó cung cấp tốc độ đọc/ghi nhanh hơn. Tốc độ nhanh là điều quan trọng đối với AI trên thiết bị, cho phép thời gian suy luận nhanh hơn nhiều vì người dùng không nhất thiết phải đợi hàng chục giây (hoặc hơn) để nhận được phản hồi hoặc kết quả cuối cùng. Tất cả điều này có nghĩa một trợ lý AI trên thiết bị có khả năng chạy ở tốc độ đàm thoại, tạo hình ảnh/văn bản nhanh hơn nhiều, tóm tắt bài viết nhanh hơn… Nhưng giải pháp của Apple có nghĩa là người dùng không nhất thiết cần nhiều RAM để tăng tốc khả năng phản hồi nhiệm vụ AI trên thiết bị.

Cách tiếp cận của Apple có thể cho phép iPhone cũ và mới cung cấp các tính năng AI tổng hợp ngay trên thiết bị của mình. Đó là điều quan trọng vì iPhone của Apple thường cung cấp ít RAM hơn so với các điện thoại Android cao cấp. Ví dụ, dòng iPhone 11 chỉ cung cấp 4 GB bộ nhớ RAM, trong khi ngay cả iPhone 15 thông thường cũng chỉ có 6 GB bộ nhớ RAM.

Hoa Kỳ - Việt Nam: Đừng bỏ lỡ

Việt Nam khuyến khích doanh nghiệp Hoa Kỳ mở rộng đầu tư vào công nghệ caoSáng 26/6, tại Trụ sở Chính phủ, Phó Thủ tướng Hồ Quốc Dũng tiếp ông Jeff Place, Giám đốc Chuỗi cung ứng của Tập đoàn Coherent (Hoa Kỳ). Tại buổi tiếp, Phó Thủ tướng khẳng định Việt Nam khuyến khích các doanh nghiệp Hoa Kỳ mở rộng đầu tư, đặc biệt trong các lĩnh vực công nghệ cao, đổi mới sáng tạo và công nghiệp bán dẫn.

Khuyến khích các doanh nghiệp Hoa Kỳ mở rộng đầu tư trong lĩnh vực công nghệ caoPhó Thủ tướng Hồ Quốc Dũng cho biết Việt Nam hoan nghênh các doanh nghiệp Hoa Kỳ tiếp tục mở rộng hoạt động tại Việt Nam, nhất là trong các ngành công nghệ cao và lĩnh vực có giá trị gia tăng lớn.

Việt Nam - Hoa Kỳ tăng cường hợp tác khắc phục hậu quả chiến tranhVTV.vn - Ngày 22/6, Tổng Bí thư, Chủ tịch nước Tô Lâm tiếp Quyền Bộ trưởng Bộ Hải quân Hoa Kỳ Hùng Cao.

Apple không phải là hãng di động duy nhất nỗ lực thu nhỏ LLM. Các chip hàng đầu gần đây của Qualcomm và MediaTek đều hỗ trợ độ chính xác INT4 để thu nhỏ các mô hình này. Dù bằng cách nào, các công ty đều đang cố gắng tìm những giải pháp mới để giảm thiểu yêu cầu hệ thống đối với AI trên thiết bị, cho phép ngay cả điện thoại cấp thấp cũng có thể cung cấp tính năng này.

Source link: https://thanhnien.vn/cach-apple-dua-ai-tong-hop-vao-iphone-doi-cu-185231222160500661.htm