Publié le 29 oct. 2024
Puce Apple Silicon aux performances exceptionnelles pour le développement mobile et l'inférence edge.
Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Apple M4 Max.
La puce Apple haut de gamme : jusqu'à 256 Go de mémoire unifiée sur Mac Studio. La manière la plus simple d'exécuter des modèles 70B et plus, CPU et GPU partageant la même mémoire.
Il chip Apple Silicon di punta per l'IA locale: 18 core CPU e 40 core GPU con memoria unificata fino a 128GB a 614 GB/s. Il Neural Accelerator su ogni core GPU raddoppia la velocità dei modelli MoE in decode rispetto alla generazione M4: ~88 tok/s su gpt-oss-120b, il più veloce della classe.
Il desktop compatto di Apple con il chip M6, primo processore Apple in 2nm: 12 core CPU, 12 core GPU con Neural Accelerator in ogni core e Neural Engine doppio da 16 core. 16GB di memoria unificata di serie (fino a 32GB, 170 GB/s), Wi-Fi 7, Thunderbolt 5. La piattaforma d'ingresso per IA locale: modelli fino a ~20B quantizzati a 4 bit girano interamente sul dispositivo, e la versione M5 Pro arriva a 64GB e 307 GB/s.
