Fit check
Il mio Mac può eseguire un LLM locale? Verifica memoria per modello
Risposta diretta alla domanda più comune prima di comprare un Mac per l'IA locale: questo modello entra davvero in questa macchina? La tabella usa la stessa aritmetica di capacità dell'esploratore: dimensioni pubbliche dei pesi contro memoria unificata utilizzabile.
Risposta breve
Un Mac può eseguire un modello locale solo se i pesi memorizzati entrano nella memoria unificata utilizzabile dopo macOS, runtime e riserve di contesto. Regola di pianificazione: circa il 75% della memoria unificata è utilizzabile, tieni 4GB per runtime e contesto, e una quantizzazione a 4 bit richiede circa 0.6GB per miliardo di parametri. Oltre questa aritmetica scegli velocità e flusso di lavoro, non capacità.
Il livello Mac minimo per ogni modello attuale
Ogni riga riusa l'aritmetica dell'engine: la memoria utilizzabile è il 75% della memoria unificata meno una riserva di 4GB per runtime e contesto, e un livello è al limite se restano meno di 4GB. Il primo livello con margine reale usa la stessa soglia della card decisionale dell'esploratore. Tocca un modello per aprirlo nell'esploratore interattivo.
| Modello | Pesi (quantizzazione) | Livello minimo che entra | Primo livello con margine reale | 16GB Mac mini M6 |
|---|---|---|---|---|
| Qwen3.8 27B (27B) | 16.06GB · dimensione file verificata (Q4_0) | Mac mini M6 · 32GB · Al limite · 3.94GB GB liberi | Mac mini M5 Pro · 48GB · 15.94GB GB liberi | Non entra |
| Qwen3.8-Flash-Next 180B (6B active) (180B total · 6B active) | 360GB · dimensione file verificata (BF16) | Mac Studio M5 Ultra · 512GB · Con margine · 20GB GB liberi | Mac Studio M5 Ultra · 512GB · 20GB GB liberi | Non entra |
| Qwen3.8 2.4T-A95B (2400B total · 95B active) | 1440GB · stima di pianificazione (Q4_K_M) | Nessun Mac del catalogo lo contiene | — | Non entra |
| DeepSeek-V4-Flash 284B-A13B (284B total · 13B active) | 170.4GB · stima di pianificazione (MLX-4bit) | Mac Studio M5 Ultra · 256GB · Con margine · 17.6GB GB liberi | Mac Studio M5 Ultra · 256GB · 17.6GB GB liberi | Non entra |
| DeepSeek-V4-Pro 1.6T-A49B (1600B total · 49B active) | 960GB · stima di pianificazione (MLX-4bit) | Nessun Mac del catalogo lo contiene | — | Non entra |
| GLM-5.3-Flash 320B-A18B (320B total · 18B active) | 203.99GB · dimensione file verificata (MLX-4bit) | Mac Studio M5 Ultra · 512GB · Con margine · 176.01GB GB liberi | Mac Studio M5 Ultra · 512GB · 176.01GB GB liberi | Non entra |
| GLM-5.3 744B-A40B (744B total · 40B active) | 446.4GB · stima di pianificazione (MLX-4bit) | Nessun Mac del catalogo lo contiene | — | Non entra |
| Gemma 4 E2B (5.1B) | 3.35GB · dimensione file verificata (Q4_0) | Mac mini M6 · 16GB · Con margine · 4.65GB GB liberi | Mac mini M6 · 16GB · 4.65GB GB liberi | Con margine |
| Gemma 4 12B Unified (11.95B) | 6.98GB · dimensione file verificata (Q4_0) | Mac mini M6 · 16GB · Al limite · 1.02GB GB liberi | Mac mini M6 · 24GB · 7.02GB GB liberi | Al limite |
| Gemma 4 26B-A4B (25.2B total · 3.8B active) | 14.44GB · dimensione file verificata (Q4_0) | Mac mini M6 · 32GB · Con margine · 5.56GB GB liberi | Mac mini M6 · 32GB · 5.56GB GB liberi | Non entra |
Come funziona l'aritmetica
- I pesi memorizzati sono il vincolo di capacità. Il file del modello deve prima entrare. Nei MoE conta l'intero pacchetto: i parametri attivi non riducono il fabbisogno.
- La memoria utilizzabile è meno del numero in scheda. Pianifica il 75% della memoria unificata per il modello e tieni 4GB per macOS, runtime e un contesto utile; un Mac da 16GB pianifica circa 8GB di pesi.
- Al limite contro margine. Se dopo i pesi restano meno di 4GB, prompt lunghi, agenti e job concorrenti possono superare il limite: quel livello è al limite, non con margine.
Quando la risposta è no
Se il modello non entra, un chip più veloce non cambia la risposta: il vincolo è la memoria. Opzioni realistiche per costo: una quantizzazione più piccola dello stesso modello, un modello più piccolo o distillato che basti, o lasciare quel carico a un'API cloud e riservare il Mac ai modelli che entrano. Non comprare un Mac Studio con memoria massima per un unico modello il cui runtime su Mac non è ancora verificato; controlla prima le prove del runtime.
Strumento interattivo
Controlla la tua configurazione esatta.
Scegli modello, quantizzazione e runtime per vedere il budget dei pesi, la memoria residua e il passo successivo verso l'advisor gratuito.
Domande frequenti
Prima capisci il limite di capacità.
Un Mac da 16GB può eseguire un modello 70B?
No. Un 70B a 4 bit memorizza circa 42GB di pesi, mentre un Mac da 16GB pianifica circa 8GB dopo le riserve. Non è un problema di velocità: i pesi non entrano. Anche un 32B in Q4 (circa 20GB) su un Mac da 32GB resta al limite dopo le riserve.
I parametri attivi MoE riducono la memoria necessaria?
No. I modelli mixture-of-experts memorizzano comunque tutti gli esperti. I parametri attivi spiegano il calcolo per token, non la capacità. Un 284B-A13B richiede molta più memoria di quanto i 13B attivi facciano pensare.
'Entra con margine' promette che girerà bene?
No. L'adattamento risponde solo se i pesi entrano nel budget. Prefill, contesto lungo, chiamate a strumenti, concorrenza e comportamento prolungato dipendono da modello, runtime (MLX, Ollama, llama.cpp) e client e vanno verificati a parte.
Quale Mac comprare per LLM locali nel 2026?
Parti dal modello, non dal nome del chip. Usa la tabella per il livello minimo con margine reale, poi porta lunghezza del contesto, concorrenza e budget nell'advisor gratuito. La guida completa confronta Mac mini M6, M5 Pro e Mac Studio per carico di lavoro.
Le dimensioni dei pesi sono verificate?
Le righe con dimensione verificata usano byte pubblici esatti da repository ufficiali o della community, controllati il 2026-08-28. Quelle con stima usano la regola di 0.6GB per miliardo di parametri e restano stime finché non si legge un file esatto.
Porta il tuo flusso reale
Trasforma la capacità in una decisione d'acquisto.
L'advisor gratuito aggiunge il tuo Mac attuale, contesto, concorrenza, budget, compatibilità e requisiti offline. La capacità è solo una parte della decisione.
Keep or Upgrade è uno strumento indipendente; Apple non sponsorizza né approva questa pagina.