O meu Mac consegue executar um LLM local? Verificação de memória por modelo

O nível Mac mínimo para cada modelo atual

Cada linha reutiliza a aritmética do motor: a memória utilizável é 75% da memória unificada menos uma reserva de 4GB para runtime e contexto, e um nível é no limite se sobrarem menos de 4GB. O primeiro nível com folga real usa o mesmo limiar do cartão de decisão do explorador. Toque num modelo para o abrir no explorador interativo.

Como funciona a aritmética

1. Os pesos armazenados são a porta da capacidade. O ficheiro do modelo tem de caber primeiro. Nos MoE conta o pacote completo: os parâmetros ativos não reduzem a necessidade.
2. A memória utilizável é menor do que o número anunciado. Planeie 75% da memória unificada para o modelo e reserve 4GB para macOS, runtime e um contexto útil; um Mac de 16GB planeia cerca de 8GB de pesos.
3. No limite contra folga. Se sobrarem menos de 4GB depois dos pesos, prompts longos, agentes e tarefas concorrentes podem ultrapassar o limite: esse nível fica no limite, não com folga.

Quando a resposta é não

Se o modelo não cabe, um chip mais rápido não muda a resposta — a porta é a memória. Opções realistas por custo: uma quantização menor do mesmo modelo, um modelo mais pequeno ou destilado que baste, ou deixar essa carga numa API na cloud e reservar o Mac para modelos que caibam. Não compre um Mac Studio com memória máxima por um único modelo cujo runtime em Mac ainda não está verificado; veja primeiro a evidência de runtime.

Ver a matriz completa de evidências →