本地 AI 工作负载
用 Mac mini 跑本地大模型：怎么判断配置够不够？
不要从单一 AI 分数开始。模型文件、量化、上下文、并发、运行工具和工作流决定是否装得下、是否好用。
简短结论
先算容量：模型权重与上下文必须留在统一内存内；装得下以后，再看带宽、GPU、存储和持续运行。小模型不需要 Mac Studio，大模型也不能只靠更快芯片解决。
容量是硬门槛
统一内存需要同时容纳模型权重、KV Cache、系统与其他应用。只看参数量不够，还要看实际模型文件和量化。
速度来自不同环节
模型装下后，内存带宽主要影响逐 token 生成；GPU 计算更影响提示词预填、视觉与部分并行任务；持续负载还要看散热与功耗。
买前可以自己算三步
4-bit 量化下纯权重约每十亿参数 0.5GB，加上系统与上下文余量按约 0.6GB 规划；可用内存按统一内存的约 75% 估；生成速度 ≈ 带宽 ÷ 模型文件大小，实际再打 5～7.5 折。最后做比例检查：模型文件占统一内存一半以内通常宽裕，超过三分之二就属于临界配置，不建议凭「理论上装得下」下单。
什么时候不该为本地模型买 Mac
只要最强闭源模型（没有公开权重）、主业是大规模训练或微调（CUDA 生态更主流）、超长文档要求立刻开口（考验提示词算力）、每天只问几句（云 API 更便宜）、或要对外高并发服务时，云服务或 NVIDIA 工作站通常更合适。量化模型能装进 32GB 显存时，RTX 5090 这类独显通常更快；Mac 的优势是单机装下更大的模型，不是同等模型更快。
Agent 与 RAG 会增加余量需求
长上下文、工具调用、索引、多个会话、IDE 与浏览器并行会共同占用内存，不能按裸模型权重买到刚好。
本地与云端分开判断
隐私、离线、延迟或长期成本要求本地时，硬件更重要；主要使用云 API 时，本地峰值性能未必改变实际体验。
继续判断
- 开始本地 AI 判断填写模型、量化、上下文、运行工具和并发，查看最低安全配置。
- 指南先算容量：模型权重与上下文必须留在统一内存内；装得下以后，再看带宽、GPU、存储和持续运行。小模型不需要 Mac Studio，大模型也不能只靠更快芯片解决。
来源与限制
Keep or Upgrade 是独立的决策支持工具；Apple 不赞助或背书本页。
常见问题
购买前先回答关键问题。
用 Mac mini 跑本地大模型：怎么判断配置够不够？
先算容量：模型权重与上下文必须留在统一内存内；装得下以后，再看带宽、GPU、存储和持续运行。小模型不需要 Mac Studio，大模型也不能只靠更快芯片解决。
按模型与工作流计算
填写模型、量化、上下文、运行工具和并发，查看最低安全配置。
开始本地 AI 判断
按模型与工作流计算
填写模型、量化、上下文、运行工具和并发，查看最低安全配置。
Keep or Upgrade 是独立的决策支持工具；Apple 不赞助或背书本页。