ローカルモデル証拠
Macローカルモデルライブラリ
モデル、量子化ファイル、ユニファイドメモリ、ランタイム、作業証拠を分けます。
正確なモデルとファイル容量を確認して容量を判断し、ランタイムと実作業は独立した状態にします。
モデルと重み
パラメータ、MoEの有効パラメータ、保存パッケージは同じ数字ではありません。
Mac構成
容量が前提で、メモリ帯域幅とGPUは収まった後の別工程に効きます。
証拠状態
公式、プロジェクト検証、コミュニティ未検証、保留、失敗を分けます。
ローカルAI Advisorへ
正確なモデルとファイル容量を確認して容量を判断し、ランタイムと実作業は独立した状態にします。