Mistral Small 4 119BはMistral系の、MoE(全体119.4Bのうち、1語ごとに計算するのは約6.5B)のモデルです。大型MoE。用途の目安は汎用(会話・文章作成)、扱える文脈の長さは最大1024K(公開 2026年1月23日)。
| 量子化 | 文脈8K | 文脈32K | 文脈128K |
|---|---|---|---|
| Q4_K_M(4bit・定番) | 74.7GB | 75.5GB | 78.8GB |
| Q5_K_M(5bit) | 87.6GB | 88.5GB | 91.7GB |
| Q6_K(6bit) | 101GB | 102GB | 105GB |
| Q8_0(8bit・ほぼ劣化なし) | 130GB | 131GB | 134GB |
| BF16(無圧縮) | 244GB | 245GB | 249GB |
迷ったら Q4_K_M(4bit)が定番です。文脈(一度に読ませる長さ)を伸ばすほど、会話の記憶分のメモリが増えます。MoEモデルは、メモリには全体が必要ですが、速度は計算する分(約6.5B)で決まるため、サイズの割に速く動きます。
今回比較したグラボ1枚には丸ごと載りません。メインメモリに一部を逃がすか、メモリの大きいMacを検討してください。
グラボだけでなくPC一式で買うなら、BTOパソコンのショップでグラボを選んで構成できます。このモデルは4bitで丸ごと載るグラボがないため、メインメモリを多め(64GB以上)に積んで一部を逃がす構成か、下のMac・共有メモリのPCを検討してください。
パーツの型番まで選べるショップなら パソコンショップSEVENでBTOパソコンを見る
静かさや冷却にこだわるなら BTOパソコンのサイコム![]()
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Ryzen AI Max+ 395(128GB) 共有メモリ 128GB | Q5_K_M | 87.6GB | ○ ギリギリ | 実用的(21 tok/秒) | — |
| Mac M4 Max(128GB) 共有メモリ 128GB | Q5_K_M | 87.6GB | ○ ギリギリ | 快適(45 tok/秒) | — |
| Mac M3 Ultra(256GB) 共有メモリ 256GB | Q8_0 | 130GB | ◎ 余裕 | 快適(46 tok/秒) | — |
導入の手順は ローカルLLMの始め方(Ollama・LM Studioの違い) にまとめています。
計算は llama.cpp(Ollama・LM Studio)でGGUF形式を使う場合の目安で、±10〜20%程度ずれることがあります。モデルの諸元は配布元の設定ファイル(config.json)から算出(データ更新 2026年9月27日)、価格は価格.comの最安値(2026-10-14)。