Gemma 4 26B-A4BはGemma系の、MoE(全体25.81Bのうち、1語ごとに計算するのは約4B)のモデルです。MoEで速い。用途の目安は汎用(会話・文章作成)、扱える文脈の長さは最大256K(公開 2026年3月11日)。
| 量子化 | 文脈8K | 文脈32K | 文脈128K |
|---|---|---|---|
| Q4_K_M(4bit・定番) | 17.0GB | 17.8GB | 20.8GB |
| Q5_K_M(5bit) | 19.8GB | 20.6GB | 23.6GB |
| Q6_K(6bit) | 22.8GB | 23.5GB | 26.5GB |
| Q8_0(8bit・ほぼ劣化なし) | 29.0GB | 29.8GB | 32.8GB |
| BF16(無圧縮) | 53.7GB | 54.5GB | 57.5GB |
迷ったら Q4_K_M(4bit)が定番です。文脈(一度に読ませる長さ)を伸ばすほど、会話の記憶分のメモリが増えます。MoEモデルは、メモリには全体が必要ですが、速度は計算する分(約4B)で決まるため、サイズの割に速く動きます。
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Radeon RX 7900 XT VRAM 20GB | Q4_K_M | 17.0GB | ◎ 余裕 | 快適(100+ tok/秒) | 約178,498円 |
| RTX 3090 VRAM 24GB | Q6_K | 22.8GB | ○ ギリギリ | 快適(100+ tok/秒) | 約330,791円 |
| Radeon RX 7900 XTX VRAM 24GB | Q6_K | 22.8GB | ○ ギリギリ | 快適(100+ tok/秒) | 約359,800円 |
| RTX 4090 VRAM 24GB | Q6_K | 22.8GB | ○ ギリギリ | 快適(100+ tok/秒) | 約848,000円 |
| RTX 5090 VRAM 32GB | Q8_0 | 29.0GB | ○ ギリギリ | 快適(100+ tok/秒) | 約1,189,800円 |
丸ごと載る中で一番安いのは Radeon RX 7900 XT(価格.com最安 約178,498円・2026-10-14時点)です。 楽天Amazon
グラボだけでなくPC一式で買うなら、BTOパソコンのショップでグラボを選んで構成できます。目安は VRAM 20GB以上 のグラボです(例:RTX 5090)。
パーツの型番まで選べるショップなら パソコンショップSEVENでBTOパソコンを見る
静かさや冷却にこだわるなら BTOパソコンのサイコム![]()
量子化を3bit以下まで下げれば載りますが、回答の質が目に見えて落ちます。お試し向けです。
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Radeon RX 9060 XT 16GB VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(53 tok/秒) | 約84,980円 |
| Radeon RX 7800 XT VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約104,700円 |
| Radeon RX 7600 XT VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(48 tok/秒) | 約108,800円 |
| Radeon RX 6800 VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(85 tok/秒) | 約117,261円 |
| Radeon RX 9070 VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約119,800円 |
| Radeon RX 9070 XT VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約134,700円 |
| RTX 5060 Ti 16GB VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(87 tok/秒) | 約134,800円 |
| RTX 5070 Ti VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約209,800円 |
| RTX 5080 VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約267,700円 |
| RTX 4060 Ti 16GB VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(56 tok/秒) | 約268,800円 |
| RTX 4080 VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約308,800円 |
| RTX 4070 Ti SUPER VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約337,737円 |
| RTX 4080 SUPER VRAM 16GB | IQ4_XS | 15.5GB | ○ ギリギリ | 快適(100+ tok/秒) | 約356,340円 |
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Mac M4 Pro(48GB) 共有メモリ 48GB | Q8_0 | 29.0GB | ◎ 余裕 | 実用的(25 tok/秒) | — |
| Ryzen AI Max+ 395(128GB) 共有メモリ 128GB | BF16 | 53.7GB | ◎ 余裕 | やや遅い(12 tok/秒) | — |
| Mac M4 Max(128GB) 共有メモリ 128GB | BF16 | 53.7GB | ◎ 余裕 | 実用的(27 tok/秒) | — |
| Mac M3 Ultra(256GB) 共有メモリ 256GB | BF16 | 53.7GB | ◎ 余裕 | 実用的(40 tok/秒) | — |
動きますが、速度は大きく落ちます。
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Radeon RX 7600 VRAM 8GB | Q4_K_M | 17.0GB | △ 溢れる | やや遅い(13 tok/秒) | 約39,800円 |
| Intel Arc B580 VRAM 12GB | Q4_K_M | 17.0GB | △ 溢れる | 実用的(21 tok/秒) | 約42,728円 |
| RTX 5050 VRAM 8GB | Q4_K_M | 17.0GB | △ 溢れる | やや遅い(13 tok/秒) | 約53,980円 |
| RTX 3060 12GB VRAM 12GB | Q4_K_M | 17.0GB | △ 溢れる | 実用的(21 tok/秒) | 約54,800円 |
| RTX 3070 VRAM 8GB | Q4_K_M | 17.0GB | △ 溢れる | やや遅い(14 tok/秒) | 約61,500円 |
| RTX 5060 VRAM 8GB | Q4_K_M | 17.0GB | △ 溢れる | やや遅い(14 tok/秒) | 約67,800円 |
| RTX 5060 Ti 8GB VRAM 8GB | Q4_K_M | 17.0GB | △ 溢れる | やや遅い(14 tok/秒) | 約72,800円 |
| RTX 4060 VRAM 8GB | Q4_K_M | 17.0GB | △ 溢れる | やや遅い(13 tok/秒) | 約75,000円 |
導入の手順は ローカルLLMの始め方(Ollama・LM Studioの違い) にまとめています。
計算は llama.cpp(Ollama・LM Studio)でGGUF形式を使う場合の目安で、±10〜20%程度ずれることがあります。モデルの諸元は配布元の設定ファイル(config.json)から算出(データ更新 2026年9月27日)、価格は価格.comの最安値(2026-10-14)。