本ページはプロモーション(楽天市場・Amazon・BTOパソコンショップのアフィリエイトリンク)を含みます

Qwen3.5 4Bをローカルで動かすには

Qwen3.5 4BはQwen系の、4.66Bのモデルです。軽量・画像入力対応。用途の目安は汎用(会話・文章作成)、扱える文脈の長さは最大256K(公開 2026年2月27日)。

3.8GB4bit(Q4_K_M)・文脈8Kで必要なメモリ

量子化・文脈の長さを変えて計算する →

必要なメモリ(量子化×文脈の長さ)

量子化文脈8K文脈32K文脈128K
Q4_K_M(4bit・定番)3.8GB4.9GB9.1GB
Q5_K_M(5bit)4.3GB5.4GB9.6GB
Q6_K(6bit)4.9GB5.9GB10.1GB
Q8_0(8bit・ほぼ劣化なし)6.0GB7.1GB11.3GB
BF16(無圧縮)10.5GB11.5GB15.7GB

迷ったら Q4_K_M(4bit)が定番です。文脈(一度に読ませる長さ)を伸ばすほど、会話の記憶分のメモリが増えます。

VRAMに丸ごと載るグラボ(34機種・4bit以上・文脈8K・安い順)

GPU・PCおすすめの量子化必要メモリ判定速度の目安価格.com最安
Radeon RX 7600
VRAM 8GB
Q8_06.0GB◎ 余裕実用的(35 tok/秒)約39,800円
Intel Arc B580
VRAM 12GB
BF1610.5GB◎ 余裕実用的(29 tok/秒)約42,728円
RTX 5050
VRAM 8GB
Q8_06.0GB◎ 余裕快適(45 tok/秒)約53,980円
RTX 3060 12GB
VRAM 12GB
BF1610.5GB◎ 余裕実用的(27 tok/秒)約54,800円
RTX 3070
VRAM 8GB
Q8_06.0GB◎ 余裕快適(63 tok/秒)約61,500円
RTX 5060
VRAM 8GB
Q8_06.0GB◎ 余裕快適(63 tok/秒)約67,800円
RTX 5060 Ti 8GB
VRAM 8GB
Q8_06.0GB◎ 余裕快適(63 tok/秒)約72,800円
RTX 4060
VRAM 8GB
Q8_06.0GB◎ 余裕実用的(38 tok/秒)約75,000円
RTX 3060 Ti
VRAM 8GB
Q8_06.0GB◎ 余裕快適(63 tok/秒)約82,671円
Radeon RX 6700 XT
VRAM 12GB
BF1610.5GB◎ 余裕実用的(25 tok/秒)約84,800円
Radeon RX 9060 XT 16GB
VRAM 16GB
BF1610.5GB◎ 余裕実用的(21 tok/秒)約84,980円
RTX 4060 Ti 8GB
VRAM 8GB
Q8_06.0GB◎ 余裕快適(41 tok/秒)約101,000円
Radeon RX 7800 XT
VRAM 16GB
BF1610.5GB◎ 余裕快適(40 tok/秒)約104,700円
Radeon RX 7600 XT
VRAM 16GB
BF1610.5GB◎ 余裕実用的(19 tok/秒)約108,800円
Radeon RX 6800
VRAM 16GB
BF1610.5GB◎ 余裕実用的(33 tok/秒)約117,261円
Radeon RX 9070
VRAM 16GB
BF1610.5GB◎ 余裕快適(41 tok/秒)約119,800円
RTX 3080(10GB)
VRAM 10GB
Q8_06.0GB◎ 余裕快適(100+ tok/秒)約132,580円
Radeon RX 9070 XT
VRAM 16GB
BF1610.5GB◎ 余裕快適(41 tok/秒)約134,700円
RTX 5060 Ti 16GB
VRAM 16GB
BF1610.5GB◎ 余裕実用的(34 tok/秒)約134,800円
RTX 5070
VRAM 12GB
BF1610.5GB◎ 余裕快適(50 tok/秒)約149,473円
RTX 4070 / SUPER
VRAM 12GB
BF1610.5GB◎ 余裕実用的(38 tok/秒)約168,000円
Radeon RX 7900 XT
VRAM 20GB
BF1610.5GB◎ 余裕快適(52 tok/秒)約178,498円
RTX 5070 Ti
VRAM 16GB
BF1610.5GB◎ 余裕快適(67 tok/秒)約209,800円
RTX 4070 Ti
VRAM 12GB
BF1610.5GB◎ 余裕実用的(38 tok/秒)約227,349円
RTX 5080
VRAM 16GB
BF1610.5GB◎ 余裕快適(72 tok/秒)約267,700円
RTX 4060 Ti 16GB
VRAM 16GB
BF1610.5GB◎ 余裕実用的(22 tok/秒)約268,800円
RTX 4080
VRAM 16GB
BF1610.5GB◎ 余裕快適(54 tok/秒)約308,800円
RTX 3090
VRAM 24GB
BF1610.5GB◎ 余裕快適(70 tok/秒)約330,791円
RTX 4070 Ti SUPER
VRAM 16GB
BF1610.5GB◎ 余裕快適(50 tok/秒)約337,737円
RTX 4080 SUPER
VRAM 16GB
BF1610.5GB◎ 余裕快適(55 tok/秒)約356,340円
Radeon RX 7900 XTX
VRAM 24GB
BF1610.5GB◎ 余裕快適(62 tok/秒)約359,800円
RTX 4090
VRAM 24GB
BF1610.5GB◎ 余裕快適(76 tok/秒)約848,000円
RTX 5090
VRAM 32GB
BF1610.5GB◎ 余裕快適(100+ tok/秒)約1,189,800円
RTX 2080 Ti
VRAM 11GB
BF1610.5GB○ ギリギリ快適(46 tok/秒)—

丸ごと載る中で一番安いのは Radeon RX 7600(価格.com最安 約39,800円・2026-10-14時点)です。 楽天Amazon

PCごと買うなら(BTOパソコン)

グラボだけでなくPC一式で買うなら、BTOパソコンのショップでグラボを選んで構成できます。目安は VRAM 8GB以上 のグラボです(例:RTX 5050)。

【FRONTIER】

パーツの型番まで選べるショップなら パソコンショップSEVENでBTOパソコンを見る

静かさや冷却にこだわるなら BTOパソコンのサイコム

Mac・共有メモリのPC(Ryzen AI Max など)で動く構成

GPU・PCおすすめの量子化必要メモリ判定速度の目安価格.com最安
Mac M4 Pro(48GB)
共有メモリ 48GB
BF1610.5GB◎ 余裕実用的(18 tok/秒)—
Ryzen AI Max+ 395(128GB)
共有メモリ 128GB
BF1610.5GB◎ 余裕実用的(16 tok/秒)—
Mac M4 Max(128GB)
共有メモリ 128GB
BF1610.5GB◎ 余裕実用的(35 tok/秒)—
Mac M3 Ultra(256GB)
共有メモリ 256GB
BF1610.5GB◎ 余裕快適(53 tok/秒)—

入手先

導入の手順は ローカルLLMの始め方(Ollama・LM Studioの違い) にまとめています。

同じ系列のモデル

ほかのモデル

あわせて読みたい

計算は llama.cpp(Ollama・LM Studio)でGGUF形式を使う場合の目安で、±10〜20%程度ずれることがあります。モデルの諸元は配布元の設定ファイル(config.json)から算出(データ更新 2026年9月27日)、価格は価格.comの最安値(2026-10-14)。