本ページはプロモーション（楽天市場・Amazon・BTOパソコンショップのアフィリエイトリンク）を含みます
Qwen3-Swallow 32Bをローカルで動かすには
Qwen3-Swallow 32Bは日本語向けに強化された、32.76Bのモデルです。東京科学大・日本語強化。扱える文脈の長さは最大40K（公開 2026年2月1日）。
23.1GB4bit（Q4_K_M）・文脈8Kで必要なメモリ
必要なメモリ（量子化×文脈の長さ）
| 量子化 | 文脈8K | 文脈32K |
|---|---|---|
| Q4_K_M（4bit・定番） | 23.1GB | 29.8GB |
| Q5_K_M（5bit） | 26.6GB | 33.3GB |
| Q6_K（6bit） | 30.4GB | 37.1GB |
| Q8_0（8bit・ほぼ劣化なし） | 38.3GB | 45.0GB |
| BF16（無圧縮） | 69.7GB | 76.3GB |
迷ったら Q4_K_M（4bit）が定番です。文脈（一度に読ませる長さ）を伸ばすほど、会話の記憶分のメモリが増えます。
VRAMに丸ごと載るグラボ（4機種・4bit以上・文脈8K・安い順）
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| RTX 3090 VRAM 24GB | Q4_K_M | 23.1GB | ○ ギリギリ | 実用的（33 tok/秒） | 約330,791円 |
| Radeon RX 7900 XTX VRAM 24GB | Q4_K_M | 23.1GB | ○ ギリギリ | 実用的（29 tok/秒） | 約359,800円 |
| RTX 4090 VRAM 24GB | Q4_K_M | 23.1GB | ○ ギリギリ | 実用的（36 tok/秒） | 約848,000円 |
| RTX 5090 VRAM 32GB | Q6_K | 30.4GB | ○ ギリギリ | 快適（46 tok/秒） | 約1,189,800円 |
丸ごと載る中で一番安いのは RTX 3090（価格.com最安 約330,791円・2026-10-14時点）です。 楽天Amazon
PCごと買うなら（BTOパソコン）
グラボだけでなくPC一式で買うなら、BTOパソコンのショップでグラボを選んで構成できます。目安は VRAM 24GB以上 のグラボです（例：RTX 5090）。
パーツの型番まで選べるショップなら パソコンショップSEVENでBTOパソコンを見る
静かさや冷却にこだわるなら BTOパソコンのサイコム
品質を下げれば載るグラボ（3bit以下）
量子化を3bit以下まで下げれば載りますが、回答の質が目に見えて落ちます。お試し向けです。
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Radeon RX 7900 XT VRAM 20GB | Q3_K_M | 19.3GB | ○ ギリギリ | 実用的（30 tok/秒） | 約178,498円 |
Mac・共有メモリのPC（Ryzen AI Max など）で動く構成
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Mac M4 Pro（48GB） 共有メモリ 48GB | Q6_K | 30.4GB | ◎ 余裕 | やや遅い（6.1 tok/秒） | — |
| Ryzen AI Max+ 395（128GB） 共有メモリ 128GB | BF16 | 69.7GB | ◎ 余裕 | かなり遅い（2.3 tok/秒） | — |
| Mac M4 Max（128GB） 共有メモリ 128GB | BF16 | 69.7GB | ◎ 余裕 | やや遅い（5.0 tok/秒） | — |
| Mac M3 Ultra（256GB） 共有メモリ 256GB | BF16 | 69.7GB | ◎ 余裕 | やや遅い（7.5 tok/秒） | — |
メインメモリ32GBに一部を逃がせば動くグラボ（29機種）
動きますが、速度は大きく落ちます。
| GPU・PC | おすすめの量子化 | 必要メモリ | 判定 | 速度の目安 | 価格.com最安 |
|---|---|---|---|---|---|
| Radeon RX 7600 VRAM 8GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.1 tok/秒） | 約39,800円 |
| Intel Arc B580 VRAM 12GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.8 tok/秒） | 約42,728円 |
| RTX 5050 VRAM 8GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.2 tok/秒） | 約53,980円 |
| RTX 3060 12GB VRAM 12GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.8 tok/秒） | 約54,800円 |
| RTX 3070 VRAM 8GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.2 tok/秒） | 約61,500円 |
| RTX 5060 VRAM 8GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.2 tok/秒） | 約67,800円 |
| RTX 5060 Ti 8GB VRAM 8GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.2 tok/秒） | 約72,800円 |
| RTX 4060 VRAM 8GB | Q4_K_M | 23.1GB | △ 溢れる | かなり遅い（2.2 tok/秒） | 約75,000円 |
入手先
- モデルの配布元：Hugging Face（tokyotech-llm/Qwen3-Swallow-32B-RL-v0.2）。ライセンス（商用利用の可否）は配布元のページで確認してください
- Ollamaで使う：Ollamaのモデル一覧で探す（量子化済みのものをコマンド1行で導入できます）
- LM Studioで使う：アプリ内の検索で「Qwen3-Swallow 32B」と入れ、GGUF形式のファイルを選びます
導入の手順は ローカルLLMの始め方（Ollama・LM Studioの違い） にまとめています。
同じ系列のモデル
llm-jp-4 8B thinking8.59B・Q4で約7.1GBQwen3-Swallow 8B8.19B・Q4で約7.0GBllm-jp-4 33B thinking33.22B・Q4で約23.4GB
ほかのモデル
Qwen3.5 4BQwen・Q4で約3.8GBGemma 4 E4BGemma・Q4で約5.8GBQwen3 8BQwen・Q4で約7.0GBLlama 3.1 8BLlama・Q4で約6.7GBMinistral 3 8BMistral・Q4で約7.3GBDeepSeek-R1-0528-Qwen3-8BDeepSeek・Q4で約7.0GBQwen3.5 9BQwen・Q4で約6.9GBGemma 4 12BGemma・Q4で約8.5GBMinistral 3 14BMistral・Q4で約10.7GBQwen3 14BQwen・Q4で約11.2GBgpt-oss-20bOpenAI・Q4で約13.2GBDevstral Small 2 24BMistral・Q4で約16.9GBGemma 4 26B-A4BGemma・Q4で約17.0GBQwen3.8 27BQwen・Q4で約18.4GBQwen3-Coder 30B-A3BQwen・Q4で約20.4GBGLM-4.7-FlashGLM・Q4で約20.4GBNemotron 3 Nano 30B-A3BNVIDIA・Q4で約20.3GBGemma 4 31BGemma・Q4で約21.5GBQwen3 32BQwen・Q4で約23.1GBQwen3.6 35B-A3BQwen・Q4で約23.1GBLlama 3.3 70BLlama・Q4で約47.0GBQwen3-Next 80B-A3BQwen・Q4で約51.2GBgpt-oss-120bOpenAI・Q4で約65.6GBMistral Small 4 119BMistral・Q4で約74.7GBQwen3.5 122B-A10BQwen・Q4で約78.2GB
あわせて読みたい
ローカルLLMの始め方Ollama・LM Studioの違いと、日本語で使えるおすすめモデル
AI用グラフィックボードの選び方VRAM別の目安と2026年の価格動向
RTX 5060 Ti 16GBと5070 Tiの比較AI用途ならどっちを買うか
計算は llama.cpp（Ollama・LM Studio）でGGUF形式を使う場合の目安で、±10〜20%程度ずれることがあります。モデルの諸元は配布元の設定ファイル（config.json）から算出（データ更新 2026年9月27日）、価格は価格.comの最安値（2026-10-14）。