本ページはプロモーション(楽天市場・Amazon・BTOパソコンショップのアフィリエイトリンク)を含みます

Llama 3.3 70Bをローカルで動かすには

Llama 3.3 70BはLlama系の、70.55Bのモデルです。70Bの定番。用途の目安は汎用(会話・文章作成)、扱える文脈の長さは最大128K(公開 2024年12月6日)。

47.0GB4bit(Q4_K_M)・文脈8Kで必要なメモリ

量子化・文脈の長さを変えて計算する →

必要なメモリ(量子化×文脈の長さ)

量子化文脈8K文脈32K文脈128K
Q4_K_M(4bit・定番)47.0GB55.3GB88.5GB
Q5_K_M(5bit)54.6GB62.9GB96.1GB
Q6_K(6bit)62.7GB71.0GB104GB
Q8_0(8bit・ほぼ劣化なし)79.8GB88.1GB121GB
BF16(無圧縮)147GB156GB189GB

迷ったら Q4_K_M(4bit)が定番です。文脈(一度に読ませる長さ)を伸ばすほど、会話の記憶分のメモリが増えます。

VRAMに丸ごと載るグラボ(0機種・4bit以上・文脈8K・安い順)

今回比較したグラボ1枚には丸ごと載りません。メインメモリに一部を逃がすか、メモリの大きいMacを検討してください。

PCごと買うなら(BTOパソコン)

グラボだけでなくPC一式で買うなら、BTOパソコンのショップでグラボを選んで構成できます。このモデルは4bitで丸ごと載るグラボがないため、メインメモリを多め(64GB以上)に積んで一部を逃がす構成か、下のMac・共有メモリのPCを検討してください。

【FRONTIER】

パーツの型番まで選べるショップなら パソコンショップSEVENでBTOパソコンを見る

静かさや冷却にこだわるなら BTOパソコンのサイコム

Mac・共有メモリのPC(Ryzen AI Max など)で動く構成

GPU・PCおすすめの量子化必要メモリ判定速度の目安価格.com最安
Ryzen AI Max+ 395(128GB)
共有メモリ 128GB
Q8_079.8GB◎ 余裕かなり遅い(2.0 tok/秒)—
Mac M4 Max(128GB)
共有メモリ 128GB
Q8_079.8GB◎ 余裕かなり遅い(4.4 tok/秒)—
Mac M3 Ultra(256GB)
共有メモリ 256GB
BF16147GB◎ 余裕かなり遅い(3.5 tok/秒)—

メインメモリ32GBに一部を逃がせば動くグラボ(4機種)

動きますが、速度は大きく落ちます。

GPU・PCおすすめの量子化必要メモリ判定速度の目安価格.com最安
RTX 3090
VRAM 24GB
Q4_K_M47.0GB△ 溢れるかなり遅い(1.4 tok/秒)約330,791円
Radeon RX 7900 XTX
VRAM 24GB
Q4_K_M47.0GB△ 溢れるかなり遅い(1.4 tok/秒)約359,800円
RTX 4090
VRAM 24GB
Q4_K_M47.0GB△ 溢れるかなり遅い(1.4 tok/秒)約848,000円
RTX 5090
VRAM 32GB
Q4_K_M47.0GB△ 溢れるかなり遅い(2.2 tok/秒)約1,189,800円

入手先

導入の手順は ローカルLLMの始め方(Ollama・LM Studioの違い) にまとめています。

同じ系列のモデル

ほかのモデル

あわせて読みたい

計算は llama.cpp(Ollama・LM Studio)でGGUF形式を使う場合の目安で、±10〜20%程度ずれることがあります。モデルの諸元は配布元の設定ファイル(config.json)から算出(データ更新 2026年9月27日)、価格は価格.comの最安値(2026-10-14)。