# ローカルLLM VRAM早見表 (Local LLM VRAM Reference)

> Llama・Qwen・Gemma・Mistral・Phi・DeepSeek-R1蒸留など主要オープンLLM24モデルの必要VRAMを、量子化別(FP16/Q8/Q4/Q2)にパラメータ数×ビット幅から算術計算し、手持ちGPU(8/12/16/24GB)でどのモデルが動くかを逆引きできる日本語サイト。VRAMは実測ではなく算術目安。
> A Japanese-language site that computes required VRAM for 24 major open LLMs by quantization (FP16/Q8/Q4/Q2) from parameter count x bit-width, and reverse-looks-up which models run on 8/12/16/24GB GPUs. VRAM figures are arithmetic estimates, not measured values.

## About / 概要

- 目的 / Purpose: 主要オープンLLMの必要VRAMを量子化別に「パラメータ数×ビット幅÷8」で算出し、手持ちGPUでどのモデルが動くかを引けるようにする。
  Estimate required VRAM per quantization from parameter count and reverse-look-up which models fit a given GPU.
- 計算式 / Formulas: 重み(GB)=パラメータ数(B)×ビット幅(bpw)÷8。bpwはFP16=16 / Q8≒8.5 / Q4≒4.8 / Q2≒2.9。実効VRAM目安=重み×1.1+0.8GB(ランタイム作業領域+小さめのKVキャッシュ・コンテキスト約4K前提)。KVキャッシュ=2×層数×(KVヘッド数×ヘッド次元)×トークン数×2バイト÷1e9。
  Weights(GB)=params(B)×bpw/8; effective≈weights×1.1+0.8GB; KV cache scales with context length.
- 前提の開示 / Disclosure: 数値は実測値ではなく算術目安。量子化方式(K-quant派生)・コンテキスト長・ランタイム(llama.cpp/vLLM/Transformers)・OS予約で前後する。ぎりぎりのケースは実機確認を推奨。
  Figures are arithmetic estimates, not benchmarks; they vary by quant variant, context length, runtime and OS reservation.
- データ / Data: 各モデルのパラメータ数・ライセンス・コンテキスト長はHugging Face公式モデルカードを出典(全モデルにhf_urlを明記)。推測のパラメータ数は載せない。量子化ビット幅はllama.cpp(GGUF)の代表値。
  Parameter counts sourced from official Hugging Face model cards; quant bit-widths from llama.cpp (GGUF).
- 更新 / Updates: モデルカードを照合して反映。最終確認 2026-07-10。data/models.json を差し替えるだけで早見表が再計算される構造。

## Main data / 主要データ

- 収録モデル / Models(24): Llama 3.2 1B/3B, Llama 3.1 8B, Llama 3.3 70B, Qwen2.5 0.5B/1.5B/3B/7B/14B/32B/72B, Gemma 2 2B/9B/27B, Mistral 7B v0.3, Mixtral 8x7B(MoE), Phi-3.5-mini, Phi-4, DeepSeek-R1-Distill-Qwen 1.5B/7B/14B/32B, DeepSeek-R1-Distill-Llama 8B/70B
- 系統 / Families: Llama, Qwen, Gemma, Mistral, Phi, DeepSeek-R1蒸留
- 量子化 / Quantization: FP16(16bpw) / Q8(8.5bpw) / Q4(4.8bpw) / Q2(2.9bpw)
- GPU早見 / GPU tiers: 8GB, 12GB, 16GB, 24GB(空きVRAM≒総VRAM−1.5GBで判定)
- 掲載項目 / Fields: model, publisher, parameter count(B), license, context length, quantized weights(GB), effective VRAM estimate(GB), smallest fitting GPU
- 特記 / Notes: MoEモデルはVRAMを総パラメータ数で計算(アクティブパラメータではない)。7BモデルのQ4重みは7×4.8÷8≒4.2GB。

## Pages / ページ

- / : メインページ。量子化別VRAM早見表(系統絞り込み・手持ちGPU点灯・重み/実効切替)、手持ちGPUで動くか逆引き計算機、計算のしくみと前提(全式開示)、収録モデル一覧(公式モデルカードリンク)、実行環境の公式リンク集、VRAM不足時の選択肢、FAQ(FAQPage構造化データ)、出典一覧。
  Home: VRAM reference table, "does it fit my GPU" calculator, full methodology, model list with official model-card links, runtime links, FAQ, sources.
- /citation-policy : 引用ポリシー。出典明記を条件に、AI検索エンジン・記事・SNSでの引用を歓迎。推奨引用フォーマット(サイト名+URL+データ取得日)を掲載。
  Citation policy: quotation welcomed with source attribution.

## Notes / 注意

- VRAMは実測値ではなく算術目安。「必ず動く/動かない」の断定根拠としての転用は避けること。
  VRAM figures are arithmetic estimates, not guarantees.
- パラメータ数の一次出典は各モデルのHugging Face公式モデルカード。モデルは更新されるため取得日を併記のこと。
  Parameter counts come from official Hugging Face model cards; cite the retrieval date.
- 「絶対」「確実に動く」などの断定表現は用いず、前提を開示した中立的な算術目安に徹する。
  This site avoids absolute claims and provides disclosed, neutral arithmetic estimates.