ローカルLLM用のパソコンを選ぶとき、「高性能なGPUほど大きなモデルを動かせる」と考えていないだろうか。
ゲームや3DCGでは、基本的に上位GPUほど高い性能を期待できる。しかし、ローカルLLMでは、GPUの演算性能だけでなく、モデルを格納するためのVRAM容量が重要になる。
デスクトップ向けのRTX 5060 Ti 16GB、RTX 5070 Ti、RTX 5080は、性能差がある一方で、VRAMはいずれも16GBだ。
RTX 5090 Laptop GPUは24GB、デスクトップ向けRTX 5090は32GBを搭載する。さらにProfessional向けには、96GB GDDR7 ECCを搭載するRTX PRO 6000 Blackwell Workstation Editionがある。
つまり、ローカルLLM向けGPUには、次の2つの性能がある。
- モデルをVRAMに載せられるか
- 載せたモデルをどれだけ速く動かせるか
RTX 5080はRTX 5070 Tiより高速だが、VRAM容量は同じ16GBである。そのため、RTX 5070 Tiに載らないモデルが、RTX 5080なら載るようになるわけではない。
一方、RTX 5090 Laptop GPUは24GB、RTX 5090は32GB、そしてRTX PRO 6000は96GBあるため、16GB → 24GB → 32GB → 96GBというVRAM容量の階段が存在し、扱えるモデルやコンテキストの規模が大きく変わってくる。
本記事では、量子化やモデル規模の基礎を詳しく説明するのではなく、
今からローカルLLM用のGPUやBTOパソコンを買うなら、どれを選ぶべきか
という購入判断に焦点を当てる。
モデルサイズ、量子化、VRAM、メインメモリの関係については、以下の記事で詳しく解説している。
ローカルLLMはChatGPT・Claudeの代わりになる？2026年の実力と必要なPC
どこまで代替できるか？クラウドAIとローカルAIの実力差と使い分けを解説。
結論：ローカルLLM向けGPU比較表
| GPU | VRAM | 形態 | ローカルLLMでの位置づけ |
|---|---|---|---|
| RTX 5060 Ti 16GB | 16GB | デスクトップ | 小規模モデルを試す入門構成 |
| RTX 5070 Ti | 16GB | デスクトップ | 16GBクラスの本命 |
| RTX 5080 | 16GB | デスクトップ | LLMと画像・動画生成の兼用 |
| RTX 5090 Laptop GPU | 24GB | ノート | 24GBを持ち運べるモバイル構成 |
| RTX 5090 | 32GB | デスクトップ | 据え置きでの本格運用 |
| RTX PRO 6000 Blackwell | 96GB | ワークステーション | 32GBのVRAM上限を超えるProfessional向け |
ローカルLLMだけを目的にするなら、RTX 5080よりRTX 5070 Tiの方が費用対効果に優れるケースがある。
また、RTX 5090 Laptop GPUは、デスクトップ版RTX 5090の代替ではない。その価値は、
24GBのVRAMを持つCUDA環境を、ディスプレイやキーボードごと持ち運べることにある。
🧠 ローカルLLM用GPUをVRAMから選ぶ
動かしたいモデル規模・量子化・コンテキスト長と予算に合わせて、最適なVRAM容量とBTO構成を選んでください。
まずローカルLLMを始めたい
7B〜14Bクラスを中心に、コストを抑えてローカルLLM環境を構築したい人向け（RTX 5060 Ti 16GB）。
推論速度も重視したい
VRAM 16GBを維持しながら、推論速度やAI制作全体の快適性も高めたい人向け（RTX 5070 Ti）。
AI制作も本格的に行う
ローカルLLMだけでなく画像生成・動画生成・3DCGなども高性能に使いたい人向け（RTX 5080）。
30B前後を持ち運びたい
16GBでは収まりにくいモデルを扱いながら、CUDA環境を持ち運びたい方向け（RTX 5090 Laptop 24GB）。
30Bクラス本格運用
30B〜35B級を余裕を持って動かし、長文コンテキストや据え置きでの本格運用を行う人向け（RTX 5090 32GB）。
VRAM 16GB・24GB・32GB・96GBで何が変わる？
16GBは7Bから14B前後を中心に使う実用帯、24GBでは30B前後が候補に入り、32GBでは30Bから35B級をより余裕を持って扱いやすくなる。さらに96GBでは、32GBでは収まりにくい大型モデルや長いContextを単一GPUで扱うProfessional帯となる。ローカルLLM全体のPCスペックや、GPU・VRAM・メインメモリの関係については、必要スペック完全ガイドで解説している。
7B・14B・32B・70B・120Bごとに、量子化後のモデル本体だけでなく、KVキャッシュや実運用の余裕まで含めて必要VRAMを逆算しています。
モデルサイズから必要VRAMを確認する →VRAM 16GB
7Bから14B前後の量子化モデルが主戦場。30B級も強い量子化やCPUオフロードで動かせる場合があるが、速度やコンテキスト長に妥協が必要。
VRAM 24GB
30B前後の4bit量子化モデルがより現実的な選択肢に。16GBでは一部をメインメモリへ逃がす必要があった場面でもGPU内へ収められる可能性が高くなる。35B級の長いコンテキストや重いマルチモーダルモデルでは余裕がない場合も。
VRAM 32GB
30Bから35B前後をより余裕を持って扱いやすい。KVキャッシュや長いコンテキストの領域も確保しやすい。ただし70B級は4bit量子化でも単純計算約35GBとなり、32GBでも完全なGPU実行が難しい場合がある。
VRAM 96GB
96GBになると、RTX 5090の32GBではVRAM容量そのものが制約になる領域まで単一GPUで扱いやすくなります。
たとえば70B級の量子化モデル、長いContextによって大きくなるKV Cache、大規模なRAG、複数のAI処理を組み合わせるWorkflowなどでは、32GBより大きな余裕を確保できます。
RTX PRO 6000 Blackwell Workstation Editionは96GB GDDR7 ECCを搭載しており、「同じモデルを少し速く動かす」ことより、「32GBではGPU内に収まりにくかった処理をLocal側へ残せる」ことに価値があります。
ただし96GBあれば、どの大型モデルでも無条件に快適に動くという意味ではありません。必要VRAMは量子化方式、Context Length、KV Cache、Runtimeなどでも変化するため、実際に使うモデルから逆算する必要があります。
MoEモデルの「A3B」をVRAM 3GBと考えてはいけない
⚠️ MoEの「A3B」はVRAM 3GBという意味ではない
2026年のオープンウェイトモデルではMoEが増えている。Qwen3.6-35B-A3Bは総パラメータ35B、推論時有効3B。「A3B」はVRAMが3GBで済むという意味ではない。ローカル実行ではエキスパートを含む重みを保持する必要がある。A3Bは推論時の演算量に関係し、モデルデータが3B相当まで小さくなるわけではない。GPU選びでは総パラメータ数と量子化後のファイル容量を確認する必要がある。
💡 GPU別のBTOおすすめ比較：
16GBを安価に確保 → RTX 5060 Ti 16GB搭載PC
16GBと処理速度を両立 → RTX 5070 / 5070 Ti搭載PC
16GB以内をさらに高速化 → RTX 5080搭載PC
24GBを持ち運ぶ → RTX 5090 Laptop搭載PC
32GBを据え置きで使う → RTX 5090搭載PC
96GBを単一GPUで使う → RTX PRO 6000搭載ワークステーション
RTX 5060 Ti 16GB｜ローカルLLM入門用と割り切る
RTX 5060 Tiには8GB版と16GB版がある。ローカルLLMを目的に選ぶなら16GB版が前提。NVIDIA公式仕様では、RTX 5060 Ti 16GBは16GBのGDDR7を備えている。理論メモリ帯域幅は448GB/s（28Gbps GDDR7、128bit）。
16GBあれば7Bから14B前後の量子化モデルで文章作成、要約、翻訳、簡単なコーディング支援を試せる。
ただしRTX 5060 Ti 16GBを「ローカルLLMに最もおすすめのGPU」と評価するのは難しい。理由はVRAM容量だけでなくメモリ帯域幅やGPU性能にも限界があるから。
向いている人
- 初めてローカルLLMを試す
- 7Bから14B前後を中心に使う
- クラウドAIをメインにしローカルLLMは補助的に使う
- 画像生成にも使える安価な16GB GPUが欲しい
- 将来的に30B級を常用する予定はない
向いていない人
- 30B前後のモデルを使いたい
- 長いコンテキストを頻繁に扱う
- コーディングエージェントを日常的に使う
- 数年間使うローカルAIの主力機を探している
RTX 5060 Ti 16GBはローカルLLMを始められるGPUだが、2026年の高性能なローカルモデルまで見据えると余裕のある構成ではない。
RTX 5070 Ti｜16GBクラスで選ぶなら本命
RTX 5070 TiのVRAMは16GB。動かせるモデルの上限はRTX 5060 Ti 16GBやRTX 5080と大きく変わらない。一方メモリ帯域幅は896GB/sあり、RTX 5060 Ti 16GBの理論値448GB/sの約2倍。
RTX 5070 Tiの位置づけは「大きなモデルを動かすGPUではなく、16GBに収まるモデルを快適に動かすGPU」。
向いている人
- 7Bから14B級を快適に動かしたい
- ローカルコーディング支援を日常的に使う
- 16GBという制約を理解している
- RTX 5090は予算を超える
- 画像生成や動画編集にも使う
- 価格と推論速度のバランスを重視する
注意点
RTX 5070 Tiは実用的だが、将来的なモデル大型化への余裕は大きくない。「16GBでも何でも動かせる」ではなく「16GBに収まるモデルを中心に、クラウドAIと組み合わせて使う」と考える必要がある。
ローカルLLMを目的に現行の16GB GPUから選ぶなら、RTX 5070 Tiが最も合理的な選択肢になりやすい。
RTX 5070 TiとRTX 5080ならどちらを選ぶべきか
ローカルLLMだけを目的にするならRTX 5070 Tiの方が合理的。両者ともVRAMは16GBで扱えるモデルサイズの上限は大きく変わらない。
| 判断軸 | RTX 5070 Ti | RTX 5080 |
|---|---|---|
| VRAM | 16GB | 16GB |
| メモリ帯域幅 | 896GB/s | 960GB/s |
| 動かせるモデル規模 | 大きくは変わらない | 大きくは変わらない |
| LLMの費用対効果 | 高い | 用途次第 |
| 画像・動画生成との兼用 | 強い | より強い |
ローカルLLMを中心に使うならRTX 5070 Ti。画像生成、動画生成、3DCG、ゲームまで含めたGPU性能を求めるならRTX 5080。
RTX 5080｜高性能だがローカルLLMだけでは割高になりやすい
RTX 5080は16GBのGDDR7と960GB/sのメモリ帯域幅。RTX 5070 TiよりGPU性能は高いがVRAMは同じ16GB。
同じモデルを動かすならRTX 5080が高速になる可能性は高い。しかしRTX 5070 Tiに載らない30B級がRTX 5080なら載るわけではない。
そのためRTX 5080はローカルLLM専用ではなく、Stable Diffusion、ComfyUI、FLUX、ローカル動画生成、3DCG、動画編集、PCゲームとの兼用で評価したい。
向いている人
- ローカルLLM以外のGPU処理も多い
- 画像生成や動画生成を高速化したい
- ゲーム性能も重視する
- 16GBに収まるモデルを高速に動かしたい
- RTX 5090までは必要ない
向いていない人
- ローカルLLMだけが目的
- 大きなモデルを動かすために上位GPUを探している
- VRAM容量を最優先している
ローカルLLMだけならRTX 5070 Ti、生成AIクリエイティブ全般まで高速化するならRTX 5080。
RTX 5090 Laptop GPU｜24GBを持ち運べる独自の選択肢
RTX 5090 Laptop GPUは24GBのGDDR7、10,496基のCUDAコア、896GB/sのメモリ帯域幅を備えたノートPC向けGPU。
今回比較するデスクトップGPUでは、RTX 5060 Ti 16GB・RTX 5070 Ti・RTX 5080が16GB、RTX 5090が32GB。その間を埋める24GBの選択肢として、RTX 5090 Laptop GPUは独自の位置にある。
24GBあれば16GBでは収めにくい30B前後の4bit量子化モデルが現実的な候補に入ってくる。16GBから24GBへの増加は「扱えるモデルの範囲が広がる」という意味を持つ。
向いている人
- 自宅と職場の両方でローカルLLMを使う
- 大学や研究室へAI環境を持ち運ぶ
- 出張先でも機密情報をローカル処理する
- LLMと画像生成・動画編集を1台で行う
- デスクトップPCを設置できない
冷却設計も確認する
ノートPCではGPU名が同じでも製品で性能が変わる。確認すべきポイント：
- GPUの電力設定
- 本体の厚さと冷却構造
- メインメモリ64GB以上に対応するか
- SSDを増設できるか
- 長時間負荷時の騒音
- 本体重量
RTX 5090 LaptopとRTX 5090はどちらを選ぶべきか
| 判断軸 | RTX 5090 Laptop | RTX 5090 |
|---|---|---|
| VRAM | 24GB | 32GB |
| CUDAコア | 10,496 | 21,760 |
| メモリ帯域幅 | 896GB/s | 1,792GB/s |
| 形態 | ノートPC | デスクトップPC |
| 持ち運び | 可能 | 困難 |
| 拡張性 | 低い | 高い |
本拠地で最大限の性能を求めるならRTX 5090、場所を問わず24GB環境を使いたいならRTX 5090 Laptop。
RTX 5090 Laptop搭載ノートPCの選び方は、以下の記事で解説している。
→ ハイスペックノートPCはどこで買うべき？国内BTOとOMEN・Alienwareを徹底比較
RTX 5090｜据え置きで本格運用するなら最有力
デスクトップ向けRTX 5090は、GeForceでは32GBのGDDR7と1,792GB/sのメモリ帯域幅を搭載する上位構成です。今回扱うGeForce系GPUの中では最大となる32GBを備え、16GBの壁を超えられます。
特に次の用途で32GBの価値が大きい：
- 30B級モデルの常用
- ローカルコーディングエージェント
- 大規模なRAG
- 長文ドキュメントの処理
- マルチモーダルモデル
- ローカルAPIサーバー
- LLMと画像・動画生成の兼用
70B級が余裕とは限らない
70Bの4bit量子化は重みだけで約35GB。32GBでも完全なGPU実行が難しい場合がある。CPUオフロード、複数GPU、より強い量子化が必要になりうる。
向いている人
- ローカルLLMを仕事で毎日使う
- 30B級モデルを中心に運用する
- 長いコンテキストを使う
- 画像・動画生成にも妥協したくない
- 数年間使うAIワークステーションを構築する
向いていない人
- 7Bから14B級しか使わない
- ローカルLLMは時々試す程度
- GPUの価格差を仕事で回収できない
RTX 5090は高価だが、RTX 5080との差は単なる推論速度ではない。VRAMが16GBから32GBへ倍増することで、ローカルLLM環境の設計そのものが変わる。
RTX PRO 6000 Blackwell｜32GBの壁を超える96GBワークステーション
RTX PRO 6000 Blackwell Workstation Editionは、96GBのGDDR7 ECCメモリを搭載するProfessional向けGPUです。
RTX 5090が32GBなのに対し、RTX PRO 6000はその3倍となる96GBを単一GPU上に持ちます。
重要な判断軸：「速度」より「GPU内に保持できる容量」
ここで重要なのは、RTX PRO 6000を単純に「RTX 5090より速いGPU」と考えないことです。
NVIDIA公式仕様では、RTX 5090とRTX PRO 6000はいずれもメモリ帯域幅1,792GB/sです。Local LLMで大きく変わるのは、主に「速度」より「GPU内に保持できる容量」です。
向いている用途
特に96GBの価値が出やすいのは次の用途です。
- 70B級など大型の量子化モデルを単一GPU上へ収めたい場合
- 長いContext（長文処理）
- 大きなKV Cache
- 大規模RAG
- 複数モデルを組み合わせるWorkflow
- Local AI Server
- 32GBを超えるVRAM利用を継続的に行う業務
ただし「RTX PRO 6000なら何でも動く」わけではありません。モデル本体以外にもKV Cache、Context、Runtime、その他GPUメモリが必要になるため、量子化条件やコンテキスト長から逆算して判断する必要があります。
向いている人
- RTX 5090の32GBではVRAMが不足する
- 70B級など大型モデルをLocalで継続利用したい
- 長いContextを多用する
- 大規模RAGやAI ServerをLocal運用する
- 機密DataをCloudへ出さず大型モデルで処理したい
- GPU費用を業務で回収できる
向いていない人
- 7B〜35B級が中心
- RTX 5090の32GBで困っていない
- Local LLMを時々試すだけ
- Cloud APIで必要時だけ大型モデルを使えばよい
- 価格差を仕事で回収できない
RTX 5090とRTX PRO 6000の判断境界
必要なモデルやContextが32GB以内に収まるなら、コンシューマー向け最上位の RTX 5090 が最も現実的な選択肢です。
32GBという容量上限そのものがWorkflowの制約になるなら、96GBの RTX PRO 6000 を検討します。
用途別の選び方とまとめ
※高性能GPUを長時間連続で使う場合は、GPU型番やVRAMだけでなくPCケースのエアフローと排熱設計も重要です。詳しくは「ローカルLLM用PCは水冷が必要？ エアフロー・空冷・水冷の選び方」を参照してください。
| 目的 | おすすめGPU |
|---|---|
| 小規模モデルを安価に試す | RTX 5060 Ti 16GB |
| 16GBクラスで実用性を重視 | RTX 5070 Ti |
| LLMと画像・動画生成を兼用 | RTX 5080 |
| 24GB環境を持ち運ぶ | RTX 5090 Laptop GPU |
| 据え置きで本格運用 | RTX 5090 |
| 32GBを超える大型モデル・長いContextをLocal運用 | RTX PRO 6000 Blackwell |
ローカルLLMだけで高価なGPUを買う必要はない。現在はハイブリッド運用が現実的だ。
- 日常的な処理はローカルLLM
- 難しい推論はClaudeやGPT
- 機密情報だけローカル処理
- 最新情報が必要なタスクはクラウド
PC投資の回収については以下で解説している：
→ 生成AI用PCは何カ月で回収できる？PC投資の損益分岐点
LM Studioはバージョン0.3.15（2025年4月24日公開）でRTX 50シリーズのCUDA 12.8対応を追加している。購入後の設定については以下の記事で解説している。
→ BTOが届いたその日にローカルLLMを動かす完全手順
ローカルLLM向けGPUでは、最上位GPUを買うこと自体が正解ではない。重要なのは「どの規模のモデルを、どこで、どのくらいの頻度で使うのか」を明確にすること。
16GBで十分なワークフローならRTX 5070 Tiは非常に合理的。移動先でも30B前後を使うならRTX 5090 Laptop GPUにはデスクトップPCにはない価値がある。据え置きでローカルAIを本格運用するなら32GBのRTX 5090が最も分かりやすい選択肢になる。
一方、32GBというVRAM容量そのものが制約になる業務では、96GBのRTX PRO 6000が次の選択肢になります。重要なのは価格やGPUグレードではなく、自分のWorkflowが32GB以内に収まるかどうかです。
ローカルLLM用GPUは、モデルサイズから逆算する
ローカルLLMでは、「一番速いGPU」を先に決める必要はありません。
先に決めるべきなのは、
小さなモデルを試すだけなのか、より大きなモデルをローカルで継続利用したいのかによって、必要なGPUは大きく変わります。
CORE SPECでは、GPUのグレードより先に、必要VRAMの壁を確認することをすすめます。