ローカルLLM用のパソコンを選ぶとき、「高性能なGPUほど大きなモデルを動かせる」と考えていないだろうか。
ゲームや3DCGでは、基本的に上位GPUほど高い性能を期待できる。しかし、ローカルLLMでは、GPUの演算性能だけでなく、モデルを格納するためのVRAM容量が重要になる。
デスクトップ向けのRTX 5060 Ti 16GB、RTX 5070 Ti、RTX 5080は、性能差がある一方で、VRAMはいずれも16GBだ。
RTX 5090 Laptop GPUは24GB、デスクトップ向けRTX 5090は32GBを搭載する。
つまり、ローカルLLM向けGPUには、次の2つの性能がある。
- モデルをVRAMに載せられるか
- 載せたモデルをどれだけ速く動かせるか
RTX 5080はRTX 5070 Tiより高速だが、VRAM容量は同じ16GBである。そのため、RTX 5070 Tiに載らないモデルが、RTX 5080なら載るようになるわけではない。
一方、RTX 5090 Laptop GPUは24GB、RTX 5090は32GBあるため、16GBでは扱いにくい30B前後のモデルも現実的な候補に入ってくる。
本記事では、量子化やモデル規模の基礎を詳しく説明するのではなく、
今からローカルLLM用のGPUやBTOパソコンを買うなら、どれを選ぶべきか
という購入判断に焦点を当てる。
モデルサイズ、量子化、VRAM、メインメモリの関係については、以下の記事で詳しく解説している。
ローカルLLMはChatGPT・Claudeの代わりになる？2026年の実力と必要なPC
どこまで代替できるか？クラウドAIとローカルAIの実力差と使い分けを解説。
結論：ローカルLLM向けGPU比較表
| GPU | VRAM | 形態 | ローカルLLMでの位置づけ |
|---|---|---|---|
| RTX 5060 Ti 16GB | 16GB | デスクトップ | 小規模モデルを試す入門構成 |
| RTX 5070 Ti | 16GB | デスクトップ | 16GBクラスの本命 |
| RTX 5080 | 16GB | デスクトップ | LLMと画像・動画生成の兼用 |
| RTX 5090 Laptop GPU | 24GB | ノート | 24GBを持ち運べるモバイル構成 |
| RTX 5090 | 32GB | デスクトップ | 据え置きでの本格運用 |
ローカルLLMだけを目的にするなら、RTX 5080よりRTX 5070 Tiの方が費用対効果に優れるケースがある。
また、RTX 5090 Laptop GPUは、デスクトップ版RTX 5090の代替ではない。その価値は、
24GBのVRAMを持つCUDA環境を、ディスプレイやキーボードごと持ち運べることにある。
VRAM 16GB・24GB・32GBで何が変わる？
16GBは7Bから14B前後を中心に使う実用帯、24GBでは30B前後が候補に入り、32GBでは30Bから35B級をより余裕を持って扱いやすくなる。詳しいモデル容量と量子化の関係は、必要スペック完全ガイドで解説している。
VRAM 16GB
7Bから14B前後の量子化モデルが主戦場。30B級も強い量子化やCPUオフロードで動かせる場合があるが、速度やコンテキスト長に妥協が必要。
VRAM 24GB
30B前後の4bit量子化モデルがより現実的な選択肢に。16GBでは一部をメインメモリへ逃がす必要があった場面でもGPU内へ収められる可能性が高くなる。35B級の長いコンテキストや重いマルチモーダルモデルでは余裕がない場合も。
VRAM 32GB
30Bから35B前後をより余裕を持って扱いやすい。KVキャッシュや長いコンテキストの領域も確保しやすい。ただし70B級は4bit量子化でも単純計算約35GBとなり、32GBでも完全なGPU実行が難しい場合がある。
MoEモデルの「A3B」をVRAM 3GBと考えてはいけない
⚠️ MoEの「A3B」はVRAM 3GBという意味ではない
2026年のオープンウェイトモデルではMoEが増えている。Qwen3.6-35B-A3Bは総パラメータ35B、推論時有効3B。「A3B」はVRAMが3GBで済むという意味ではない。ローカル実行ではエキスパートを含む重みを保持する必要がある。A3Bは推論時の演算量に関係し、モデルデータが3B相当まで小さくなるわけではない。GPU選びでは総パラメータ数と量子化後のファイル容量を確認する必要がある。
RTX 5060 Ti 16GB｜ローカルLLM入門用と割り切る
RTX 5060 Tiには8GB版と16GB版がある。ローカルLLMを目的に選ぶなら16GB版が前提。NVIDIA公式仕様では、RTX 5060 Ti 16GBは16GBのGDDR7を備えている。理論メモリ帯域幅は448GB/s（28Gbps GDDR7、128bit）。
16GBあれば7Bから14B前後の量子化モデルで文章作成、要約、翻訳、簡単なコーディング支援を試せる。
ただしRTX 5060 Ti 16GBを「ローカルLLMに最もおすすめのGPU」と評価するのは難しい。理由はVRAM容量だけでなくメモリ帯域幅やGPU性能にも限界があるから。
向いている人
- 初めてローカルLLMを試す
- 7Bから14B前後を中心に使う
- クラウドAIをメインにしローカルLLMは補助的に使う
- 画像生成にも使える安価な16GB GPUが欲しい
- 将来的に30B級を常用する予定はない
向いていない人
- 30B前後のモデルを使いたい
- 長いコンテキストを頻繁に扱う
- コーディングエージェントを日常的に使う
- 数年間使うローカルAIの主力機を探している
RTX 5060 Ti 16GBはローカルLLMを始められるGPUだが、2026年の高性能なローカルモデルまで見据えると余裕のある構成ではない。
RTX 5070 Ti｜16GBクラスで選ぶなら本命
RTX 5070 TiのVRAMは16GB。動かせるモデルの上限はRTX 5060 Ti 16GBやRTX 5080と大きく変わらない。一方メモリ帯域幅は896GB/sあり、RTX 5060 Ti 16GBの理論値448GB/sの約2倍。
RTX 5070 Tiの位置づけは「大きなモデルを動かすGPUではなく、16GBに収まるモデルを快適に動かすGPU」。
向いている人
- 7Bから14B級を快適に動かしたい
- ローカルコーディング支援を日常的に使う
- 16GBという制約を理解している
- RTX 5090は予算を超える
- 画像生成や動画編集にも使う
- 価格と推論速度のバランスを重視する
注意点
RTX 5070 Tiは実用的だが、将来的なモデル大型化への余裕は大きくない。「16GBでも何でも動かせる」ではなく「16GBに収まるモデルを中心に、クラウドAIと組み合わせて使う」と考える必要がある。
ローカルLLMを目的に現行の16GB GPUから選ぶなら、RTX 5070 Tiが最も合理的な選択肢になりやすい。
RTX 5070 TiとRTX 5080ならどちらを選ぶべきか
ローカルLLMだけを目的にするならRTX 5070 Tiの方が合理的。両者ともVRAMは16GBで扱えるモデルサイズの上限は大きく変わらない。
| 判断軸 | RTX 5070 Ti | RTX 5080 |
|---|---|---|
| VRAM | 16GB | 16GB |
| メモリ帯域幅 | 896GB/s | 960GB/s |
| 動かせるモデル規模 | 大きくは変わらない | 大きくは変わらない |
| LLMの費用対効果 | 高い | 用途次第 |
| 画像・動画生成との兼用 | 強い | より強い |
ローカルLLMを中心に使うならRTX 5070 Ti。画像生成、動画生成、3DCG、ゲームまで含めたGPU性能を求めるならRTX 5080。
RTX 5080｜高性能だがローカルLLMだけでは割高になりやすい
RTX 5080は16GBのGDDR7と960GB/sのメモリ帯域幅。RTX 5070 TiよりGPU性能は高いがVRAMは同じ16GB。
同じモデルを動かすならRTX 5080が高速になる可能性は高い。しかしRTX 5070 Tiに載らない30B級がRTX 5080なら載るわけではない。
そのためRTX 5080はローカルLLM専用ではなく、Stable Diffusion、ComfyUI、FLUX、ローカル動画生成、3DCG、動画編集、PCゲームとの兼用で評価したい。
向いている人
- ローカルLLM以外のGPU処理も多い
- 画像生成や動画生成を高速化したい
- ゲーム性能も重視する
- 16GBに収まるモデルを高速に動かしたい
- RTX 5090までは必要ない
向いていない人
- ローカルLLMだけが目的
- 大きなモデルを動かすために上位GPUを探している
- VRAM容量を最優先している
ローカルLLMだけならRTX 5070 Ti、生成AIクリエイティブ全般まで高速化するならRTX 5080。
RTX 5090 Laptop GPU｜24GBを持ち運べる独自の選択肢
RTX 5090 Laptop GPUは24GBのGDDR7、10,496基のCUDAコア、896GB/sのメモリ帯域幅を備えたノートPC向けGPU。
今回比較するデスクトップGPUでは、RTX 5060 Ti 16GB・RTX 5070 Ti・RTX 5080が16GB、RTX 5090が32GB。その間を埋める24GBの選択肢として、RTX 5090 Laptop GPUは独自の位置にある。
24GBあれば16GBでは収めにくい30B前後の4bit量子化モデルが現実的な候補に入ってくる。16GBから24GBへの増加は「扱えるモデルの範囲が広がる」という意味を持つ。
向いている人
- 自宅と職場の両方でローカルLLMを使う
- 大学や研究室へAI環境を持ち運ぶ
- 出張先でも機密情報をローカル処理する
- LLMと画像生成・動画編集を1台で行う
- デスクトップPCを設置できない
冷却設計も確認する
ノートPCではGPU名が同じでも製品で性能が変わる。確認すべきポイント：
- GPUの電力設定
- 本体の厚さと冷却構造
- メインメモリ64GB以上に対応するか
- SSDを増設できるか
- 長時間負荷時の騒音
- 本体重量
RTX 5090 LaptopとRTX 5090はどちらを選ぶべきか
| 判断軸 | RTX 5090 Laptop | RTX 5090 |
|---|---|---|
| VRAM | 24GB | 32GB |
| CUDAコア | 10,496 | 21,760 |
| メモリ帯域幅 | 896GB/s | 1,792GB/s |
| 形態 | ノートPC | デスクトップPC |
| 持ち運び | 可能 | 困難 |
| 拡張性 | 低い | 高い |
本拠地で最大限の性能を求めるならRTX 5090、場所を問わず24GB環境を使いたいならRTX 5090 Laptop。
RTX 5090 Laptop搭載ノートPCの選び方は、以下の記事で解説している。
→ ハイスペックノートPCはどこで買うべき？国内BTOとOMEN・Alienwareを徹底比較
RTX 5090｜据え置きで本格運用するなら最有力
デスクトップ向けRTX 5090は32GBのGDDR7と1,792GB/sのメモリ帯域幅。今回比較するGPUの中で唯一32GBのVRAMを搭載し、16GBの壁を超えられる。
特に次の用途で32GBの価値が大きい：
- 30B級モデルの常用
- ローカルコーディングエージェント
- 大規模なRAG
- 長文ドキュメントの処理
- マルチモーダルモデル
- ローカルAPIサーバー
- LLMと画像・動画生成の兼用
70B級が余裕とは限らない
70Bの4bit量子化は重みだけで約35GB。32GBでも完全なGPU実行が難しい場合がある。CPUオフロード、複数GPU、より強い量子化が必要になりうる。
向いている人
- ローカルLLMを仕事で毎日使う
- 30B級モデルを中心に運用する
- 長いコンテキストを使う
- 画像・動画生成にも妥協したくない
- 数年間使うAIワークステーションを構築する
向いていない人
- 7Bから14B級しか使わない
- ローカルLLMは時々試す程度
- GPUの価格差を仕事で回収できない
RTX 5090は高価だが、RTX 5080との差は単なる推論速度ではない。VRAMが16GBから32GBへ倍増することで、ローカルLLM環境の設計そのものが変わる。
用途別の選び方とまとめ
| 目的 | おすすめGPU |
|---|---|
| 小規模モデルを安価に試す | RTX 5060 Ti 16GB |
| 16GBクラスで実用性を重視 | RTX 5070 Ti |
| LLMと画像・動画生成を兼用 | RTX 5080 |
| 24GB環境を持ち運ぶ | RTX 5090 Laptop GPU |
| 据え置きで本格運用 | RTX 5090 |
ローカルLLMだけで高価なGPUを買う必要はない。現在はハイブリッド運用が現実的だ。
- 日常的な処理はローカルLLM
- 難しい推論はClaudeやGPT
- 機密情報だけローカル処理
- 最新情報が必要なタスクはクラウド
PC投資の回収については以下で解説している：
→ 生成AI用PCは何カ月で回収できる？PC投資の損益分岐点
LM Studioはバージョン0.3.15（2025年4月24日公開）でRTX 50シリーズのCUDA 12.8対応を追加している。購入後の設定については以下の記事で解説している。
→ BTOが届いたその日にローカルLLMを動かす完全手順
ローカルLLM向けGPUでは、最上位GPUを買うこと自体が正解ではない。重要なのは「どの規模のモデルを、どこで、どのくらいの頻度で使うのか」を明確にすること。
16GBで十分なワークフローならRTX 5070 Tiは非常に合理的。移動先でも30B前後を使うならRTX 5090 Laptop GPUにはデスクトップPCにはない価値がある。据え置きでローカルAIを本格運用するなら32GBのRTX 5090が最も分かりやすい選択肢になる。
