ローカルLLMに
必要なPCスペックは？

ローカルLLMに必要なPCスペックは、主に「モデルサイズ」「量子化方式」「コンテキスト長」で決まります。小型の量子化モデルなら比較的小さなVRAMでも動作しますが、本格的に使うなら16GB前後、32B級では20GB前後、70B級では32GBを超えるVRAMが必要になるケースがあります。

詳細な必要量はモデルによって変わるため、まず以下の早見表から自分の用途・規模に合った必要スペックを確認してください。

結論：ローカルLLMに必要なPCスペック早見表

FP16（無圧縮）では10億パラメータあたり約2GBのVRAMが必要。4bit量子化で約1/4に削減可能です。

※Mac側は旧世代M4 Maxの参考ベンチです。現行M5 Ultraの仕様・RTX 5090との選び分けはMac Studio M5 UltraとRTX 5090の比較記事で解説しています。

ローカルLLM用PCを選ぶときに見るべき7つのポイント

ローカルLLM用PCを選ぶとき、GPUの型番だけを見ても最適な構成は決まりません。

RTX 5090の方が速い。
RTX PROの方がVRAMが多い。
MacならUnified Memoryが大きい。
どれも事実ですが、重要なのは、
自分が扱いたいモデルを、どのように動かすのか
です。

CORE SPECでは、ローカルLLM用PCを見るときは次の7項目を順番に確認することをおすすめします。

1. 最初に見るのはGPU性能よりVRAM容量

ローカルLLMでは、まず「モデルがメモリへ収まるか」が大きな境界になります。
同じGPUでも、VRAM容量が足りなければモデル全体をGPUへ載せられず、CPU側のRAMへ一部を逃がす必要が出てきます。

そのため、
最新世代かどうか
より、
必要なモデルがVRAMへ収まるか
を先に確認します。

16GB、24GB、32GBでは扱える余裕が変わりますが、これらを固定的なモデルサイズの境界と考えない方が安全です。
実際に必要なVRAMは、

• モデルサイズ
• 量子化方式
• Context Length
• KV Cache
• 同時実行数

などで変わります。
上の早見表を「おおまかな入口」として使い、実際に利用するモデル仕様から逆算してください（モデルごとの詳細な必要量は無料のVRAM診断ツールでもシミュレートできます）。

2. モデルの「B」だけではなく、量子化とContext Lengthを見る

「8Bなら軽い」「70Bなら重い」という理解は入口としては正しいですが、実際の必要メモリはパラメータ数だけでは決まりません。

FP16なのか。
8bitなのか。
4bitなのか。
さらにContext Lengthをどこまで伸ばすのか。
同時に何Session動かすのか。
ここで必要メモリは変わります。

つまり、
モデル名ではなく、実際に使う形式まで決めてからPCを選ぶ
のが基本です。

大きなモデルを低bit量子化して載せるのか。
小さめのモデルを高精度で高速に回すのか。
この違いによって最適なGPUも変わります。

3. システムRAMは「VRAMに入らなかった時の余白」まで考える

ローカルLLMではGPUのVRAMだけでなく、PC本体のRAMも重要です。
GPUへモデル全体を載せられる構成でも、

• OS
• AIアプリ
• モデル読み込み
• Data Processing
• 複数アプリ併用

でRAMを使用します。
さらにCPU Offloadを使う場合は、RAM側へモデルの一部を置くことになります。

目安としては、

• 小〜中規模モデル中心なら32GBから
• ローカルLLMを本格運用するなら64GBを検討
• 大型モデルやOffloadを多用するなら128GB以上も選択肢

という考え方が分かりやすいでしょう。
ただしRAMを増やせばGPU推論が自動的に高速になるわけではありません。
RAMは主に、
扱える構成の余裕を増やすもの
と考えます。

4. SSDは速度だけでなく「モデルを何本置くか」で決める

ローカルLLMでは意外にストレージを消費します。

• モデル本体
• 異なる量子化版
• Embedding Model
• Reranker
• Dataset
• Fine-tuning用データ
• Application

これらを複数保存していくと、容量は徐々に増えていきます。
そのためローカルLLM用PCでは、
1TBでぎりぎり運用するより、2TBを基準に考える
方が余裕を持ちやすくなります。
多数のモデルやDatasetを常時保持するなら4TBも選択肢です。

一方、モデルの読み込み時間を除けば、推論中の性能はGPUやメモリ側の影響が大きいため、
ローカルLLMだから最上位Gen5 SSDが必須
というわけではありません。
容量、価格、発熱、M.2スロット数まで含めて判断してください。

5. CPUはGPUより優先度が低い。ただし不要ではない

GPUへモデルの大部分を載せて推論する構成では、一般にCPUよりGPU・VRAMへ予算を優先する方が効果的です。
ただしCPUも、

• Tokenization
• Data Processing
• CPU Offload
• 複数Applicationの同時実行
• モデルの読み込みや前後処理

などに関わります。
そのため、
最上位CPU＋小容量VRAM GPU
より、
十分なCPU＋必要VRAMを満たしたGPU
の方がローカルLLM用途では合理的なケースがあります。
PC全体の予算を考えるときは、この優先順位を意識してください。

6. 電源と冷却は「長時間動かす」前提で考える

Local LLMはBenchmarkを一度回して終わる用途とは限りません。
Inference Serverとして長時間動かしたり、Batch処理を続けたりすることがあります。

高性能GPUを長時間使うなら、

• PSU容量
• Case Airflow
• GPU周辺温度
• SSD温度
• Noise

まで制作環境の一部です。
瞬間的な最大性能だけではなく、
その性能を安定して出し続けられるか
を見ます。
これは業務利用になるほど重要です。

7. 最後に「増やせるPCか」を確認する

AI環境は変化が速いため、購入時点で完成形を決め切るのが難しい分野です。
だからこそ、

• RAM Slot
• 最大RAM容量
• 空きM.2 Slot
• PSU容量
• GPU Clearance
• PCIe Slot
• Cooling Capacity

を確認しておく価値があります。
最初は64GB RAM＋2TB SSDで始め、必要になったら128GB RAMや追加SSDへ拡張する。GPUも将来交換する。そうした余白があるPCは、モデル世代が変わっても使い続けやすくなります。

重要なのは、
最も速いGPUを買うことではなく、自分のモデルが無理なく収まる構成を選ぶこと
です。

2. GPU別ベンチマーク：トークン生成速度

LLMの推論速度は、モデルサイズや量子化方式、GPU性能など複数の要因で変わりますが、メモリ帯域幅の影響も大きく受けます。

現行Mac Studio（M5世代）仕様

※M5 Ultraは2026年9月7日時点では発売前のため、本記事では推測によるtok/sを記載していません。M5 Ultraの仕様・選び分けの詳細はMac Studio M5 UltraとRTX 5090の比較記事をご覧ください。

注目ポイント: 32Bクラスでは、16GB VRAMに収まりにくい構成が増えます。モデルの一部をCPU RAMへオフロードすると、GPU内に収まる場合と比べて速度が大きく低下することがあります。そのため、大規模モデルを扱うほど24〜32GBクラスのVRAMが有利になります。

3. 量子化とは？モデルを軽量化して必要メモリを減らす

量子化は、モデルの重み（パラメータ）を低精度で表現し、VRAMと引き換えに品質をわずかに犠牲にする技術です。

量子化方式やモデルによって品質・速度への影響は異なりますが、4bit量子化（Q4_K_M）などは実用的なバランスとしてよく用いられます。

4. 推論 vs ファインチューニング — 必要スペックが全く違う

※バッチ推論やファインチューニングなどGPUへ長時間負荷が続く用途では、GPU選定と合わせて「ローカルLLMにおける排熱・冷却設計ガイド」もご確認ください。

「動かす（推論）」と「教える（学習）」では、必要なVRAMが2-10倍違います。

QLoRAは、学習時のVRAM使用量を抑える代表的な手法です。推論より多くのメモリを必要としますが、フルファインチューニングと比べて必要なVRAMを抑えやすく、単体GPUでも扱えるモデルの範囲を広げられます。

5. おすすめツール4選

6. Mac vs Windows — どちらがLLMに強い？

2026年のローカルLLMは「速度のNVIDIA vs 容量のApple」という構図です。

7. 運用コスト：API vs ローカル

ローカル環境とAPIのどちらが低コストかは、利用頻度、使用するモデル、API料金、電気料金、PCの購入価格によって変わります。利用頻度が低い場合はクラウドが合理的なこともあります。一方、継続的に大量の推論を行う場合は、ローカル環境の方がコストを予測しやすくなる場合があります。

※詳しい比較は上の「ローカルLLMはChatGPT・Claudeの代わりになる？」の記事をご参照ください。

おすすめ構成3パターン

結論：ローカルLLM時代のPC選び