なぜ「RAM 128GBで代用できる」という誤解が生まれるのか?
「RAMを増やせばVRAM不足を解決できる」という誤解が生まれる背景には、2つの現実的な仕組みがあります。
-
① AIフレームワークのCPUオフロード機能:
Hugging FaceのAccelerateやDiffusers、Ollama、llama.cppなど多くのAI実行環境には、GPUのVRAMに入り切らないモデルの一部(または大部分)をメインメモリ(RAM)に退避させて実行する機能が備わっています。 -
② Windowsの「共有GPUメモリ」機能:
WindowsではGPUが必要に応じてシステムRAMを共有メモリとして利用できる仕組みがあります。ただし、これは専用VRAMが増えるという意味ではなく、利用可能量も固定的にRAMの半分が割り当てられるわけではありません。
これらがあるため、「16GB VRAM+128GB RAMなら、大容量モデルもそのまま動かせるのでは?」と期待してしまうのです。
対応するソフトウェアでは、VRAMだけでは入り切らない処理を実行できる場合があります。しかし、そこから先で圧倒的な性能差に直面することになります。
速度差の正体|メモリ帯域幅(Bandwidth)の圧倒的な壁
「入る」と「速い」が全く違う根本原因は、メモリ帯域幅(データを1秒間にどれだけ転送できるか)の桁違いな差にあります。
GPUがAIの行列演算を行う際、数千〜数万の計算コアが一斉にメモリからパラメータを読み出します。このとき求められるのは「容量」ではなく「帯域幅(データの通り道の太さ)」です。
| 規格・ハードウェア | 接続場所・役割 | 公称・理論メモリ帯域 |
|---|---|---|
| GeForce RTX 5090 | GPU専用VRAM (GDDR7) | 約 1,792 GB/s |
| GeForce RTX 5080 | GPU専用VRAM (GDDR7) | 約 960 GB/s |
| Apple M3 Ultra | Unified Memory | 約 819 GB/s |
| Apple M4 Max | Unified Memory | 410 〜 546 GB/s |
| DDR5-5600 (Dual Channel) | PCメインメモリ (RAM) | 約 89.6 GB/s |
| PCIe 5.0 x16 バス | RAM ⇔ VRAM 通信経路 | 約 63.0 GB/s |
| PCIe 4.0 x16 バス | RAM ⇔ VRAM 通信経路 | 約 31.5 GB/s |
※上記は各規格・製品の公称値・理論値を並べた比較です。実際のAI処理速度がこの比率になるわけではありません。
表を見ると一目瞭然です。GPU専用のGDDR7メモリが毎秒1,000〜1,800GBという圧倒的な猛スピードでデータを流し込めるのに対し、PCのDDR5メモリは約90GB/sにとどまります。
さらに深刻なのが、RAMとGPUの間を結ぶPCIeバスのボトルネックです。PCIe 4.0 x16では約31.5GB/s、最新のPCIe 5.0 x16でも約63GB/sしか通りません。
GPUがどれだけ超高速な計算能力を持っていても、データがPCIeという細いストローを通ってしか届かないため、計算コアのほとんどがデータ待ち(アイドル状態)になってしまうのです。
「入る」と「速い」の違い|CPUオフロードで何が起きるか
では、実際にCPUオフロードを行うとどのような挙動になるのでしょうか。
オフロードの方式や頻度によって、体感速度の低下度合いは大きく異なります。
⚙️ CPUオフロードの主な実行方式
モデルの各層(レイヤー)を1つずつRAMからVRAMへ転送して計算し、計算が終わったら次のレイヤーを読み込む方式。VRAM消費を最小限に抑えられますが、1ステップごとにPCIe転送が発生するため、全体の所要時間は極めて長くなります。
Model Offloadでは、Text EncoderやVAEなどパイプラインを構成するコンポーネントを、必要なタイミングだけGPUへ移します。一方、Group Offloadではモデル内部の複数レイヤーをグループ単位でCPUとGPUの間に移動します。どちらもSequential CPU Offloadより転送・同期回数を抑えやすく、VRAM使用量と速度低下のバランスを取りやすい方式です。
全32層のうち20層をGPU VRAM、残り12層をCPU RAM+CPUコアで分担して計算する方式。GPUだけで完結する場合に比べるとトークン生成速度は低下しますが、VRAMに入り切らないモデルを動かす実用的な手段として広く使われています。
オフロードによる速度低下の幅は、「どれだけのデータ量を、どれだけ頻繁にRAMとVRAMの間で往復させるか」によって劇的に変わります。
1回の処理で数回だけモジュールを入れ替える場合は実用範囲に収まることもありますが、1トークン生成・1ステップごとに毎回復路転送が発生する構成では、VRAM完結時と比べて桁違いに遅くなります。
なぜMacのUnified MemoryはRAMで動くのか?
「Windows PCでRAMオフロードが遅いなら、なぜMac Studio(M3 Ultra / M4 Max等)は大容量RAMでローカルLLMを快適に動かせるのか?」という疑問もよく寄せられます。
その理由は、Macのユニファイドメモリアーキテクチャには「PCIeバス」という分離された通信経路が存在しないからです。
Apple Siliconでは、SoC(システム・オン・チップ)の内部にCPUとGPU、そして大容量メモリ(最大128GB〜512GB)が直結されています。
- 帯域幅が極めて広い: M3 Ultraで約819GB/s、M4 Maxで最大546GB/sと、PCメインメモリ(約90GB/s)の数倍〜十倍近く太い。
- ゼロコピーアクセス: CPUが読み込んだモデルデータをGPUがそのままメモリ内で参照できるため、RAMからVRAMへの「データ転送」そのものが不要。
つまり、Macのメモリは「PCのRAM」ではなく、「GPUのVRAMに近い超広帯域メモリをシステム全体で共有している」構造なのです。
※ただし、PCIeをどれだけ速くしても、VRAMそのものの速度にはなりません。
実践判断|「128GB RAM+5080」vs「64GB RAM+5090」どちらを選ぶべき?
PCを購入・カスタマイズする際、同等の予算で「RAMを特盛にするか」「GPUのVRAMランクを上げるか」で迷うケースがあります。
用途と目的から、明確な判断基準を整理します。
RAM 128GB + RTX 5080(16GB VRAM)
総合制作環境重視・マルチタスク派
- ✅ 3DCGレンダリング・After Effects・動画編集・大量アセット展開が極めて快適
- ✅ 複数アプリを同時に立ち上げてもメモリ枯渇しない
- ⚠️ 16GBを超えるAIモデルや高解像度生成ではオフロードが発生し低速化する
RAM 64GB + RTX 5090(32GB VRAM)
AI処理の高速完結・モデル規模重視派
- ✅ モデルと処理に必要なワーク領域(KV cache・latents等)が32GB VRAM内に収まれば、CPUオフロードを避けてGPU内で高速に処理しやすい
- ✅ VRAM完結時はPCIeバス経由のボトルネックを回避できる
- ✅ 64GB RAMがあれば日常のAI開発や制作でも十分余裕がある
※70B級など、32GB VRAMでも収まらない超巨大モデルでは、量子化(4bit/8bit)やRAMオフロードが必要になる場合があります。
目的・課題別の次のステップ
自分のやりたい作業や抱えているボトルネックに合わせて、最適な情報をご確認ください。