AI・ローカルLLM向けワークステーションとは？
RTX 5090で十分な人、RTX PROが必要な人

AI用のPCを考えていると、やがて「ワークステーション」という言葉にたどり着きます。

ローカルLLM、画像生成、RAG、AIエージェント、ファインチューニング、データサイエンス。扱う処理が重くなるほど、高性能GPUや大容量メモリへの要求は大きくなります。

ただし、「AIをやるならワークステーションが必要」というわけではありません。
AIワークステーションでは、「何TOPS出るか」より先に、「必要なモデルやデータを載せられるか」を見る必要があります。

結論：AIワークステーションは「AIを動かすPC」ではない

CORE SPECでは、AIワークステーションを単なる「AIソフトが動くPC」ではなく、「ローカルAI処理を、継続的・業務的に実行するための計算環境」と考えます。

個人開発や一般的なクリエイティブ用途なら、まずはGeForce RTX 5090搭載BTOで十分成立します。ワークステーションへ移る真の合理性が生まれるのは、次のような「明確な制約の壁」に直面したときだけです。

• 32GBを超える単一VRAM容量が必要
• 128GBを超えるメインメモリが必要
• 処理時間が業務上の深刻なボトルネック
• 24時間365日の高負荷処理を繰り返す
• 複数GPU（マルチGPU）の本格運用
• 機密データを社外・クラウドに出せない

AI PC選びでは、まずVRAMを見る

AI処理において最も決定的なハードウェア仕様は、GPUの計算速度（TFLOPS）以上に「VRAM（ビデオメモリ）の容量」です。

この差は単なる「3倍の容量」という数字以上の意味を持ちます。AIモデルは、必要なVRAMへ収まるかどうかで「動くか、動かないか」が物理的に分かれるからです。
ただし、「70Bモデルだから必ず○GB」と短絡的に決めるのは危険です。量子化精度（4bit/8bit/16bit）やコンテキスト長によって消費VRAMは激変します。まず実際に扱うモデルと処理を決め、その必要VRAMからGPUを逆算するのが鉄則です。

RTX 5090で十分な人、RTX PROが必要になる境界

GeForce RTX 5090（32GB）で十分な用途

• 画像生成AI（Stable Diffusion / ComfyUI / Flux.1等での高解像度生成・LoRA学習）
• AI動画・映像処理（Runway/ComfyUIによるローカルフレーム補間・アップスケール）
• ローカルLLM推論（8B〜32Bクラスを中心に、モデル・量子化方式によってはより大きなモデルもCPUオフロード等を併用して実行可能）
• AIアプリ・Cursor/Claude Code等を用いたエージェント開発環境
• 小〜中規模な社内ナレッジを対象とするRAGプロトタイピング
• 研究・開発のPoC（概念実証）フェーズ

大切なのは、「32GBで成立する処理に、過剰なProfessional GPUを買い与えない」ことです。浮いた予算を高速SSDや大容量メモリ、デュアル4Kモニターへ投資した方が開発効率は何倍も上がります。

RTX PRO 6000（96GB）が必要になる境界

• 32GBというVRAM上限そのものが物理的な制約となり、モデルが収まらない
• 70B級モデルの高精度推論など、32GBを大きく超えるVRAMを必要とする処理を単一GPUで行いたい
• 超長文コンテキスト（32k〜128kトークン超）を維持したまま大量のバッチ処理を行いたい
• AI推論・学習と、3DCGレンダリングや映像制作のGPUワークロードを同時にバックグラウンド運用したい
• 大規模なデータサイエンス、ゲノム解析、医療画像解析を社内ローカルで完結させたい
• 企業の研究開発部門で、エラー停止が許されない24時間連続処理を回し続ける

このレベルになると、PC本体の価格は数百万円クラスに達します。「便利そうだから」ではなく、「96GBがなければ業務が成立しない」という明確な要件がある場合にのみ選定します。

※GeForceとRTX PROのECC、ドライバー、ISV認証などの基本的な違いは「GeForceとRTX PROは何が違う？」、PRO 4000・4500・5000・6000の選び分けは「RTX PRO Blackwellシリーズの違い」で整理しています。32GBでは不足する場合も、必要な余裕によって48GB／72GB、84GB、96GBの選択肢が変わります。RTX PRO 5500とRTX 5090の比較では、新たな84GBを検討する境界を整理しています。

デュアルGPUならVRAMは単純に足せるのか？

複数GPUを有効利用するには、次のような分散手法が必要です。

• モデル並列 / テンソル並列: 1つの巨大なLLMをレイヤー単位で複数GPUに分割配置して推論する技術（vLLM等）。動作にはGPU間の高速通信が要求され、設定難易度も高くなります。
• データ並列: 各GPUに同一モデル（例：各32GB）をそれぞれ読み込ませ、異なるユーザーからのリクエストを同時に処理する方式。スループットは倍になりますが、扱えるモデルの最大サイズは32GBのままです。

RTX 5090などの高消費電力GPUを2基搭載する構成では、CPUやその他のパーツを含め、システム全体の最大消費電力が家庭用100V 15A回路の目安である1500Wへ近づく、または超える可能性があります。電源回路・PSU・排熱まで含めた設計が必要です。

RAGだから高性能GPUが必要、ではない

RAG（Retrieval-Augmented Generation：検索拡張生成）も非常に誤解されやすい分野です。「社内文書RAGを作るからワークステーションを買う」という判断は、処理の内訳を見誤っている可能性があります。

1. ドキュメント処理・Vector DB検索: PDFやテキストのチャンク分割、Embedding（ベクトル埋め込み）、ベクトルデータベース（Chroma/Qdrant/Milvus等）の検索処理。小〜中規模のRAGでは、ドキュメント処理やVector DB検索そのものより、ローカルLLMによる回答生成の方がGPU要件を大きく左右するケースが一般的です。ただし、大量文書のEmbedding生成や大規模検索では計算資源が必要になる場合があります。
2. LLMによる回答生成: 検索結果の文脈を統合して回答を生成する処理。ローカルLLM推論は、RAG構成の中でも特にGPUのVRAM・計算性能を要求しやすい処理です。

もし回答生成部分に外部API（OpenAIやClaude等）を利用するハイブリッド構成であれば、LLM推論のためだけに高価なGPUワークステーションを用意する必要性は大きく下がります。逆に、「機密保持のためLLM推論も含めて完全にオフライン・社内完結させる」場合などには、LLMのモデルサイズに応じたVRAM（32GB〜96GB）を持つハードウェアが必要になります。

GPU以外も重要になる：メモリ・SSD・ネットワーク

AIワークステーションはGPUだけでは完成しません。他のパーツがボトルネックになると、高価なGPUが遊んでしまいます。

• メインメモリ（RAM）: モデル読み込み時のバッファ、前処理データセットの展開、複数AIコンテナの同時運用を考慮すると、64GB〜128GBを検討するのが推奨されます。巨大データを扱う場合は256GB以上やECCメモリの導入を視野に入れます（参考：AIワークステーションでECCを選ぶ基準）。
• SSDストレージ: 数十GBの重み（Weights）ファイルを瞬時にロードするため、PCIe Gen4またはGen5の高速NVMe SSDの導入が合理的です。モデルファイルやチェックポイントは瞬く間に容量を食い潰すため、2TB〜4TBを目安に用途から検討することが重要です。
• CPUの選択: 単一GPUでの推論であればCore Ultra 9やRyzen 9などの民生用CPUで十分です。PCIeレーン数を多く必要とするマルチGPUや超大容量ECCメモリを搭載する場合にのみ、ThreadripperやXeonを選定します（参考：マルチGPUに必要なCPU基盤：Threadripper PRO vs Xeon）。
• ネットワーク環境: Hugging Faceからの巨大モデルダウンロードや、社内NAS・クラスタとのデータ送受信を考えると、マザーボードの2.5GbEや10GbEポートが開発ストレスを大きく左右します。

クラウドとローカルはどちらがいい？

高額なワークステーションを購入する前に、「本当に自前で所有する必要があるか」を比較検討する必要があります。

AIワークステーションを4段階（LEVEL 1〜4）で考える

まとめ：まず「AIをやる」ではなく「何をローカルで処理するか」

AIワークステーション選びで最も危険なのは、「AI用途だから一番高いGPUを買う」というアプローチです。

必要なのは、
用途 → モデル・データ → 必要な処理 → 必要VRAM / RAM → 必要な環境
という順番で考えることです。

32GBで足りるならRTX 5090。
96GBという容量に意味があるならRTX PRO 6000。
複数GPUを使う明確な理由があるならマルチGPU。
目的から逆算した結果として初めて、ワークステーションは合理的な投資になります。

※CUDAのソフト資産を維持するか、Macの大容量共有メモリを利用するかは、仕事全体から判断する必要があります。Mac Studio M5 UltraとRTX PRO 5500の比較 → では、制作工程と導入運用まで含めて整理しています。

AIワークステーションを自宅やオフィスに据え置き、外出先では軽量ノートからSSHやWeb UIでアクセスする構成も可能です。特に大容量VRAMを必要とする場合、高性能GPUを複数の端末へ分散して搭載するのではなく、計算資源を1か所へ集約する考え方があります。詳しい環境構築手順は自宅・オフィスのGPUを外から使うリモートAI開発環境を参照してください。

よくある質問