GPU コストパフォーマンス計算ツール

GPU の選択は、PC を組むときや workstation を upgrade するときの最も重要な判断の 1 つです。主な評価軸は次のとおりです：

① 用途に応じて予算を決める ゲーム中心なら FP32 性能と VRAM、AI 用途なら VRAM と Tensor Core を主要指標として見ると分かりやすくなります。動画編集や 3D レンダリングはその中間で、エンコーダー対応や CUDA コア数も重要になります。

② VRAM 容量が重要 — 1080p ゲームなら 8GB でも足りる場合がありますが、AI 推論、特に LLM では少なくとも 12GB、余裕を持つなら 24GB 以上が扱いやすくなります。Stable Diffusion も 12GB 以上あれば 1024×1024 級の生成を行いやすくなります。

③ 世代間の違いに注意する — 新世代 GPU は効率が高いだけでなく、DLSS 4、AV1 encoding、FP8/FP4 precision など新しい技術に対応することが多く、AI や各種ワークロードへ大きな影響があります。

VRAM（Video Random Access Memory）は GPU 専用のメモリで、レンダリングに必要なテクスチャ、バッファ、AI モデルの重み、中間計算結果などを保存します。VRAM 容量は GPU が扱えるワークロードの規模を直接左右します。

AI 用途では VRAM が特に重要です。大規模言語モデル（LLM）の重みパラメータは、実行時に VRAM へ読み込む必要があります。たとえば 70B パラメータモデルは FP16 なら約 140 GB、Q4 量子化でも約 35 GB の VRAM が必要です。VRAM が不足するとシステム RAM への Offload が必要になり、推論速度が大幅に低下します。

一般的な目安：Gaming 1080p → 8GB、1440p → 12GB、4K → 16GB+。AI 入門 → 12GB、Professional AI → 24GB+、LLM deployment → 48GB+（または複数 GPU）。

CUDA（Compute Unified Device Architecture）は NVIDIA が提供する並列コンピューティングプラットフォーム兼プログラミングモデルで、大量の GPU コアを汎用計算（GPGPU）へ利用できるようにします。CUDA Core は NVIDIA GPU の基本演算ユニットで、CPU コアに似た役割を持ちますが非常に多数搭載されます（RTX 4090 は 16,384 CUDA Core）。

AI 分野では、CUDA エコシステム（cuDNN、TensorRT などのライブラリを含む）が長く業界標準に近い位置を占めてきました。PyTorch、TensorFlow、JAX など多くのフレームワークが CUDA アクセラレーションを利用しており、NVIDIA GPU は AI ワークロードで大きなエコシステム上の優位性を持っています。

AMD は Stream Processor と ROCm プラットフォームを組み合わせ、同様の機能を実現しています。近年は AI フレームワーク対応が大きく進歩しましたが、LLM 推論や Stable Diffusion などの用途では、エコシステム全体の成熟度は依然として NVIDIA に遅れています。

Tensor Core は NVIDIA GPU に搭載された専用ハードウェアユニットで、ディープラーニングで特に重要な行列積和演算（GEMM）を高速に実行するために設計されています。Volta アーキテクチャ（2017 年）で初めて導入されて以来、Tensor Core は複数世代にわたり進化し、世代ごとにより多くの精度形式へ対応してきました。

Tensor Core が対応する主な精度には FP16（16-bit floating point）、BF16（bfloat16）、TF32（Tensor Float 32）、INT8（8-bit integer）、INT4、最新 Blackwell 世代の FP4 などがあります。Tensor Core を使った FP16 行列演算は、従来の FP32 と比べて理論上最大約8倍、スパース性を利用する条件ではさらに高いスループットを得られる場合があります。

Tensor Core は AI の学習・推論だけでなく、NVIDIA DLSS（Deep Learning Super Sampling）にも使われています。DLSS は AI を利用して低解像度画像を高解像度へリアルタイム再構築し、性能を大きく犠牲にせず画質を向上させる技術です。AI 用途では Tensor Core の世代と数が GPU を評価する重要な指標になります。

AI ワークステーションを組む場合、GPU の選択は作業効率と扱えるモデルサイズを直接左右します。主なポイントは次のとおりです。

VRAM 優先 — AI 用途では VRAM が重要なハード制約になります。7B 規模（Llama 3 8B など）のモデルは FP16 で約 16GB VRAM、70B モデルは約 140GB が目安です。少なくとも 24GB（RTX 3090/4090）が推奨され、プロ用途では 48GB 以上（RTX 5090 やデュアル 4090 など）も選択肢になります。

Tensor Core の世代 — 新しい Tensor Core は FP8、FP4 など、より多くの精度形式に対応し、学習速度とメモリ効率を直接改善できます。AI 学習では RTX 40 シリーズ（Ada Lovelace）が RTX 30 シリーズ（Ampere）より約 30～50% 高速になる場合があります。

エコシステム互換性 現在、AI フレームワークの対応が最も充実しているのは NVIDIA CUDA です。AMD ROCm も追い上げていますが、利用するソフトウェアとの互換性は個別に確認する必要があります。本番用途では依然として NVIDIA が無難な選択肢です。コンシューマー向け GPU（RTX）はデータセンター向け（A100/H100）よりコストパフォーマンスが高く、個人や小規模チームに適しています。

中古 GPU 市場は優れたコストパフォーマンスを得られる一方、固有のリスクもあります。以下で総合的に分析します。

利点： 中古価格は通常、新品時の 50〜70% 程度で、2 世代前の GPU ではさらに安くなることがあります。RTX 3090 24GB の中古相場は約 NT$20,000〜25,000 で、非常に高いコストパフォーマンスです。AI 用途では、旧世代フラッグシップの大容量 VRAM が、新世代ミドルレンジより魅力的な場合もあります。

デメリットとリスク： ① マイニング使用歴のある GPU のリスク：長期間フル負荷で稼働していた可能性があり、冷却機構の劣化やファンの摩耗が進んでいる場合があります。② 保証の問題：中古カードはメーカー保証が切れているか、残存期間が短いことが一般的です。③ 世代による技術差：古い GPU は AV1 エンコード、DLSS 4、FP8 対応など新しい機能を備えていない場合があります。

購入アドバイス： 購入証明の原本がある出品者を優先し、明らかにマイニング用途だった GPU（多数のカードを所有し、ブラケットや元箱がないなど）は避けてください。中古市場で AI 用途のコストパフォーマンスが高い候補として RTX 3090、RTX 3080 Ti、RTX 2080 Ti などがあります。取引前に、出品者へ GPU-Z のスクリーンショットとストレステスト結果の提示を求めることを推奨します。