スパース性(Sparsity)とは(Sparsity)
ひとことで:AIモデルの中の「ゼロに近くて計算しなくてよい部分」を飛ばして速くする仕組み。仕様表の数字が2倍に見える原因になります。
詳しく
AIモデルの重み(計算に使う数値の集まり)には、ゼロにしても結果にほとんど影響しない部分があります。NVIDIAのTensorコアは、決まった形でゼロを含むデータなら、その部分の計算を省いて最大2倍の速さで処理できます。これを「構造化スパース性」と呼びます。注意点は、メーカーの仕様表で大きく書かれている数字が、この「スパース性あり」の値であることが多い点です。通常のモデルではこの効果は得られず、「デンス(密)」と書かれた値、つまりおおむね半分が実力の目安になります。中古のAI用GPUを比較したり、見積もりを出したりするときは、表の注記(*With sparsity など)を必ず確認し、デンス値どうしで比べてください。
具体例
NVIDIA DGX B200:FP4 Tensorコアで144 PFLOPS(スパース)/72 PFLOPS(デンス)。H100の仕様表もTF32・FP16・FP8の値に「With sparsity」の注記あり。
関連する用語
関係するカテゴリ:GPUの相場一覧