Hopperとは
Hopperは、NVIDIAが2022年3月に発表したデータセンター向けGPUのアーキテクチャで、H100などに使われています。AIの文章モデルなどで使われる「Transformer」という計算を速くする専用のしくみを初めて入れました。
| メーカー | nvidia |
| 発表年 | 2022 |
| 製造プロセス | TSMC 4N |
主な変更点
- Transformer計算を速くするTransformer Engineを搭載
- 800億トランジスタ(H100)、TSMC 4N工程
- NVLinkの強化でGPU同士の接続を拡張
- コンフィデンシャル・コンピューティング(秘密計算)に対応
Hopper(ホッパー)は、NVIDIAが2022年3月22日のGTCで発表した、データセンター向けGPUのアーキテクチャです。名前は、コンピューター科学者のグレース・ホッパーからとられています。前の世代であるAmpereの後継で、AIの学習やスーパーコンピューターでの計算に使われます。 最初の製品であるH100は、800億個のトランジスタを持ち、TSMCの4N工程で作られています。 新しくなった点で一番大きいのは「Transformer Engine(トランスフォーマー・エンジン)」です。Transformerは、文章を作るAI(大規模言語モデル)などで広く使われている計算の方式で、これを速く処理するための専用のしくみが入りました。ほかにも、GPU同士を速くつなぐNVLinkの強化や、処理中のデータを守る「コンフィデンシャル・コンピューティング」(秘密計算)に対応したことが特徴です。 代表的な製品は、H100と、メモリを強化したH200、CPUのGraceと組み合わせたGH200などです。 中古や調達で見るときは、同じH100でも、サーバーの基板に直接取り付ける形(SXM)と、パソコンのように差し込む形(PCIe)があり、使えるサーバーが違う点に注意が必要です。また、データセンター向けGPUは国や地域によって輸出のルールがあるため、最新の規制を確認しましょう。