NVIDIA、世界最先端のエンタープライズ向けAIインフラストラクチャを発表
- 2022/3/25
- ものづくり
- AI プラットフォーム, 演算性能要件
NVIDIAは23日、新しいNVIDIA H100 、TensorコアGPUを搭載した世界初のAI プラットフォームとなる、第4世代のNVIDIA DGXシステムを発表した。
DGX H100システムは、大規模言語モデル、レコメンダー システム、ヘルスケア研究および気候科学に必要とされる、膨大な演算性能要件に対応できるスケールを備えている。1 台のシステムには8 基の NVIDIA H100 GPU が搭載され、これらの GPU が NVIDIA NVLinkで1つに接続されている。DGX H100 システムは1台あたり、新しいFP8精度で前世代の6倍以上となる、32 ペタフロップスのAI性能を発揮する。
DGX H100システムは、次世代の NVIDIA DGX PODおよびNVIDIA DGX SuperPOD AI インフラストラクチャ プラットフォームの構成要素となっている。最新のDGX SuperPOD アーキテクチャには、合計256基のH100 GPUを搭載する最大 32 のノードを接続する、新しい NVIDIA NVLink Switch Systemが実装されている。
FP8で1エクサフロップスと前世代の6倍以上のAI 性能を発揮する、次世代の DGX SuperPOD は、数兆のパラメータを持つ膨大な LLM ワークロードを処理できる能力によって、AIの地平を切り開く。