NVIDIA ने H100 की तुलना में एक महत्वपूर्ण अपग्रेड के साथ अपनी नई HGX H200 AI चिप की घोषणा की

NVIDIA ने इसके लॉन्च की घोषणा की है नवीनतम HGX H200 GPU, जिसका उद्देश्य कृत्रिम बुद्धिमत्ता प्रणालियों को प्रशिक्षित करना है। H200, HGX H100 का उत्तराधिकारी है और इसमें कई प्रदर्शन सुधार हैं। कंपनी के मुताबिक H200 के साथ संगत होगा हार्डवेयर और सॉफ्टवेयर दोनों H100 प्रणाली.

यह अगले वर्ष H200-आधारित इंस्टेंसेस तैनात करने वाले पहले क्लाउड सेवा प्रदाताओं में से एक है Google क्लाउड, Amazon वेब सेवाएँ, Microsoft Azure और Oracle क्लाउड इंफ्रास्ट्रक्चर। ऐसे अन्य प्रदाताओं में CoreWeave, Lambda, और Vultr शामिल हैं। हम NVIDIA HGX H200 चिपसेट के शीर्ष स्पेक्स और फीचर्स को देखते हैं।

NVIDIA HGX H200 विशिष्टताएँ और सुविधाएँ

NVIDIA H200 कंपनी पर आधारित है हॉपर आर्किटेक्चर, जे विशेषताएँ H200 टेंसर कोर जीपीयू। NVIDIA H200 है HBM3e के साथ आने वाला पहला GPUजो ऑफर करता है 4.8 टेराबाइट्स प्रति सेकंड पर 141GB मेमोरी. बड़ी मेमोरी का उद्देश्य जेनरेटिव एआई और बड़े भाषा मॉडल (एलएलएम) के त्वरण में सहायता करना है। एक परिप्रेक्ष्य देने के लिए, एक स्मृति की पेशकश की H200 अपने पूर्ववर्ती NVIDIA A100 से लगभग दोगुना सक्षम है और बैंडविड्थ 2.4x बढ़ गई है।

“NVIDIA H200 के साथ, उद्योग अग्रणी एंड-टू-एंड एआई सुपरकंप्यूटिंग प्लेटफॉर्म यह दुनिया की कुछ सबसे महत्वपूर्ण चुनौतियों को हल करने में तेजी ला रहा है, ”हाइपरस्केल और एचपीसी के उपाध्यक्ष इयान बक ने कहा। NVIDIA ने एक प्रेस विज्ञप्ति में कहा।

कंपनी का कहना है कि यूजर्स लगभग अनुभव कर सकते हैं दोहरा लामा 2 पर अटकलों की गति, 70 बिलियन पैरामीटर एलएलएम, एच100 की तुलना में। एनवीडिया एचजीएक्स एच200 सर्वर बोर्ड चार और आठ-तरफ़ा कॉन्फ़िगरेशन में उपलब्ध होंगे. इसके अलावा, यह होगा में भी उपलब्ध होगा HBM3e के साथ NVIDIA GH200 ग्रेस हॉपर सुपरचिप।

NVIDIA की भागीदार सर्वर कंपनियों के मौजूदा सिस्टम पसंद डेल टेक्नोलॉजीज, हेवलेट पैकार्ड एंटरप्राइज, एएसयूएस, लेनोवो, और बहुत कुछ H200 के साथ अपडेट किया जा सकता है। इसमें ऐसी कई कंपनियां शामिल हैं एएसआरॉक रैक, एविडेन, गीगाबाइट, इंग्रासिस, क्यूसीटी, सुपरमाइक्रो, विस्ट्रॉन और वाईविन।

हालाँकि, H200 को तैनात करने वाली पहली कंपनियों में से कुछ Google क्लाउड, अमेज़ॅन वेब सर्विसेज, Microsoft Azure, Oracle क्लाउड इंफ्रास्ट्रक्चर, CoreWeave, Lambda और Vultr हैं।

करने के लिए धन्यवाद कंपनी के NVLink और NVSwitch हाई-स्पीड इंटरकनेक्ट, HGX H200 उच्च प्रदर्शन सक्षम बनाता है एलएलएम प्रशिक्षण जैसे विभिन्न अनुप्रयोग कार्यभार पर। यह भी प्रदान कर सकता है सबसे बड़े मॉडल का अनुमान 175 बिलियन मापदंडों से परे।

एनवीडिया एचजीएक्स एच200 आठ-तरफा विन्यास प्रस्ताव प्रतियां एफपी8 डीप लर्निंग कंप्यूट के 32 पेटाफ्लॉप और 1.1टीबी कुल उच्च-बैंडविड्थ मेमोरी। चिपसेट होगा उपलब्ध शुरुआत 2024 की दूसरी तिमाही में.

यहाँ नया H200 आता है H100 के एक वर्ष बाद, जिसमें अधिकृत किया गया था मार्च 2022. NVIDIA H100 कंपनी का पहला GPU थाकौन था हॉपर वास्तुकला पर आधारित। एचजीएक्स एच100 की विशेषताएं 80 अरब ट्रांजिस्टर और TSMC की 4N प्रक्रिया पर आधारित है। के साथ आता है समान विशेषताएं ट्रांसफार्मर इंजन और NVIDIA NVLink आपस में जुड़े हुए हैं। पिछले वर्ष का GPU उद्देश्य था एआई और एचपीसी में व्यापक रूप से तेजी लाना।