समाचारं

NVIDIA Blackwell आँकडा केन्द्रे कार्यरतः अस्ति: NVLINK 1.4TB/s यावत् उन्नयनं कृतवान्, प्रथमं FP4 GenAI इमेज विमोचितम्

2024-08-24

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

आईटी हाउस् इत्यनेन अगस्तमासस्य २४ दिनाङ्के ज्ञापितं यत् एनवीडिया इत्यनेन केचन मीडिया-माध्यमाः एकं ब्रीफिंग्-समारोहं कर्तुं आमन्त्रिताः, प्रथमवारं च प्रौद्योगिकी-सञ्चारकर्तृभ्यः ब्लैकवेल्-मञ्चस्य प्रदर्शनं कृतम् । एनवीडिया अगस्तमासस्य २५-२७ दिनाङ्कपर्यन्तं आयोजिते हॉट् चिप्स् २०२४ इति कार्यक्रमे भागं गृह्णीयात् यत् डाटा सेण्टर्षु ब्लैकवेल् मञ्चस्य उपयोगं प्रदर्शयिष्यति।

ब्लैकवेल् इत्यस्य सूचीकरणे विलम्बस्य वार्ता अङ्गीकुर्वति

अस्मिन् संक्षिप्तसमारोहे एनवीडिया इत्यनेन ब्ल्याक्वेल् इत्यस्य विलम्बितसूचीकरणस्य वार्ता खण्डिता, स्वस्य डाटा सेण्टर् गोलियथ् इत्यस्य विषये अधिकानि सूचनानि च साझां कृतम् ।

एनवीडिया इत्यनेन ब्रीफिंग् इत्यस्य समये ब्ल्याक्वेल् इत्यस्य एकस्मिन् दत्तांशकेन्द्रे चालनं प्रदर्शितं तथा च ब्लैकवेल् योजनानुसारं प्रगतिः भवति इति बोधितं यत् अस्मिन् वर्षे अन्ते ग्राहकेभ्यः निर्यातं भविष्यति।

अत्र अफवाः सन्ति यत् ब्लैकवेल् इत्यस्य किमपि प्रकारस्य दोषः अथवा समस्या अस्ति यत् अस्मिन् वर्षे तस्य विपण्यं प्रति मुक्तं न भवति।

ब्लैकवेल् इत्यस्य परिचयः

एनवीडिया कथयति यत् ब्ल्याक्वेल् केवलं चिप् इत्यस्मात् अधिकः अस्ति, एषः मञ्चः अस्ति। हॉपर इव ब्लैकवेल् इत्यत्र अपि डाटा सेण्टर, क्लाउड् कम्प्यूटिङ्ग्, आर्टिफिशियल इन्टेलिजेन्स् ग्राहकानाम् कृते बहूनां डिजाइनं समाविष्टम् अस्ति, तथा च प्रत्येकं ब्लैकवेल् उत्पादं भिन्नचिप्स् इत्यनेन निर्मितम् अस्ति

IT Home इत्यस्मिन् समाविष्टाः चिप्स् निम्नलिखितरूपेण सन्ति ।

ब्लैकवेल जीपीयू

अनुग्रह सीपीयू

NVLINK स्विच चिप

नीलक्षेत्रम्-3

कनेक्टX-7

कनेक्टX-8

स्पेक्ट्रम-4

क्वांटम-3

ब्लैकवेल् सेतुः

एन्विडिया इत्यनेन ब्ल्याक्वेल् उत्पादपरिवारस्य विभिन्नसेतुनां नूतनानि चित्राणि अपि साझा कृता । एतानि ब्लैकवेल्-केबल-ट्रे-इत्यस्य प्रथमानि चित्राणि सन्ति, येषां साझेदारी भवति, ये अग्रिम-पीढीयाः आँकडा-केन्द्र-मञ्चानां डिजाइन-करणाय आवश्यकं विस्तृतं अभियांत्रिकी-विशेषज्ञतां दर्शयन्ति

लक्ष्य खरब पैरामीटर AI मॉडल

ब्लैकवेल् आधुनिककृत्रिमबुद्धेः आवश्यकतानां पूर्तये तथा मेटा इत्यस्य ४०५बी ल्लामा-३.१ इत्यादीनां बृहत्भाषामाडलानाम् उत्कृष्टप्रदर्शनं प्रदातुं डिजाइनं कृतम् अस्ति यथा यथा LLMs बृहत्तराः भवन्ति तथा च अधिकानि मापदण्डानि भवन्ति तथा तथा आँकडाकेन्द्रेषु अधिकगणना, न्यूनविलम्बता च आवश्यकी भविष्यति ।

बहु-जीपीयू अनुमानविधयः

बहु-GPU अनुमान-पद्धतिः न्यून-विलम्बं उच्च-थ्रूपुटं च प्राप्तुं बहु-GPU-इत्यत्र गणनां कर्तुं भवति, परन्तु बहु-GPU-मार्गे गमनस्य जटिलताः सन्ति बहु-GPU वातावरणे प्रत्येकं GPU प्रत्येकं स्तरस्य अन्येभ्यः GPUभ्यः गणनापरिणामान् प्रेषयितुं अर्हति, यस्य कृते उच्च-बैण्डविड्थ-GPU-तः-GPU-सञ्चारस्य आवश्यकता भवति ।

बहु-GPU अनुमान-पद्धतिः न्यून-विलम्बं उच्च-थ्रूपुटं च प्राप्तुं बहु-GPU-इत्यत्र गणनां कर्तुं भवति, परन्तु बहु-GPU-मार्गे गमनस्य जटिलताः सन्ति बहु-GPU वातावरणे प्रत्येकं GPU प्रत्येकं स्तरस्य अन्येभ्यः GPUभ्यः गणनापरिणामान् प्रेषयितुं अर्हति, यस्य कृते उच्च-बैण्डविड्थ-GPU-तः-GPU-सञ्चारस्य आवश्यकता भवति ।

द्रुततरं NVLINK स्विच् भवति

ब्ल्याक्वेल् इत्यनेन सह एनवीडिया इत्यनेन द्रुततरं एनवीलिङ्क् स्विच् प्रवर्तयितम् येन फैब्रिक् बैण्डविड्थ् १.८ टीबी/सेकण्ड् यावत् दुगुणं कृतम् । NVLINK स्विच् स्वयं TSMC इत्यस्य 4NP नोड् 800mm2 चिप् इत्यस्य आधारेण अस्ति, यत् GB200 NVL72 रैक् इत्यस्मिन् NVLINK इत्यस्य 72 GPUs यावत् स्केल कर्तुं शक्नोति ।

चिप् ७२ पोर्ट् मार्गेण ७.२ टीबी/सेकण्ड् सर्वेभ्यः सर्वेभ्यः द्विदिशा-बैण्डविड्थ् प्रदाति, यत्र ३.६ TFLOPs इत्यस्य जालस्य अन्तः गणनाशक्तिः भवति । NVLINK स्विच् ट्रे इत्यत्र एतेषु द्वौ स्विचौ दृश्यते, येन कुल बैण्डविड्थ् १४.४ TB/s पर्यन्तं प्राप्यते ।

जलशीतलनम्

एनवीडिया जलशीतलनस्य उपयोगं करोति कार्यक्षमतां च कार्यक्षमतां च सुधारयितुम् । GB200, Grace Blackwell GB200 तथा B200 प्रणालीषु एतानि नवीनतरलशीतलनसमाधानं भविष्यति, येन डाटा सेण्टरसुविधानां कृते विद्युत्व्ययस्य 28% पर्यन्तं न्यूनीकरणं कर्तुं शक्यते।

FP4 गणनानां उपयोगेन उत्पन्नं प्रथमं कृत्रिमबुद्धिप्रतिबिम्बम्

NVIDIATM (NVIDIA®) इत्यनेन FP4 कम्प्यूटिङ्ग् इत्यस्य उपयोगेन उत्पन्नं विश्वस्य प्रथमं कृत्रिमबुद्धिप्रतिबिम्बं अपि साझां कृतम् । आकृतौ दर्शयति यत् FP4 क्वाण्टाइजेशन मॉडल् 4-बिट् शशप्रतिमाः उत्पादयति ये FP16 मॉडल् इत्यस्य सदृशाः सन्ति, परन्तु द्रुततराः सन्ति ।

इदं चित्रं MLPerf इत्यनेन स्थिरप्रसारणे Blackwell इत्यस्य उपयोगेन निर्मितम् । अधुना, सटीकताम् (FP16 तः FP4 पर्यन्तं) न्यूनीकर्तुं आव्हानं अस्ति यत् भवान् किञ्चित् सटीकताम् नष्टं करोति ।