समाचारं

ऐ राक्षस डोजो !स्वविकसितं सुपरकम्प्यूटिङ्ग् एनवीडिया इत्यस्य चुनौतीं ददाति

2024-08-05

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


लेखः सिन्झियुआन्-भाषायां पुनः मुद्रितः अस्ति

सशक्ततमस्य Grok 3 इत्यस्य प्रशिक्षणार्थं xAI इत्यनेन १९ दिवसान् यावत् एकलक्षं H100s इत्यनेन निर्मितस्य विश्वस्य बृहत्तमस्य सुपरकम्प्यूटिङ्ग् क्लस्टरस्य निर्माणं कृतम् ।


एफएसडी, ऑप्टिमस् प्राइम रोबोट् इत्येतयोः प्रशिक्षणस्य दृष्ट्या मस्कः अपि कोऽपि व्ययः न त्यक्तवान्, कम्प्यूटिंग् संसाधनं च बहु निवेशितवान् ।

सुपरकम्प्यूटिङ्ग् डोजो टेस्ला एआइ इत्यस्य आधारशिला अस्ति तथा च विशेषतया एफएसडी न्यूरल नेटवर्क् इत्यस्य प्रशिक्षणार्थं निर्मितम् अस्ति ।

अद्यैव सः टेक्सास् सुपर फैक्ट्री (Cortex) इत्यत्र टेस्ला इत्यस्य सुपरकम्प्यूटर् समूहं गतवान् ।

मस्कः अवदत् यत्, "इयं प्रायः एकलक्ष H100/H200 GPUs युक्ता प्रणाली भविष्यति तथा च पूर्णतया स्वायत्तवाहनचालनस्य (FSD) तथा Optimus रोबोट् इत्यस्य विडियो प्रशिक्षणार्थं बृहत्-परिमाणेन भण्डारणेन सुसज्जिता भविष्यति।


न केवलं, NVIDIA GPUs इत्यस्य अतिरिक्तं, अयं सुपरकम्प्यूटिङ्ग् क्लस्टरः Tesla HW4, AI5, Dojo च प्रणालीभिः अपि सुसज्जितः अस्ति ।

तेषां शक्तिः ५०० मेगावाट् पर्यन्तं विशालेन प्रणाल्याः शक्तिः शीतला च भविष्यति ।



२०२१ तमे वर्षे टेस्ला एआइ दिवसे मस्कः प्रथमवारं डोजो इति घोषितवान् ।

अधुना वर्षत्रयं गतं, डोजो निर्माणं कथं प्रचलति?


1

8,000 H100 समकक्षं कम्प्यूटिंगशक्तिः, भवतः दावस्य दुगुणं भवति

अर्धमासपूर्वं नेटिजनाः दावान् कृतवन्तः यत् २०२४ तमस्य वर्षस्य अन्ते यावत् टेस्ला-संस्थायाः एआइ-प्रशिक्षण-कम्प्यूटिंग्-शक्तिः भविष्यति, यत् ९०,००० युआन्-मूल्यकस्य एच्१००-इत्यस्य प्रदर्शनस्य बराबरम् अस्ति


अस्मिन् विषये कस्तूरी किमपि योजितवान् ।

वयं न केवलं NVIDIA GPUs इत्यस्य उपयोगं कुर्मः अपितु स्वस्य AI सङ्गणकस्य अपि उपयोगं कुर्मः - Tesla HW4 AI (AI4 इति नामान्तरितम्) AI प्रशिक्षणप्रणाल्यां, यस्य अनुपातः प्रायः 1:2 भवति । अस्य अर्थः अस्ति यत् अत्र प्रायः ९०,००० एच्१००, अपि च प्रायः ४०,००० एआइ४ सङ्गणकाः सन्ति ।


अस्य वर्षस्य अन्ते यावत् डोजो १ इत्यस्मिन् प्रायः ८,००० समतुल्य एच्१०० कम्प्यूटिंग् शक्तिः भविष्यति इति अपि सः उल्लेखितवान् । एषः स्केलः विशालः नास्ति, परन्तु सः अपि लघुः नास्ति ।


Dojo D1 सुपरकम्प्यूटिंग समूह

वस्तुतः गतवर्षस्य जूनमासे मस्कः प्रकाशितवान् यत् डोजो कतिपयान् मासान् यावत् अन्तर्जालद्वारा अस्ति, उपयोगीकार्यं च चालयति स्म ।


एतेन पूर्वमेव तात्पर्यं यत् डोजो केषाञ्चन कार्याणां प्रशिक्षणे संलग्नः अस्ति ।

अधुना एव टेस्ला-संस्थायाः अर्जनसम्मेलने मस्कः अवदत् यत् टेस्ला अक्टोबर्-मासे स्वयमेव चालित-टैक्सी-प्रक्षेपणस्य सज्जतां करोति, एआइ-दलः डोजो-नगरे "द्विगुणं निवेशं" करिष्यति इति


डोजो इत्यस्य कुलगणनाशक्तिः २०२४ तमस्य वर्षस्य अक्टोबर्-मासे १०० एक्जाफ्लोप्-पर्यन्तं भविष्यति इति अपेक्षा अस्ति ।

D1 चिप् ३६२ टेराफ्लोप्स् प्राप्तुं शक्नोति इति कल्पयित्वा १०० एक्साफ्लोप्स् प्राप्तुं टेस्ला इत्यस्य कृते २७६,००० तः अधिकानि D1 चिप्स्, अथवा ३२०,००० तः अधिकानि Nvidia A100 GPUs आवश्यकानि भविष्यन्ति ।


1

५० अरब ट्रांजिस्टर, D1 उत्पादनं कृतम् अस्ति

२०२१ तमे वर्षे टेस्ला एआइ दिवसे प्रथमवारं D1 चिप् इत्यस्य अनावरणं कृतम् अस्मिन् ५० अरबं ट्रांजिस्टराः सन्ति, केवलं हस्ततलस्य आकारः अस्ति ।

अस्य शक्तिशालिनः कुशलः च कार्यक्षमता अस्ति, विविधानि जटिलानि कार्याणि शीघ्रं सम्भालितुं शक्नोति ।


अस्मिन् वर्षे मेमासे D1 चिप् इत्यस्य उत्पादनं आरब्धम्, TSMC इत्यस्य 7nm प्रक्रिया नोड् इत्यस्य उपयोगेन ।

ऑटोपायलट् इत्यस्य हार्डवेयरस्य पूर्ववरिष्ठनिदेशकः गणेशवेङ्कटरमनन् एकदा अवदत् यत्, "डी१ एकस्मिन् समये गणनां आँकडासंचरणं च कर्तुं शक्नोति, अनुकूलितं ISA निर्देशसमूहं आर्किटेक्चरं स्वीकुर्वति, यन्त्रशिक्षणकार्यभारस्य कृते च पूर्णतया अनुकूलितं भवति

एतत् शुद्धं यन्त्रशिक्षणचिप् अस्ति।


तदपि D1 अद्यापि Nvidia A100 इव शक्तिशाली नास्ति, यत् TSMC इत्यस्य 7nm प्रक्रियायाः उपयोगेन अपि निर्मितम् अस्ति ।

D1 ६४५ वर्गमिलिमीटर् चिप् इत्यस्मिन् ५० अरब ट्रांजिस्टरं स्थापयति, A100 इत्यस्मिन् ५४ बिलियन ट्रांजिस्टराः सन्ति, चिप् आकारः ८२६ वर्गमिलिमीटर् अस्ति, कार्यक्षमतया च D1 इत्यस्मात् अग्रे अस्ति

अधिकं बैण्डविड्थं, कम्प्यूटिंग्-शक्तिं च प्राप्तुं टेस्ला-एआइ-दलेन २५ डी१-चिप्स-इत्येतत् एकस्मिन् टाइल्-मध्ये एकीकृत्य एकीकृत-सङ्गणक-प्रणालीरूपेण संचालितम्

प्रत्येकं टाइल् मध्ये ९ पेटाफ्लॉप्स् कम्प्यूटिंग् शक्तिः, ३६ टेराबाइट् प्रति सेकण्ड् बैण्डविड्थः, तथा च शक्तिः, शीतलनं, आँकडास्थापनहार्डवेयरं च समाविष्टम् अस्ति ।

एकं टाइल् २५ लघुसङ्गणकैः निर्मितं स्वावलम्बी सङ्गणकं इति चिन्तयितुं शक्नुमः ।


वेफर-स्तरीय-अन्तर-संयोजन-प्रौद्योगिक्याः InFO_SoW (Integrated Fan-Out, System-on-Wafer) इत्यस्य उपयोगेन, एकस्मिन् वेफर-उपरि २५ D1 चिप्स् उच्च-प्रदर्शन-सम्बद्धतां प्राप्तुं शक्नुवन्ति, एकस्य प्रोसेसर-वत् कार्यं कर्तुं च शक्नुवन्ति

षट् तादृशाः टाइल्स् एकं रैकं निर्मान्ति, द्वौ रेकौ च एकं मन्त्रिमण्डलं निर्मान्ति ।

दश मन्त्रिमण्डलानि ExaPOD इत्यस्य निर्माणं कुर्वन्ति ।

एआइ-दिने २०२२ तमे वर्षे टेस्ला इत्यनेन उक्तं यत् डोजो बहुविध-एक्सापोड्-इत्यस्य परिनियोजनेन स्केल-करणं करिष्यति । एतत् सर्वं मिलित्वा एकं सुपरकम्प्यूटरं निर्माति ।


वेफर-स्केल-प्रोसेसराः, यथा टेस्ला-संस्थायाः डोजो, सेरेब्रास्-इत्यस्य वेफर-स्केल्-इञ्जिन्-डब्ल्यूएसई च, बहु-प्रोसेसर-अपेक्षया बहु अधिकं कार्यक्षमतां प्राप्नुवन्ति ।

पूर्वस्य मुख्यलाभाः सन्ति यथा कोरयोः मध्ये उच्च-बैण्डविड्थ-निम्न-विलम्बता-सञ्चारः, न्यून-जाल-प्रतिबाधा, अधिका ऊर्जा-दक्षता च ।

सम्प्रति केवलं टेस्ला-सेरेब्रास्-योः सिस्टम्-ऑन्-वेफर-डिजाइनः अस्ति ।

परन्तु २५ चिप्स् एकत्र स्थापयित्वा वोल्टेज-आव्हानानि, शीतलन-प्रणाली च उत्पद्यन्ते ।


टेक्सास्-नगरे विशालशीतलन-प्रणालीं निर्माय टेस्ला-संस्थायाः छायाचित्रं नेटिजन्स्-इत्यनेन गृहीतम्

वेफर-स्तरस्य चिप्स् इत्यस्य एकः निहितः आव्हानः अस्ति यत् तेषां ऑन-चिप् स्मृतेः उपयोगः अवश्यं करणीयः, या पर्याप्तं लचीलं नास्ति तथा च सर्वप्रकारस्य अनुप्रयोगानाम् कृते उपयुक्तं न भवितुम् अर्हति

टॉमस्य हार्डवेयरः भविष्यवाणीं करोति यत् अग्रिमपीढीयाः प्रौद्योगिकी CoW_SoW (Chip-on-Wafer) भवितुम् अर्हति, यत् टाइल्स् इत्यत्र 3D स्टैकिंग् करोति तथा च HBM4 मेमोरी एकीकृतं करोति ।

तदतिरिक्तं सूचनाप्रवाहस्य समस्यायाः समाधानार्थं टेस्ला अग्रिमपीढीयाः D2 चिप् अपि विकसयति ।

व्यक्तिगतचिप्स् संयोजयितुं न अपि तु D2 सम्पूर्णं डोजो टाइल् एकस्मिन् सिलिकॉन् वेफरस्य उपरि स्थापयति ।

२०२७ तमे वर्षे टीएसएमसी अधिकजटिलवेफर-स्तरस्य प्रणालीं प्रदास्यति, गणनाशक्तिः ४० गुणाधिकं वर्धयिष्यति इति अपेक्षा अस्ति ।

D1 इत्यस्य विमोचनात् परं टेस्ला इत्यनेन न तु D1 चिप्स् इत्यस्य आदेशस्य स्थितिः प्रकटिता यत् सः आदेशं दत्तवान् अथवा प्राप्तुं अपेक्षितवान्, न च Dojo सुपरकम्प्यूटरस्य विशिष्टं परिनियोजनकार्यक्रमम्

परन्तु अस्मिन् वर्षे जूनमासे मस्कः अवदत् यत् आगामिषु १८ मासेषु टेस्ला एआइ हार्डवेयरस्य अर्धं भागं परिनियोजितं भविष्यति, अपरं अर्धं च एनविडिया/अन्यहार्डवेयरं भविष्यति

अन्ये हार्डवेयर, सम्भवतः ए.एम.डी.


1

किमर्थं डोजो आवश्यकम्

स्वायत्तवाहनचालनेन कम्प्यूटिंगशक्तिः उपभोगः भवति

अस्माकं धारणानुसारं टेस्ला-संस्थायाः मुख्यव्यापारः विद्युत्वाहनानां उत्पादनपर्यन्तं सीमितः अस्ति, यत्र केचन अतिरिक्ताः सौरपटलाः ऊर्जाभण्डारणप्रणाली च सन्ति ।

परन्तु मस्कः टेस्लातः बहु अधिकं अपेक्षते।

अधिकांशः स्वयमेव चालनप्रणाल्याः, यथा गूगलस्य मूलकम्पन्योः अल्फाबेट् इत्यस्य सहायककम्पनी वेमो इत्यादयः, अद्यापि पारम्परिकसंवेदकानां उपरि निवेशरूपेण अवलम्बन्ते, यथा रडारः, लिडार्, कैमरा च

परन्तु टेस्ला "पूर्णदृष्टिः" मार्गं गृह्णाति ते केवलं दृश्यदत्तांशं गृहीतुं, स्थितिनिर्धारणार्थं उच्चपरिभाषानक्शैः पूरकं कुर्वन्ति, ततः स्वायत्तवाहनचालनस्य शीघ्रनिर्णयार्थं दत्तांशं संसाधितुं तंत्रिकाजालस्य उपयोगं कुर्वन्ति


सहजतया पूर्वं सरलतरः द्रुततरः च मार्गः इति स्पष्टम्, एतत् खलु ।

Waymo इत्यनेन L4 स्वायत्तवाहनचालनस्य व्यावसायिकीकरणं कृतम् अस्ति, यत् SAE द्वारा परिभाषितस्य कतिपयेषु परिस्थितिषु मानवहस्तक्षेपं विना स्वयमेव चालयितुं शक्नोति परन्तु टेस्ला इत्यस्य FSD (Full Self-Driving) इति तंत्रिकाजालम् अद्यापि मानवसञ्चालनात् पृथक् कर्तुं न शक्यते ।

एकदा टेस्ला-संस्थायां एआइ-प्रमुखरूपेण कार्यं कृतवान् आन्द्रेज् कार्पाथी इत्यनेन उक्तं यत् एफएसडी-कार्यन्वयनं मूलतः "आद्यतः एव कृत्रिमपशुस्य निर्माणम्" इति ।

मानवस्य दृष्टिप्रकोष्ठस्य मस्तिष्कस्य कार्यस्य च अङ्कीयप्रतिकृतिरूपेण वयं चिन्तयितुं शक्नुमः । FSD न केवलं दृश्यदत्तांशस्य निरन्तरं संग्रहणं संसाधनं च कर्तुं, वाहनस्य परितः वस्तुनां पहिचानं वर्गीकरणं च कर्तुं, अपितु मनुष्याणां तुलनीयः निर्णयवेगः अपि आवश्यकः



द्रष्टुं शक्यते यत् मस्कः केवलं लाभप्रदस्य स्वायत्तवाहनव्यवस्थायाः अपेक्षया अधिकं इच्छति । तस्य लक्ष्यं नूतनबुद्धेः निर्माणम् अस्ति।

परन्तु सौभाग्येन तस्य अपर्याप्तदत्तांशस्य चिन्ता अल्पा एव । प्रायः १८ लक्षं जनाः सम्प्रति FSD कृते $८,००० सदस्यताशुल्कं ददति (पूर्वं $१५,००० भवितुम् अर्हति), यस्य अर्थः अस्ति यत् टेस्ला प्रशिक्षणार्थं कोटिकोटिमाइलपर्यन्तं वाहनचालनस्य विडियो संग्रहीतुं शक्नोति

कम्प्यूटिंग्-शक्तेः दृष्ट्या डोजो-सुपरकम्प्यूटर्-इत्येतत् FSD-इत्यस्य प्रशिक्षणक्षेत्रम् अस्ति । अस्य चीनीयनामस्य अनुवादः "डोजो" इति कर्तुं शक्यते, युद्धकला-अभ्यास-अन्तरिक्षस्य कृते इशारा ।

NVIDIA पर्याप्तं उत्तमं नास्ति

NVIDIA GPUs कियत् लोकप्रियाः सन्ति ? केवलं पश्यन्तु यत् प्रमुखानां प्रौद्योगिकी-दिग्गजानां मुख्याधिकारिणः कियत् पुरातन-गुण्डानां समीपं गन्तुम् इच्छन्ति।

मस्क इव धनिकः अपि सः जुलैमासस्य अर्जनस्य आह्वानस्य समये स्वीकृतवान् यत् सः "अति चिन्तितः" अस्ति यत् टेस्ला पर्याप्तं एनविडिया जीपीयू उपयोक्तुं न शक्नोति इति ।

"वयं यत् पश्यामः तत् अस्ति यत् Nvidia हार्डवेयरस्य माङ्गलिका एतावता अधिका अस्ति यत् प्रायः GPUs प्राप्तुं कठिनं भवति।"


सम्प्रति टेस्ला अद्यापि डोजो कृते कम्प्यूटिंग्-शक्तिं प्रदातुं एन्विडिया-हार्डवेयर्-इत्यस्य उपयोगं करोति इति दृश्यते, परन्तु मस्कः स्वस्य सर्वाणि अण्डानि एकस्मिन् टोपले स्थापयितुं न इच्छति इति दृश्यते ।

विशेषतः एतत् विचार्य यत् एनवीडिया चिप्स् इत्यस्य प्रीमियमः एतावत् अधिकः अस्ति तथा च प्रदर्शनं मस्कस्य कृते पूर्णतया सन्तोषजनकं नास्ति।

हार्डवेयर-सॉफ्टवेयर-सहकार्यस्य दृष्ट्या टेस्ला-एप्पल्-योः समानाः दृष्टिकोणाः सन्ति, अर्थात् द्वयोः मध्ये उच्चस्तरीयः समन्वयः प्राप्तव्यः, विशेषतः FSD इत्यादि-अत्यन्त-विशेष-प्रणाल्याः कृते, यत् अत्यन्तं मानकीकृत-जीपीयू-इत्येतत्, उपयोगात् च मुक्तिं प्राप्नुयात् अनुकूलित हार्डवेयर।

अस्य दृष्टेः मूलं टेस्ला इत्यस्य स्वामित्वयुक्तं D1 चिप् अस्ति, यत् २०२१ तमे वर्षे विमोचितं भविष्यति, अस्मिन् वर्षे मेमासे TSMC इत्यनेन निर्मितं भविष्यति ।


तदतिरिक्तं टेस्ला अग्रिमपीढीयाः D2 चिप् अपि विकसितं कुर्वन् अस्ति, यत् सूचनाप्रवाहस्य अटङ्कस्य समाधानार्थं सम्पूर्णं डोजो खण्डं एकस्मिन् सिलिकॉन् चिप् इत्यत्र स्थापयितुं आशास्ति

द्वितीयत्रिमासिकस्य अर्जनप्रतिवेदने मस्कः अवदत् यत् सः "डोजो मार्गेण एन्विडिया इत्यनेन सह स्पर्धां कर्तुं अन्यः उपायः" दृष्टवान् ।

1

किं डोजो सफलः भवितुम् अर्हति ?

मस्क इव आत्मविश्वासयुक्तः अपि डोजो विषये वदन् सः टेस्ला सफलः न भवेत् इति वक्तुं संकोचम् करिष्यति।

दीर्घकालं यावत् स्वस्य सुपरकम्प्यूटिङ्ग्-हार्डवेयर-विकासेन एआइ-क्षेत्रस्य कृते नूतनानि व्यापार-प्रतिमानाः उद्घाटयितुं शक्यन्ते ।

मस्क इत्यनेन उक्तं यत् डोजो इत्यस्य प्रथमं संस्करणं टेस्ला इत्यस्य दृश्यदत्तांशटिप्पणीकरणस्य प्रशिक्षणस्य च कृते अनुरूपं भविष्यति, यत् FSD इत्यस्य कृते अतीव उपयोगी भविष्यति तथा च टेस्ला इत्यस्य मानवरूपस्य रोबोट् ऑप्टिमस् इत्यस्य प्रशिक्षणस्य कृते अतीव उपयोगी भविष्यति।

भविष्यत्संस्करणं सामान्य-एआइ-प्रशिक्षणाय अधिकं उपयुक्तं भविष्यति, परन्तु अस्मिन् एनविडिया-खात-सॉफ्टवेयर-इत्येतत् अनिवार्यतया सम्मिलितं भविष्यति ।


प्रायः सर्वं AI सॉफ्टवेयरं NVIDIA GPUs इत्यनेन सह कार्यं कर्तुं डिजाइनं कृतम् अस्ति, तथा च Dojo इत्यस्य उपयोगस्य अर्थः अस्ति यत् CUDA तथा PyTorch सहितं सम्पूर्णं AI इकोसिस्टम् पुनर्लेखनम् ।

अस्य अर्थः अस्ति यत् Dojo इत्यस्य प्रायः एकः एव मार्गः अस्ति - कम्प्यूटिंग् शक्तिं भाडेन दत्त्वा AWS तथा Azure इत्येतयोः सदृशं क्लाउड् कम्प्यूटिङ्ग् मञ्चं निर्मातव्यम् ।

मोर्गन स्टैन्ले इत्यनेन गतसप्टेम्बरमासे एकस्मिन् प्रतिवेदने भविष्यवाणी कृता यत् डोजो रोबोटैक्सी तथा सॉफ्टवेयरसेवारूपेण नूतनानां राजस्वप्रवाहानाम् अनलॉक् कर्तुं शक्नोति, येन टेस्ला इत्यस्य विपण्यमूल्ये ५०० अरब डॉलरं योजयितुं शक्यते।

संक्षेपेण, मस्कस्य वर्तमानस्य हार्डवेयरस्य सावधानीपूर्वकं आवंटनस्य आधारेण न्याय्यं चेत्, डोजो "निराशः चालः" न अपितु द्विगुणबीमा इव अधिकः अस्ति । परन्तु एकदा सफलं जातं चेत् महत् लाभांशं अपि मुक्तुं शक्यते ।

सन्दर्भाः : १.

https://techcrunch.com/2024/08/03/tesla-dojo-elon-musks-एक-आइ-सुपरकम्प्यूटर-निर्माणस्य-बृहत्-योजना-व्याख्या/

https://www.tomshardware.com/tech-industry/teslas-dojo-system-on-wafer-is-in-in-production-एक-गम्भीर-ऐ-कार्यभार-कृते-एकः-गम्भीर-प्रोसेसरः-


"" नुत्वा गच्छामः