यतःChatGPTविस्फोटस्य अनन्तरं बृहत्-एआइ-माडलस्य अनुसन्धानं विकासं च एकैकस्य अनन्तरं उद्भूतम् यदा एतत् "100-मोड्-युद्धम्" पूर्णरूपेण प्रचलति स्म, तदा अमेरिकन-चिप्-कम्पनी NVIDIA-इत्यनेन बृहत्-माडल-गणनासु स्वस्य GPU-इत्यस्य उत्कृष्ट-प्रदर्शनेन बहु धनं प्राप्तम् .

परन्तु एप्पल्-संस्थायाः अद्यतनेन कदमेन एनवीडिया-संस्थायाः उत्साहः किञ्चित् शीतलः अभवत् ।

01

एआइ मॉडल् प्रशिक्षणं, एप्पल् जीपीयू इत्यस्य स्थाने TPU इति चयनं करोति

एआइ-कम्प्यूटिङ्ग्-अन्तर्निर्मित-क्षेत्रे एनवीडिया सर्वदा एव अग्रणी अस्ति , मेटा, ९.OpenAI एआइ तथा यन्त्रशिक्षणक्षेत्रे अनेकेषां प्रौद्योगिकीदिग्गजानां कृते एतत् प्राधान्यं कम्प्यूटिंगशक्तिसमाधानम् अस्ति ।

अतः एनवीडिया उद्योगे विविधचुनौत्यस्य सामनां कुर्वन् अस्ति । गूगलस्य टीपीयू अपि एकः शक्तिशाली प्रतिद्वन्द्वी अभवत् यस्य अद्वितीयलाभानां कारणेन एनवीडिया उपेक्षितुं न शक्नोति।

३० जुलै दिनाङ्के एप्पल् इत्यनेन एकं शोधपत्रं प्रकाशितम् । पत्रे एप्पल् इत्यनेन द्वौ मॉडलौ प्रवर्तयितौ ये एप्पल् इंटेलिजेन्स-एएफएम-ऑन्-डिवाइस् (एएफएम एप्पल् बेसिक मॉडल् इत्यस्य संक्षिप्तरूपम्) तथा एएफएम-सर्वर (एकं विशालं सर्वर-आधारितं भाषा मॉडल्) इत्येतयोः समर्थनं प्रदाति वर्षपुराणं १० कोटि पैरामीटर् भाषाप्रतिरूपं, उत्तरं सर्वर-आधारितं भाषाप्रतिरूपम् अस्ति ।

एप्पल् इत्यनेन पत्रे उक्तं यत् स्वस्य ए.आइ. AFM-on-device इति AI मॉडल् निर्मातुं यत् iPhones इत्यादिषु उपकरणेषु चालयितुं शक्नोति, Apple 2048 TPUv5p चिप्स् इत्यस्य उपयोगं करोति । स्वस्य सर्वर एआइ मॉडल् AFM-सर्वरस्य कृते एप्पल् इत्यनेन ८१९२ TPUv4 प्रोसेसरः नियोजिताः ।

एप्पल्-संस्थायाः एनवीडिया-जीपीयू-परित्यागं कृत्वा गूगल-टीपीयू-इत्यत्र परिवर्तनं कृत्वा तस्मिन् दिने एनवीडिया-समूहस्य मूल्ये ७% अधिकं न्यूनता अभवत्, तस्य विपण्यमूल्यं १९३ अरब-अमेरिकीय-डॉलर्-पर्यन्तं वाष्पितम्

उद्योगस्य अन्तःस्थजनाः अवदन् यत् एप्पल् इत्यस्य निर्णयः सूचयति यत् केचन बृहत् प्रौद्योगिकीकम्पनयः कृत्रिमबुद्धिप्रशिक्षणस्य विषये एनवीडिया इत्यस्य ग्राफिक्स् प्रोसेसिंग् यूनिट् इत्यस्य विकल्पान् अन्विषन्ति स्यात्।

02

TPU VS GPU, बृहत् मॉडल् कृते कः अधिकः उपयुक्तः अस्ति?

बृहत् मॉडल् कृते TPU अथवा GPU अधिकं उपयुक्तम् इति चर्चायाः पूर्वं अस्माकं द्वयोः विषये प्रारम्भिकबोधः आवश्यकः ।

TPU तथा GPU इत्येतयोः मध्ये तुलना

TPU, Tensor Processing Unit इत्यस्य पूर्णं नाम, यन्त्रशिक्षणकार्यभारस्य त्वरिततायै गूगलेन डिजाइनं कृतम् अस्ति यस्य उपयोगः मुख्यतया गहनशिक्षणप्रतिमानानाम् प्रशिक्षणार्थं तर्कार्थं च भवति ज्ञातव्यं यत् TPU अपि ASIC चिप्-वर्गे अन्तर्भवति, ASIC च कतिपयानां विशिष्टानां आवश्यकतानां कृते विशेषतया अनुकूलितं चिप् अस्ति ।

सर्वे GPU इत्यनेन परिचिताः सन्ति, यत् मूलतः ग्राफिक्स् रेण्डरिंग् कृते विनिर्मितः प्रोसेसरः अस्ति, अनन्तरं समानान्तरगणनायां गहनशिक्षणे च व्यापकरूपेण उपयुज्यते अस्य शक्तिशालिनः समानान्तरप्रक्रियाक्षमता अस्ति, तथा च अनुकूलितं GPU गहनशिक्षणम्, वैज्ञानिकगणना इत्यादीनां समानान्तरकार्यस्य कृते अपि अतीव उपयुक्तम् अस्ति

एतयोः भिन्नचिपयोः प्रारम्भिकविन्यासे भिन्नाः लक्ष्याः सन्ति इति द्रष्टुं शक्यते ।

पारम्परिक-सीपीयू-इत्यस्य तुलने GPU-इत्यस्य समानान्तर-गणना-क्षमता तान् बृहत्-परिमाणस्य आँकडा-समूहानां, जटिल-गणना-कार्यस्य च संसाधनाय विशेषतया उपयुक्तानि करोति अतः, अन्तिमेषु वर्षेषु बृहत्-ए.आइ एआइ प्रशिक्षण।

परन्तु बृहत् एआइ मॉडल् इत्यस्य निरन्तरविकासेन सह कम्प्यूटिंग् कार्याणि घातीयरूपेण बृहत्तराणि जटिलानि च भवन्ति, येन कम्प्यूटिंग् शक्तिः कम्प्यूटिंग् संसाधनं च कृते नवीनाः आवश्यकताः अग्रे स्थापयन्ति यदा एआइ कम्प्यूटिङ्ग् कृते GPU इत्यस्य उपयोगः भवति तदा कम्प्यूटिंग् पावरस्य उपयोगस्य दरः न्यूनः भवति, The ऊर्जा-उपभोगस्य उच्च-ऊर्जा-दक्षतायाः अटङ्कः, तथैव NVIDIA GPU उत्पादानाम् उच्चमूल्यं, कठिन-आपूर्तिः च, TPU-वास्तुकलायां अधिकं ध्यानं आकर्षितवान्, यत् मूलतः गहनशिक्षणस्य यन्त्रशिक्षणस्य च कृते डिजाइनं कृतम् आसीत् अस्मिन् क्षेत्रे GPU इत्यस्य वर्चस्वं आव्हानानां सामना कर्तुं आरब्धम् अस्ति ।

एतत् कथ्यते यत् गूगलः २०१३ तमे वर्षात् एव एआइ मशीन लर्निङ्ग् एल्गोरिदम् इत्यस्मै समर्पितानां चिप्स् इत्यस्य आन्तरिकरूपेण विकासं आरब्धवान्, २०१६ तमे वर्षे एव TPU इति स्वविकसितं चिप् आधिकारिकतया सार्वजनिकं न जातम् २०१६ तमस्य वर्षस्य मार्चमासे ली सेडोल् इत्यस्य, २०१७ तमस्य वर्षस्य मेमासे के जी इत्यस्य च पराजयः अभवत् अल्फागो, यत् गूगलस्य TPU श्रृङ्खलायाः चिप्स् इत्यस्य उपयोगेन प्रशिक्षितम् अस्ति ।

यदि कथ्यते यत् TPU AI large model training कृते अधिकं उपयुक्तः अस्ति तर्हि तस्य "कौशलं" विस्तरेण न व्याख्याय सर्वान् प्रत्यययितुं कठिनं भवेत्।

बृहत् आदर्शप्रशिक्षणार्थं TPU कथं उपयुक्तम् अस्ति?

प्रथमं, TPU इत्यत्र कम्प्यूटिंग्-दक्षतां वर्धयितुं बहु-आयामी-गणना-एककाः सन्ति ।CPU इत्यस्मिन् स्केलर कम्प्यूटिङ्ग् यूनिट् तथा GPU इत्यस्मिन् वेक्टर् कम्प्यूटिङ्ग् यूनिट् इत्यनेन सह तुलने TPU कम्प्यूटिंग् कार्याणि सम्पन्नं कर्तुं द्वि-आयामी अथवा उच्चतर-आयामी कम्प्यूटिङ्ग् यूनिट् इत्यस्य उपयोगं करोति, तथा च अधिकतमं डाटा पुनः उपयोगं प्राप्तुं तथा च दत्तांशं न्यूनीकर्तुं कन्वोल्यूशन ऑपरेशन लूप् इत्यस्य विस्तारं करोति संचरणव्ययः च त्वरणदक्षतायां सुधारं करोति।

द्वितीयं, TPU इत्यत्र अधिकं समय-बचत-दत्तांश-संचरणं उच्च-दक्षता-नियन्त्रण-एककं च अस्ति ।वॉन् न्यूमैन् आर्किटेक्चर इत्यनेन उत्पन्ना स्मृतिभित्तिसमस्या गहनशिक्षणकार्येषु विशेषतया प्रमुखा भवति, तथा च TPU आँकडासंचरणस्य डिजाइनं कर्तुं अधिककट्टरपंथी रणनीतिं स्वीकुर्वति, नियन्त्रण-एककं च लघुतरं भवति, येन ऑन-चिप्-स्मृति-गणना-एककानां कृते अधिकं स्थानं त्यजति

अन्ते TPU इत्यस्य डिजाइनं AI इत्यस्य त्वरिततायै AI/ML कम्प्यूटिंग् क्षमतां वर्धयितुं च कृतम् अस्ति ।सटीकस्थाननिर्धारणं, सरलवास्तुकला, एकधागानियन्त्रणं, अनुकूलितनिर्देशसमूहं च सह, TPU वास्तुकला गहनशिक्षणसञ्चालनेषु अत्यन्तं कुशलं भवति तथा च विस्तारं कर्तुं सुलभं भवति, येन अति-बृहत्-परिमाणस्य AI-प्रशिक्षणगणनानां कृते अधिकं उपयुक्तं भवति

इदं ज्ञातं यत् Google TPUv4 इत्यस्य विद्युत्-उपभोगः NVIDIA A100 इत्यस्मात् १.३-१.९ गुणाधिकः अस्ति NVIDIA A100 इत्यस्मात् १.३-१.९ गुणाधिकं विद्युत्-उपभोगं प्राप्तुं शक्नोति । द्रष्टुं शक्यते यत् गूगल-टीपीयू-उत्पादानाम् एनवीडिया-उत्पादानाम् अपेक्षया मूल्ये, विद्युत्-उपभोगे च अधिकाः लाभाः सन्ति ।

अस्मिन् वर्षे मेमासे I/O 2024 विकासकसम्मेलने अल्फाबेट्-सीईओ सुन्दरपिचाई इत्यनेन षष्ठ-पीढीयाः डाटा-सेण्टर्-एआइ-चिप् Tensor Processor Unit (TPU)-Trillium इति घोषणा कृता, यत् The product is nearly five times faster than its predecessor, and... अस्मिन् वर्षे अन्ते प्रसवः प्राप्यते इति वदति।

गूगलेन उक्तं यत् षष्ठपीढीयाः ट्रिलियमचिपस्य गणनाप्रदर्शनं TPU v5e चिप् इत्यस्मात् ४.७ गुणाधिकं भवति, ऊर्जादक्षता च v5e इत्यस्मात् ६७% अधिका अस्ति चिप् बृहत् मॉडल् तः पाठम् अन्यसामग्री च जनयति इति प्रौद्योगिकीम् शक्तिं दातुं डिजाइनं कृतम् अस्ति । गूगलेन अपि उक्तं यत् वर्षस्य अन्ते यावत् षष्ठपीढीयाः ट्रिलियमचिप्स् स्वस्य क्लाउड् ग्राहकानाम् कृते उपलभ्यन्ते।

गूगल-इञ्जिनीयर्-जनाः उच्च-बैण्डविड्थ-स्मृति-क्षमताम्, समग्र-बैण्ड-विड्थ्-इत्येतत् च वर्धयित्वा अतिरिक्त-प्रदर्शन-लाभान् प्राप्तवन्तः । एआइ मॉडल् मध्ये उन्नतस्मृतेः बृहत् परिमाणं आवश्यकं भवति, यत् कार्यक्षमतायाः अधिकं सुधारं कर्तुं अटङ्कः अभवत् ।

ज्ञातव्यं यत् गूगलः स्वस्य TPU चिप्स् पृथक् पृथक् स्वतन्त्रोत्पादरूपेण न विक्रीणीत, अपितु Google Cloud Platform (GCP) इत्यस्य माध्यमेन बाह्यग्राहकेभ्यः TPU-आधारितगणनासेवाः प्रदास्यति

अस्मिन् योजनायां गूगलस्य चतुराई अपि द्रष्टुं शक्यते यत् प्रत्यक्षतया हार्डवेयरविक्रये उच्चव्ययः जटिलः आपूर्तिशृङ्खलाप्रबन्धनं च भवति । क्लाउड् सेवाद्वारा TPU प्रदातुं गूगलः संस्थापनं, परिनियोजनं, प्रबन्धनप्रक्रिया च सरलीकर्तुं शक्नोति, अनिश्चिततां अतिरिक्तं च उपरि व्ययः न्यूनीकरोति । एतत् प्रतिरूपं विक्रयप्रक्रियाम् अपि सरलीकरोति, अतिरिक्तं हार्डवेयरविक्रयदलस्य स्थापनायाः आवश्यकतां नष्टं करोति । तदतिरिक्तं गूगलः ओपनएआइ इत्यनेन सह जनरेटिव् एआइ इत्यस्य कृते घोरस्पर्धायां वर्तते यदि गूगलः टीपीयू-विक्रयणं आरभते तर्हि सः एकस्मिन् समये द्वयोः शक्तिशालिनयोः प्रतिद्वन्द्वयोः सह स्पर्धां करिष्यति: एनवीडिया तथा ओपनएआइ, यत् अस्मिन् क्षणे चतुरतमं रणनीतिं न भवेत्।

लेखस्य अस्मिन् बिन्दौ केचन जनाः पृच्छन्ति यत् यतः TPU इत्यस्य एतादृशाः उत्तमाः कार्यक्षमतायाः लाभाः सन्ति, अतः निकटभविष्यत्काले GPU इत्यस्य स्थाने एतत् स्थास्यति वा?

03

अधुना GPU प्रतिस्थापनस्य विषये वदामः? कदाचित् अतीव प्राक् अस्ति

एषा समस्या तावत् सरलं नास्ति।

केवलं GPU इत्यस्य लाभस्य विषये न वदन् TPU इत्यस्य लाभस्य विषये वक्तुं अन्धकारकं नेत्रम् अस्ति । तदनन्तरं, अस्माभिः एतदपि अवगन्तुं आवश्यकं यत् TPU इत्यस्य तुलने वर्तमानस्य AI बृहत् मॉडल् प्रशिक्षणार्थं GPU कथं उपयुक्तः अस्ति ।

वयं पश्यामः यत् TPU इत्यस्य लाभाः तस्य बकाया ऊर्जा-दक्षता-अनुपाताः तथा च यूनिट्-लाभ-गणना-शक्ति-सूचकाः सन्ति तथापि, ASIC-चिप्-रूपेण, उच्च-परीक्षण-त्रुटि-व्ययस्य अस्य हानिः अपि तुल्यकालिकरूपेण स्पष्टा अस्ति

अपि च पारिस्थितिकीतन्त्रस्य परिपक्वतायाः दृष्ट्या । वर्षाणां विकासानन्तरं GPU इत्यत्र सॉफ्टवेयरस्य विकाससाधनस्य च विशालः परिपक्वः पारिस्थितिकीतन्त्रः अस्ति । अनेकाः विकासकाः शोधसंस्थाः च दीर्घकालं यावत् GPU इत्यस्य आधारेण विकासं अनुकूलनं च कुर्वन्ति, तथा च पुस्तकालयानाम्, ढाञ्चानां, एल्गोरिदम् इत्यस्य च धनं सञ्चितवन्तः TPU पारिस्थितिकीतन्त्रं तुल्यकालिकरूपेण नवीनम् अस्ति, उपलब्धाः संसाधनाः साधनानि च GPUs इव समृद्धाः न भवेयुः, येन विकासकानां कृते अनुकूलनं अनुकूलनं च अधिकं कठिनं भवितुम् अर्हति

बहुमुखीत्वस्य दृष्ट्या । GPUs मूलतः ग्राफिक्स् रेण्डरिंग् कृते निर्मिताः आसन्, परन्तु तेषां आर्किटेक्चर अत्यन्तं लचीला अस्ति तथा च केवलं गहनशिक्षणं न अपितु अनेकविधप्रकारस्य कम्प्यूटिंग् कार्येषु अनुकूलतां प्राप्तुं शक्नोति एतेन विविध-अनुप्रयोग-परिदृश्यानां सम्मुखे GPU अधिकं अनुकूलतां प्राप्नोति । तस्य विपरीतम्, TPUs यन्त्रशिक्षणकार्यभारस्य कृते अनुकूलितरूपेण परिकल्पिताः सन्ति तथा च अन्येषां गैर-यन्त्रशिक्षणसम्बद्धानां गणनाकार्यं GPUs इव कुशलतापूर्वकं सम्भालितुं न शक्नुवन्ति

अन्ते GPU-विपण्ये स्पर्धा तीव्रा अस्ति । TPU इत्यस्य विकासः मुख्यतया गूगल इत्यनेन नेतृत्वं क्रियते, तस्य अद्यतनस्य विकासस्य च गतिः तुल्यकालिकरूपेण मन्दः भवितुम् अर्हति ।

समग्रतया, एनवीडिया तथा गूगल इत्येतयोः एआइ चिप्स् कृते भिन्नाः रणनीतयः सन्ति: एनवीडिया एआइ मॉडल् इत्यस्य कार्यक्षमतायाः सीमां धक्कायति तथा च शक्तिशाली कम्प्यूटिंग् शक्तिं विस्तृतं विकासकसमर्थनं च प्रदाति यदा गूगलः एआइ चिप् प्रदर्शनं कुशलवितरितकम्प्यूटिंग आर्किटेक्चरस्य माध्यमेन सुधारयति . एतौ भिन्नौ मार्गविकल्पौ तान् स्वस्व-अनुप्रयोगक्षेत्रेषु अद्वितीयलाभान् दर्शयितुं समर्थयति ।

एप्पल्-संस्थायाः गूगल-टीपीयू-इत्यस्य चयनस्य कारणं निम्नलिखित-बिन्दवः भवितुम् अर्हति : प्रथमं, बृहत्-परिमाणेन वितरित-प्रशिक्षण-कार्यस्य संसाधने टीपीयू उत्तमं प्रदर्शनं करोति, कुशलं न्यून-विलम्बं च कम्प्यूटिङ्ग्-क्षमताम् प्रदाति, द्वितीयं, गूगल-क्लाउड्-मञ्चस्य उपयोगेन एप्पल्-हार्डवेयर-मञ्चस्य न्यूनीकरणं कर्तुं शक्नोति व्ययम् अपि च एआइ विकासस्य समग्रव्ययस्य अनुकूलनार्थं कम्प्यूटिंगसंसाधनानाम् समायोजनं कुर्वन्तु। तदतिरिक्तं गूगलस्य एआइ विकासपारिस्थितिकीतन्त्रं अपि साधनानां समर्थनस्य च धनं प्रदाति, येन एप्पल् स्वस्य एआइ मॉडल् अधिकतया विकसितुं परिनियोजितुं च शक्नोति

एप्पल् इत्यस्य उदाहरणं बृहत् मॉडल् प्रशिक्षणे TPU इत्यस्य क्षमताम् सिद्धयति । परन्तु NVIDIA इत्यस्य तुलने TPU इत्यस्य उपयोगः अद्यापि बृहत् मॉडल् क्षेत्रे दुर्लभतया भवति, यत्र OpenAI, Tesla, ByteDance इत्यादीनि दिग्गजानि सन्ति

अतः गूगलस्य TPU Nvidia इत्यस्य GPU इत्येतत् पराजयितुं शक्नोति इति वक्तुं अतीव प्राक् भवेत्, परन्तु TPU अतीव चुनौतीपूर्णः खिलाडी भवितुमर्हति।

04

GPU इत्यस्य आव्हानकर्ता केवलं TPU एव नास्ति

चीनदेशे अपि टीपीयू चिप्स् इत्यस्य सट्टेबाजीं कुर्वती एकः कम्पनी अस्ति—झोन्घाओ क्सिन्यिङ्ग् इति । Zhonghao Xinying इत्यस्य संस्थापकः Yang Gongyifan एकदा Google इत्यत्र कोर-चिप् R&D स्टाफ सदस्यरूपेण कार्यं कृतवान् आसीत् तथा च Google TPU 2/3/4 इत्यस्य डिजाइनं R&D च गभीररूपेण संलग्नः आसीत् तस्य दृष्ट्या TPU बृहत् AI मॉडल् कृते लाभप्रदं वास्तुकला अस्ति .

२०२३ तमे वर्षे झोन्घाओ ज़िन्यिङ्ग् इत्यस्य "स्नैप्" चिप् इत्यस्य आधिकारिकरूपेण जन्म अभवत् । १,०२४ चिप्-इत्यस्य अद्वितीय-उच्च-गति-अन्तर-चिप्-अन्तर-संयोजन-क्षमतायाः सह "Snap"-चिप् इत्यनेन "Taize" इति बृहत्-परिमाणेन बुद्धिमान् कम्प्यूटिङ्ग्-समूहः निर्मितः अस्ति, अस्य सिस्टम्-क्लस्टर-प्रदर्शनं पारम्परिक-जीपीयू-इत्यस्मात् दर्जनशः गुणाधिकम् अस्ति, तथा च इदं १०० अरबं तः अधिकमापदण्डयुक्तं एआईजीसी अस्ति । एषा उपलब्धिः न केवलं एआइ कम्प्यूटिङ्ग् पावर प्रौद्योगिक्याः क्षेत्रे झोन्घाओ ज़िन्यिंग् इत्यस्य गहनसञ्चयस्य प्रदर्शनं करोति, अपितु अन्तर्राष्ट्रीयमञ्चे घरेलुचिप्सस्य कृते बहुमूल्यं स्थानं अपि प्राप्नोति

परन्तु अद्यतनस्य कृत्रिमबुद्धिस्वर्णस्य दौर्गन्धे एनवीडिया एच्१०० चिप्स् इत्यस्य अभावः अस्ति तथा च महतीः सन्ति ।

GPU इत्यस्य सम्मुखे ये आव्हानाः सन्ति ते TPU इत्यस्मात् दूरं परे सन्ति ।

GPU मार्गसंशोधनविकासयोः Nvidia इत्यस्य बृहत्तमः प्रतिद्वन्द्वी अस्तिए.एम.डी, अस्मिन् वर्षे जनवरीमासे शोधकर्तारः GPT 3.5 स्तरस्य विशालस्य मॉडलस्य प्रशिक्षणार्थं Frontier supercomputing cluster इत्यस्य GPU इत्यस्य प्रायः 8% उपयोगं कृतवन्तः । Frontier supercomputing cluster पूर्णतया AMD हार्डवेयर इत्यत्र आधारितः अस्ति, यस्मिन् 37,888 MI250X GPUs तथा 9,472 Epyc 7A53 CPUs सन्ति एतत् शोधं AMD हार्डवेयर इत्यस्य उन्नतवितरितप्रशिक्षणमाडलस्य कठिनतां अपि भङ्गं कृतवान्, यत् AMD प्लेटफॉर्मस्य कृते एकं विशालं प्रशिक्षणमञ्चं प्रदत्तवान् व्यवहार्यता इति ।

तस्मिन् एव काले CUDA पारिस्थितिकीतन्त्रं क्रमेण भग्नं भवति अस्मिन् वर्षे जुलैमासे ब्रिटिशकम्पनी Spectral Compute इत्यनेन एकं समाधानं प्रारब्धम् यत् AMD GPUs कृते CUDA स्रोतसङ्केतं मूलतः संकलितुं शक्नोति, येन AMD GPUs इत्यस्य CUDA इत्यनेन सह संगततादक्षतायां बहु सुधारः अभवत्

इन्टेल्Gaudi 3 इत्यनेन अपि प्रत्यक्षतया Nvidia H100 इत्यस्य बेन्चमार्कः कृतः यदा तस्य विमोचनं जातम् । अस्मिन् वर्षे एप्रिलमासे इन्टेल् इत्यनेन गहनशिक्षणार्थं गौडी ३ प्रक्षेपणं कृतम् तथा च बृहत्-परिमाणेन जननात्मक-एआइ-माडलस्य कृते इन्टेल् इत्यनेन उक्तं यत् पूर्वपीढीयाः तुलने गौडी ३ प्लवङ्ग-बिन्दु-स्वरूपस्य BF16 एआइ कम्प्यूटिंग्-शक्तिं चतुर्गुणं प्रदातुं शक्नोति, स्मृति-बैण्डविड्थ् १.५ वर्धिता times, and service बृहत्-परिमाणस्य प्रणालीविस्तारस्य कृते संजालस्य बैण्डविड्थः द्विगुणितः भवति । NVIDIA इत्यस्य चिप् H100 इत्यस्य तुलने यदि 7B तथा 13B पैरामीटर्स् इत्यनेन सह Meta Llama2 मॉडल् तथा 175B पैरामीटर्स् इत्यनेन सह OpenAI GPT-3 मॉडल् इत्यत्र प्रयुक्तं भवति तर्हि Gaudi 3 इत्यनेन एतेषां मॉडल् इत्यस्य प्रशिक्षणसमयः औसतेन 50% न्यूनीकर्तुं शक्यते इति अपेक्षा अस्ति

तदतिरिक्तं, यदा 7B तथा 70B मापदण्डैः सह Llama तथा 180B मापदण्डैः सह मुक्तस्रोतस्य Falcon मॉडल् इत्यत्र प्रयुक्तं भवति तदा Gaudi 3 इत्यस्य अनुमानस्य थ्रूपुट् H100 इत्यस्मात् औसतेन 50% अधिकं भविष्यति, अनुमानदक्षता च औसतेन 40% अधिका भवति इति अपेक्षा अस्ति अपि च, गौडी ३ इत्यस्य दीर्घकालं यावत् निवेश-निर्गम-अनुक्रमेषु अधिकं अनुमान-प्रदर्शन-लाभः अस्ति ।

यदा 7B तथा 70B पैरामीटर् इत्यनेन सह Llama तथा 180B पैरामीटर् इत्यनेन सह Falcon मॉडल् इत्यत्र प्रयुक्तं भवति तदा NVIDIA H200 इत्यस्य तुलने Gaudi 3 इत्यस्य अनुमानवेगः 30% वर्धते

इन्टेल् इत्यनेन उक्तं यत् अस्मिन् वर्षे तृतीयत्रिमासे ग्राहकानाम् कृते गौडी ३ उपलभ्यते, द्वितीयत्रिमासे च डेल्, एच् पी ई, लेनोवो, सुपरमाइक्रो इत्यादीनां OEM कम्पनीनां कृते उपलभ्यते, परन्तु गौडी ३ इत्यस्य मूल्यपरिधिः न घोषिता।

विगत नवम्बर, 1999।माइक्रोसॉफ्टइग्नाइट् टेक्नोलॉजी सम्मेलने प्रथमं स्वविकसितं एआइ चिप् Azure Maia 100, तथैव Azure Cobalt इति चिप् अपि च क्लाउड् सॉफ्टवेयरसेवासु उपयुज्यमानं विमोचितम् एतयोः चिप्स् टीएसएमसी इत्यनेन निर्मितं भविष्यति, तत्र ५ एनएम प्रक्रियाप्रौद्योगिक्याः उपयोगः भविष्यति ।

एनवीडिया इत्यस्य उच्चस्तरीयाः उत्पादाः कदाचित् ३०,००० तः ४०,००० अमेरिकी-डॉलर्-पर्यन्तं विक्रीतुं शक्नुवन्ति इति कथ्यते । एआइ चिप्स् इत्यस्य महती माङ्गलिकायुक्ताः प्रमुखाः प्रौद्योगिकीकम्पनयः आपूर्तिस्य वैकल्पिकस्रोतान् निराशतया अन्विषन्ति यत् माइक्रोसॉफ्ट् इत्यनेन स्वस्य उत्पादानाम् विकासः कृतः यत् तेन चॅटजीपीटी इत्यादीनां जननरीक् एआइ उत्पादानाम् प्रदर्शनं वर्धयितुं शक्यते तथा च व्ययस्य न्यूनीकरणम्।

कोबाल्ट् आर्म आर्किटेक्चर इत्यस्य आधारेण सामान्यप्रयोजनीयः चिप् अस्ति यस्य १२८ कोराः सन्ति । एतौ चिप्-द्वयं Microsoft Azure-दत्तांशकेन्द्रे, OpenAI, Copilot इत्यादिषु समर्थनसेवासु च आयातितं भविष्यति ।

Azure चिप् विभागस्य प्रभारी उपाध्यक्षा रानी बोरकर इत्यनेन उक्तं यत् Microsoft इत्यनेन Maia 100 चिप् इत्यस्य परीक्षणं Bing इत्यनेन सह आरब्धम् अस्ति तथा च Office AI इत्यस्य मुख्यः AI भागीदारः ChatGPT विकासकः OpenAI इत्यस्य अपि परीक्षणं प्रचलति। केचन विपण्यटिप्पण्याः मन्यन्ते यत् माइक्रोसॉफ्ट-संस्थायाः एआइ-चिप्-प्रकल्पस्य समयः संयोगः एव, यथा माइक्रोसॉफ्ट्, ओपनएआइ इत्यादिभिः कम्पनीभिः संवर्धिताः बृहत्-स्तरीयाः भाषा-प्रतिमानाः उड्डीयन्ते

परन्तु माइक्रोसॉफ्ट् इत्यस्य विश्वासः नास्ति यत् तस्य एआइ चिप्स् एनवीडिया इत्यस्य उत्पादानाम् स्थाने व्यापकरूपेण स्थातुं शक्नुवन्ति । केचन विश्लेषकाः मन्यन्ते यत् यदि Microsoft इत्यस्य प्रयत्नाः सफलाः भवन्ति तर्हि Nvidia इत्यनेन सह भविष्ये वार्तायां लाभं प्राप्तुं अपि साहाय्यं कर्तुं शक्नोति।

चिप् दिग्गजानां अतिरिक्तं स्टार्टअप कम्पनीभ्यः अपि प्रभावस्य अभावः नास्ति । यथा, Groq इत्यनेन प्रक्षेपितं LPU, Cerebras इत्यनेन प्रक्षेपितं Wafer Scale Engine 3, Etched इत्यनेन प्रक्षेपितं Sohu इत्यादयः ।

सम्प्रति एनविडिया आर्टिफिशियल इन्टेलिजेन्स डाटा सेण्टर चिप् मार्केट् इत्यस्य प्रायः ८०% भागं नियन्त्रयति, शेषं २०% अधिकांशं गूगल टीपीयू इत्यस्य विभिन्नसंस्करणैः नियन्त्रितम् अस्ति भविष्ये अपि TPU इत्यस्य विपण्यभागः निरन्तरं वर्धते वा? कियत् वर्धते ? किं एआइ चिप्स् इत्यस्य अन्ये आर्किटेक्चराः भविष्यन्ति ये विद्यमानं विपण्यसंरचनां त्रयः विभजन्ति? आगामिषु कतिपयेषु वर्षेषु एते रोमाञ्चाः क्रमेण प्रकाशिताः भविष्यन्ति इति अपेक्षा अस्ति।