समाचारं

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

मशीन हृदय रिपोर्ट

लेखकः ज़ेनान्

"प्रणाली अनुकूलनसॉफ्टवेयरस्य साहाय्येन विकासस्य सीमा न्यूनीकरिष्यते, विविधानि हार्डवेयर् एकीकृतानि भविष्यन्ति, प्रौद्योगिकीपारिस्थितिकी च विकसिता भविष्यति। वर्तमानस्य बुद्धिमान् पारिस्थितिकीशास्त्रस्य प्रगतेः कृते एतस्य महत् महत्त्वम् अस्ति" इति अकादमिकः अवदत् चीनीय अभियांत्रिकी अकादमी तथा चीनी विज्ञान अकादमीयाः कम्प्यूटिंग प्रौद्योगिकी संस्थायाः शिक्षाविदः समितिस्य अध्यक्षः सीसीएफस्य अध्यक्षः च पत्रकारसम्मेलने भाषणं कृतवान्। "स्मार्टचिप्स् तथा एआइ उद्योगस्य अनुप्रयोगानाम् अतिरिक्तं अस्माकं कृते सिस्टम् सॉफ्टवेयर अनुकूलनदलानां आवश्यकता वर्तते यत् ते सम्मिलिताः भवेयुः, एकत्र कार्यं कुर्वन्तु, येन वयं घरेलुपारिस्थितिकीतन्त्रं उत्तमं कर्तुं शक्नुमः।"

पत्रकार सम्मेलन में शिक्षाविद सन निंघुई

"अटक" कम्प्यूटिंगशक्तिः इति समस्यायाः सम्मुखे अन्ततः अस्माकं कृते सिस्टम्-स्तरीयः समाधानः अस्ति ।

२० जुलै दिनाङ्के एआइ आधारभूतसंरचनास्टार्टअपः झोङ्गके जिआहे आधिकारिकतया विषमदेशीय एआइ कम्प्यूटिंग् उपकरणानां प्रथमपीढीं विमोचितवान् ।

घरेलुगणनाशक्तेः बृहत्परिमाणस्य कार्यान्वयनस्य वर्तमानप्रवृत्तेः सम्मुखीभूय, झोङ्गके जियाहे इत्यनेन प्रस्ताविता पद्धतिः कार्यक्षमतां अधिकतमं कुर्वन् बृहत्परिमाणे विभिन्नप्रकारस्य चिप्सस्य समानान्तरीकरणं कर्तुं शक्नोति, तथा च गणनाशक्तिप्रयोक्तृभ्यः प्रत्यक्षतया गणनाशक्तिं विना प्रवेशं कर्तुं शक्नोति having to pay attention to different chip ecology आगच्छन्तु तस्य उपयोगं कुर्वन्तु।

Zhongke Jiahe इत्यस्य संस्थापकः मुख्यकार्यकारी च Cui Huimin इत्यनेन विमोचितम्, परिचयः च कृतः यत् “Jiahe Heterogeneous Native AI Computing Power Tool” इत्यनेन पूर्वमेव घरेलुकम्प्यूटिंगशक्तिः AI आधारभूतसंरचने निश्चिता भूमिका कृता अस्ति इदं विविधघरेलु एआइ चिप्स् इत्यनेन सह सङ्गतम् अस्ति तथा च चिप् भेदं रक्षितुं उच्चप्रदर्शनयुक्तं एकीकृतं अन्तरफलकं प्रदाति ।विषमदेशीयमञ्चानां आधारेण एआइ कम्प्यूटिंग् पावरक्लस्टर्स् इत्यनेन बृहत् मॉडल् तर्कस्य कार्यक्षमतायाः उन्नतिः अभवत् ।विलम्बतां ३-७४ गुणान् न्यूनीकर्तुं शक्यते, थ्रूपुट् १.४-२.१ गुणान् वर्धयितुं शक्यते, ऊर्जादक्षतायां १.४६ गुणासु सुधारः कर्तुं शक्यते, तथा च ३४०B मापदण्डैः सह सघनबृहत् मॉडल्, ६४०B इत्यनेन सह बृहत् MoE मॉडल् च समर्थयितुं शक्यते。

तस्मिन् एव काले Zhongke Jiahe इत्यनेन चिप्स्, इन्टीग्रेटर्, सेवाप्रदाता इत्यादीनां सहितं 10 तः अधिकानां ग्राहकानाम् उच्च-प्रदर्शन-तर्क-समर्थनं प्रदत्तम् अस्ति अस्य वास्तुकला घरेलु-विदेशीय-मुख्यधारा-बृहत्-माडल-समर्थनं करोति तथा च विविध-समानान्तर-तर्कं कर्तुं शक्नोति

कम्प्यूटिंगशक्तिप्रदातारः अनुप्रयोगसाझेदाराः च पत्रकारसम्मेलने घोषिताः तथा च सहकार्यं प्राप्तवन्तः तेषु अन्तर्भवन्ति: एएमडी, बॉयड्, हुवावे, हाङ्गझौ आर्टिफिशियल इंटेलिजेंस कम्प्यूटिंग सेन्टर, ओपन ट्रांसुन, मूर थ्रेड्, किङ्ग्युन टेक्नोलॉजी, राइज वीएएसटी, सुइयुआन टेक्नोलॉजी, तथा च वुवेन्क्सिन् किओङ्ग, युन्क्सी हाशरेट् , सिन्हुआ सैन् इत्यादयः (पिनयिन् द्वारा वर्णमालाक्रमेण क्रमबद्धाः)।

झोङ्गके जियाहे इत्यस्य संस्थापकः मुख्यकार्यकारी च कुई हुइमिन् पत्रकारसम्मेलने

विषमदेशीयः AI कम्प्यूटिंगशक्तिः, यस्य उद्देश्यं "त्रयः शून्याः एकः उच्चः च" इति ।

झोङ्गके जियाहे इत्यनेन प्रस्तावितायाः योजनायाः उद्देश्यं बृहत् एआइ मॉडल् इत्यस्य अनुप्रयोगं सक्षमं कर्तुं वर्ततेशून्य-लाभ-प्रवासनं, शून्य-हानि-उपयोगः, भिन्न-भिन्न-चिप्स्-मध्ये शून्य-विलम्ब-नियोजनस्य कुशल-उपयोगः च प्राप्तुं。

सॉफ्टवेयर-उपकरणानाम् अस्मिन् समुच्चये त्रयः उत्पादाः सन्ति: विषम-देशी-बृहत्-माडल-अनुमान-इञ्जिनं "SigInfer", विषम-देशीयं ललित-ट्यूनिङ्ग-इञ्जिनं "SigFT", तथा च स्वचालित-सञ्चालक-जनन-अनुवाद-उपकरणं "SigTrans"

तेषु, SigInfer, कालः विमोचितः, एकः पार-मञ्चः, उच्च-प्रदर्शन-विषम-देशी-अनुमान-इञ्जिनः अस्ति यः न केवलं सर्वर-स्तरीय-AI-त्वरक-कार्ड्-समर्थनं करोति, अपितु उपभोक्तृ-स्तरीय-GPU-इत्यपि समर्थयति अतः एतत् दत्तांशकेन्द्रेषु नियोक्तुं शक्यते तथा च विविधान् अन्त्यपक्षीययन्त्राणां त्वरणं कर्तुं शक्यते ।

विषमगणनायाः तकनीकी आधाररूपेण, SigInfer मार्गेण अभिगता भिन्ना AI गणनाशक्तिः एकीकृत-कॉलिंग्-अन्तरफलकानि व्यावसायिक-अनुप्रयोगानाम् सुचारु-प्रवासनं च प्राप्तुं शक्नोति सिग्इन्फर् बहुस्तरीयं गहनं अनुकूलनं करिष्यति, यदा च चिप् कम्प्यूटिंग् शक्तिः पूर्णतया टैप् कर्तुं विविधाः भिन्नाः कम्प्यूटिंग् शक्तिः आह्वयति

अस्मिन् आधुनिकबृहत् मॉडल-अनुमान-इञ्जिनस्य विविधानि विशेषतानि सन्ति, यथा एपिआइ-सर्विंग्-समर्थनम्, अनुरोध-निर्धारणं, बैच-प्रबन्धनम्, केवी-कैश-अनुकूलनम्, टेन्सर-समानान्तरता, पाइपलाइन-समानान्तरता, विशेषज्ञ-समानान्तरता, अपि च बहु-मशीन-पाइपलाइन-समानान्तरता

झोङ्गके जियाहे इत्यनेन उक्तं यत् सिग्इन्फर् इत्येतत् उद्योगे अधिकांशं बृहत् मॉडल् संरचनां पूर्वमेव समर्थयति।

सम्प्रति SigInfer पूर्वमेव सम्पूर्णानुमानइञ्जिनक्षमताम् कार्यान्वितुं शक्नोति । विषम-त्वरक-कार्ड-समूहः यस्य समर्थनं करोति सः NVIDIA AI त्वरक-कार्ड् + घरेलु-AI-त्वरक-कार्ड्-इत्यस्य संकर-अनुमानार्थं लचीलेन समयनिर्धारणं कर्तुं शक्नोति, तथा च खरब-खरब-माडल-पर्यन्तं विस्तारं कर्तुं शक्नोति

एआइ चिप् परिनियोजने सहायतार्थं सिग्इन्फरस्य उपयोगेन बृहत् मॉडल् सेवाः उच्चं थ्रूपुटं न्यूनविलम्बं च निर्वाहयितुं शक्नुवन्ति यदा व्यावसायिकपरिवेषणस्य आवश्यकताः वर्धन्ते एते सूचकाः जनरेटिव एआइ इत्यस्य बृहत्-परिमाणस्य अनुप्रयोगानाम् कृते महत्त्वपूर्णाः सन्ति

समानं NVIDIA ग्राफिक्स् कार्ड् इत्यस्य उपयोगं कुर्वन् वयं द्रष्टुं शक्नुमः यत् SigInfer अधिकं स्पष्टं त्वरणप्रभावं दातुं शक्नोति:

अपि च, समानकार्यं पूर्णं कर्तुं घरेलुचिप्सस्य उपयोगं कुर्वन्, SigInfer समानान्तरगणनायां AI त्वरककार्डस्य थ्रूपुट्-दरं अपि सुधारयितुं शक्नोति, तथा च टोकन-निर्गमस्य विलम्बं महत्त्वपूर्णतया न्यूनीकर्तुं शक्नोति

विषमदेशीय एआइ कम्प्यूटिंग पावर टूल्स् बृहत् मॉडल टास्क प्रोसेसिंग, ऑपरेटर विशेषता, अनुकूलन लक्ष्य अनुकूल अनुकूलन इत्यादीनां विभिन्नचरणानाम् आधारेण एआई त्वरकस्य कम्प्यूटिंग आवृत्तिं समायोजयितुं शक्नुवन्ति, अतः उच्चदक्षतां प्राप्तुं शक्नुवन्ति Zhongke Jiahe अस्माकं कृते एकं खातेः गणनां कृतवान् आँकडा-केन्द्रस्य संचालनस्य समये A800 plus SigInfer इत्यस्य उपयोगेन vllm इत्यस्य तुलने ऊर्जा-दक्षता-अनुपातः 46% वर्धयितुं शक्यते ।

क्लाउड् इन्फ्रास्ट्रक्चरस्य अनुकूलनस्य अतिरिक्तं झोङ्गके जियाहे इत्यनेन ग्राहकपक्षस्य अनुमानस्य कृते कार्यप्रदर्शनस्य अनुकूलनं अपि प्रदर्शितम् । सिगइन्फर् इत्यनेन इन्टेल्, क्वालकॉम्, एएमडी इत्यादीनां प्रमुखनिर्मातृणां आधारेण चिप् उपकरणानां त्वरणं कर्तुं शक्यते उद्योगस्य मुख्यधारायां परिनियोजनसमाधानस्य तुलने सिग्इन्फर् इत्यनेन उपकरणपक्षस्य अनुमानस्य दक्षतां ५ गुणापर्यन्तं वर्धयितुं शक्यते

विषमगणनायाः दक्षतासुधारस्य च पृष्ठतः अत्याधुनिकप्रौद्योगिकीनां अभियांत्रिकीशास्त्रस्य च श्रृङ्खलायाः अनुप्रयोगः अनुकूलनं च भवति ।

समानान्तरगणनायाः दक्षतां सुधारयितुम् झोङ्गके जियाहे इत्यनेन अनुकूलनस्य श्रृङ्खला आरब्धा अस्ति । उदाहरणार्थं, गहने डिकोडिंग्-पदे स्मृति-प्रवेश-अनुकूलनेन केवी-कैश-इत्यस्य रेजिस्टर-स्तरीय-मल्टिप्लेक्सिंग्-प्राप्तिः भवति

तस्मिन् एव काले समानान्तरतायाः न्यूनीकरणाय झोङ्गके जियाहे इत्यस्य शोधकर्तारः दत्तांशस्य अनुक्रमपरिमाणे समानान्तरविभाजनं अपि कृतवन्तः KV Cache इत्यस्य पुनः उपयोगस्य अनुकूलनेन सह मिलित्वा, एतत् न केवलं स्मृतिप्रवेशं रक्षति, अपितु समानान्तरताम् अपि वर्धयति, येन सम्पूर्णस्य ध्यानतन्त्रस्य मूलगणनायाः निष्पादनदक्षतायां सुधारः भवति

झोङ्गके जियाहे इत्यनेन विषमगणनाशक्तिः कृते उच्चप्रदर्शनसञ्चालकजननविधिः अपि अन्वेषिता अस्ति । कम्प्यूटिंगशक्तिनिर्मातृभिः सह सहकार्यं कृत्वा झोङ्गके जियाहे इत्यनेन कटलास् इत्यस्य प्रवासः घरेलुचिप् आर्किटेक्चर इत्यत्र कृतः, येन मैट्रिक्सगुणनस्य परिचालनदक्षतायां बहुधा सुधारः अभवत् तेषु कम्पनी संकलनप्रौद्योगिक्या सह मिलित्वा अनुकूलनस्य माध्यमेन २०% अधिकं कार्यप्रदर्शनसुधारं प्राप्तवती ।

प्रौद्योगिकीनां श्रृङ्खलायाः समर्थनेन जियाहे विषमदेशीयः एआइ कम्प्यूटिंगशक्तिसाधनानाम् उत्तमं ऊर्जादक्षता अनुकूलनं प्राप्तम् अस्ति ।

संकलनप्रौद्योगिक्याः आरम्भः : Zhongke Jiahe’s technical route

पूर्वं केभ्यः एआइ कम्प्यूटिङ्ग् इन्फ्रास्ट्रक्चरकम्पनीभ्यः प्रदत्ताभ्यः क्षमताभ्यः भिन्नं,झोङ्गके जियाहे इत्यनेन प्रदत्तं विषमगणनं त्वरणं च संकलनप्रौद्योगिक्यां केन्द्रितम् अस्ति ।。

सङ्गणकानां कृते संकलनस्तरेन कृतं कार्यं "अनुवादः" अस्ति

अस्मिन् क्रमे संकलनस्य अनुकूलनं अपि आवश्यकं भवति अर्थात् उत्पन्नस्य यन्त्रसङ्केतस्य संचालनदक्षतायाः उन्नयनार्थम् । यदा चिप्-प्रदर्शनस्य विषयः आगच्छति तदा संकलनस्य महती भूमिका भवति परन्तु प्रायः उपेक्षिता भवति ।

उद्योगे सर्वाधिकं लोकप्रियेषु NVIDIA चिप्स् इत्यत्र CUDA कम्प्यूटिङ्ग् मञ्चस्य महत्त्वपूर्णा भूमिका अस्ति । अस्मिन् प्रोग्रामिंग् भाषाः, संकलकाः, विविधाः उच्च-प्रदर्शन-त्वरण-पुस्तकालयाः, AI-रूपरेखाः च सन्ति, यदा सङ्गणकः कार्याणि करोति तदा एतत् वितरकरूपेण कार्यं कर्तुं शक्नोति, जटिल-सङ्केत-प्रतिमानं शीघ्रं चालयितुं भिन्न-भिन्न-हार्डवेयर-सङ्गणक-संसाधनानाम् पूर्ण-उपयोगं करोति अद्यतनस्य एआइ पारिस्थितिकीतन्त्रं बहुधा CUDA इत्यस्य आधारेण अस्ति इति वक्तुं शक्यते ।

घरेलुगणनाशक्तेः कृते बृहत्प्रमाणेन अनुप्रयोगं प्राप्तुं आवश्यकपारिस्थितिकीविज्ञानस्य क्षमतानां च निर्माणं आवश्यकम् ।

जनरेटिव एआइ-युगे जनानां कम्प्यूटिंग्-शक्तेः माङ्गल्याः कारणात् चिप्-प्रौद्योगिक्याः विकासः प्रवर्धितः, परन्तु नूतनाः आव्हानाः अपि उद्भूताः सन्ति : १.

• चिप् कम्पनीनां दृष्ट्या पारिस्थितिकीतन्त्रं बहुखण्डेषु अपि विकसितं भवति, येन विकासव्ययस्य वृद्धिः भविष्यति तथा च कार्यान्वयनदक्षता, संगतता च इत्यादयः विषयाः भविष्यन्ति
• उद्योगविकासस्य दृष्ट्या एआइ-प्रौद्योगिकी तीव्रगत्या विकसिता अस्ति तथा च अधिकाधिकपरिदृश्यानि आच्छादयति, यस्य अर्थः अस्ति यत् अधिकप्रकारस्य कम्प्यूटिंगशक्तिः सम्मिलितः भविष्यति, यत् विषमगणनायाः माङ्गं अधिकं प्रवर्धयति

अतः उद्योगाय तात्कालिकरूपेण एकस्याः कुशलस्य साधनशृङ्खलायाः आवश्यकता वर्तते यत् विविधानि घरेलुचिप्स् समर्थयितुं शक्नोति। यदि सार्वभौमिकस्य, न्यूनलाभस्य, उच्चप्रदर्शनस्य मूलभूतसॉफ्टवेयरस्य समुच्चयः उद्भवितुं शक्नोति तथा च पारिस्थितिकसाझेदारानाम् एनवीडिया पारिस्थितिकीतन्त्रस्य आधारेण विकसितानां अनुप्रयोगानाम् शीघ्रं प्रत्यारोपणं कर्तुं साहाय्यं कर्तुं शक्नोति, तर्हि घरेलुचिप्सस्य क्षमता पूर्णतया मुक्तं कर्तुं शक्यते, येन प्रौद्योगिकीसंशोधनविकासस्य गतिः चाल्यते, तस्मात् क्रमेण एकं सकारात्मकं चक्रं निर्मायताम् यत् एआइ कम्प्यूटिंगशक्तिपारिस्थितिकीतन्त्रं स्थापयति।

एतत् एव झोङ्गके जियाहे कुर्वन् आसीत् ।

Zhongke Jiahe द्वारा प्रदत्तः मूलभूतः सॉफ्टवेयर मञ्चस्तरः संचालकः, संकलकः, ढांचास्तरः च स्थितः अस्ति, हार्डवेयर-सॉफ्टवेयरयोः मध्ये सेतुः निर्मातिएतेन प्रदत्ताः विषमाः देशीयाः एआइ कम्प्यूटिंग् उपकरणाः उपयोक्तृभ्यः एआइ मॉडल् चिप् आर्किटेक्चर च सुचारुतया प्रवासयितुं साहाय्यं कर्तुं शक्नुवन्ति, येन एआइ अनुप्रयोगेषु महती सुविधा भवति

एतेषु क्षमतास्तरेषु सर्वेषु संकलनप्रौद्योगिकी अन्तर्भवति । ए.आइ. यथा, एआइ संकलकानाम् सामान्यतया गणनाग्राफविभाजनं, उपग्राफसंलयनं, समानान्तरगणना, आँकडा अवरोधनम् इत्यादीनां विषये विचारः करणीयः । एताः कठिनाः समस्याः समाधानं कर्तुं शक्नुवन्ति।

अस्मिन् विषये झोङ्गके जियाहे इत्यनेन बहुधा शोधं सम्पन्नं कृतम्, यथा टेन्सर-अभिव्यक्ति-स्तरस्य वैश्विक-दत्तांश-प्रवाह-विश्लेषणं कृत्वा, सटीक-गणना-लेखानां, आँकडा-निर्भरता-लेखानां च निर्माणं, ततः संचालक-संलयनार्थं संचालक-सीमानां भङ्गः, तथा च उत्तम-परिणामः प्राप्तः परिणाम। केषुचित् जालपुटेषु अस्य पद्धतिः उद्योगस्य उन्नतस्तरस्य तुलने ३.७ गुणापर्यन्तं त्वरणानुपातं प्राप्तवान् । सङ्गणकक्षेत्रे अस्मिन् वर्षे शीर्षसम्मेलने प्रासंगिकाः कार्यपरिणामाः प्रकाशिताः।

घरेलु एआइ पारिस्थितिकीतन्त्रस्य समृद्धौ सहायतार्थं अन्ततः अन्तः कम्प्यूटिंगशक्तिसक्षमीकरणसमाधानस्य निर्माणं कुर्वन्तु

झोङ्गके जियाहे इत्यस्य स्थापना २०२३ तमस्य वर्षस्य जुलैमासे अभवत्, तस्य दलं मुख्यतया चीनीयविज्ञान-अकादमी-कम्प्यूटिङ्ग्-प्रौद्योगिकी-संस्थायाः अस्ति । संस्थापकः कुई हुइमिन् सिङ्घुआ विश्वविद्यालयस्य कम्प्यूटरविज्ञानविभागात् स्नातकः अभवत् तथा च चीनीयविज्ञानस्य अकादमीयाः कम्प्यूटिंगप्रौद्योगिकीसंस्थायाः संकलनदलस्य प्रमुखः अस्ति कम्पनीयाः मूलदलस्य संकलकसंशोधनविकासयोः २० वर्षाणाम् अधिकः अनुभवः अस्ति, तथा च संकलकसंशोधनस्य अध्यक्षतायां वा भागग्रहणे वा अनेकानाम् घरेलुचिप्सस्य विकासे मूलसदस्यरूपेण कार्यं कृतवान्

स्थापनातः आरभ्य कम्पनी चिप्ससंकलनं अनुकूलनं च प्रौद्योगिक्यां केन्द्रीकृतवती अस्ति, तथा च "घरेलुपारिस्थितिकीतन्त्रस्य निर्माणार्थं चिप्सस्य संयुक्तशक्तिं एकत्रयितुं" मिशनेन सार्वभौमिकं, न्यूनलाभयुक्तं, उच्चप्रदर्शनयुक्तं कम्प्यूटिंगसंसाधनं प्रदातुं प्रतिबद्धा अस्ति वर्तमान समये झोङ्गके जियाहे इत्यस्य वित्तपोषणस्य बहुविधं दौरं प्राप्तम् अस्ति यस्य कुलम् प्रायः १० कोटि युआन् अस्ति ।

Zhongke Jiahe त्रयः मार्गाः परितः उत्पादानाम् एकां श्रृङ्खलां निर्माति, यत्र AI बृहत् मॉडल अनुमानं इञ्जिनं यत् विषमगणनाशक्तिं समर्थयति, एकं विशालं मॉडलं सूक्ष्म-ट्यूनिङ्ग-रूपरेखा, AI संकलन-उपकरण-समूहः च सन्ति ते न केवलं कम्प्यूटिंग्-शक्ति-उपयोक्तृभ्यः विविध-ए-आइ-गणना-शक्ति-प्रयोगे शीघ्रं सहायतां कर्तुं शक्नुवन्ति, अपितु कम्प्यूटिङ्ग्-शक्ति-आपूर्तिकर्तृभ्यः सॉफ्टवेयर-पारिस्थितिकीतन्त्रं सुधारयितुम्, प्रतिस्पर्धां वर्धयितुं च सहायं कर्तुं शक्नुवन्ति, येन घरेलु-ए.आइ.

अतः अधिकं महत्त्वपूर्णं यत्, Zhongke Jiahe एकः "सञ्चार" सेतुः भवितुम् आशास्ति, यः कम्प्यूटिंगशक्तिप्रयोक्तृणां कम्प्यूटिंगशक्तिप्रदातृणां च बहूनां संख्यां संयोजयति, येन द्वयोः पक्षयोः सुखेन उभयदिशि गन्तुं शक्यते, तस्मात् विषमदेशीय एआइ कम्प्यूटिंगशक्तिविकासः प्रवर्धितः भवति बृहत्-स्तरीय-अनुप्रयोगेषु तथा च घरेलु-एआइ-पारिस्थितिकीतन्त्रस्य सशक्तविकासाय।