समाचारं

स्टार्टअप फर्म NVIDIA: AMD कार्ड् इत्यत्र CUDA इत्यस्य अनुकरणं कृत्वा, मूलप्रोग्रामं प्रत्यक्षतया संकलितं कृत्वा चालयति

2024-07-16

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

  • क्रेसी आओफेइ मन्दिरात् आगच्छति
    Qubits |.सार्वजनिक खाता QbitAI

किमपि परिवर्तनं वा रूपान्तरणं वा विना AMD ग्राफिक्स् कार्ड् मूल CUDA कार्यक्रमं चालयितुं शक्नोति!

ब्रिटिश-स्टार्टअप-कम्पनी एएमडी-कृते CUDA-कार्यक्रम-संकलन-उपकरणं प्रारब्धवती, यत् व्यावसायिक-उपयोगाय निःशुल्कम् अस्ति ।

एकदा एतत् साधनं मुक्तं जातं तदा नेटिजनानाम् मध्ये व्यापकं उष्णं चर्चां जनयति स्म तथा च...HackerNews hot list इत्यस्य शीर्षस्थानं प्राप्तवान्



एतत् साधनं SCALE इति कथ्यते, विकासकाः च एतत् GPGPU (सामान्य-उद्देश्य-GPU) प्रोग्रामिंग-उपकरण-पुस्तिकारूपेण स्थापयन्ति ।



सम्प्रति बृहत् मॉडल् फ्रेमवर्क् llama-cpp सहितं ९ कार्यक्रमाः परीक्षणं उत्तीर्णाः सन्ति, सामान्यतया च प्रचलन्ति ।

अन्येषां कार्यान्वयनानाम् विपरीतम्, SCALEप्रत्यक्षतया CUDA toolkit इत्यस्य संस्थापनस्य अनुकरणं कुर्वन्तु, अन्यभाषायां परिवर्तनं विना स्रोतः संकलनं सम्पन्नं कर्तुं शक्यते ।

अतः SCALE इत्यनेन NVIDIA-विशिष्टानां मध्यवर्तीभाषाणां यथा inline PTX इत्यादीनां समर्थनम् अपि प्रदातुं शक्यते ।

परिवर्तनस्य आवश्यकता नास्ति, AMD CUDA चालयन्तु

आधिकारिकजालस्थलपरिचयः दर्शयति यत् SCALE मुख्यतया त्रयः घटकाः-सङ्गताः nvcc संकलकाः, CUDA रनटाइम् तथा चालक एपिआइ इत्यस्य AMD कार्यान्वयनम्, तथा च ROCm पुस्तकालयः अस्ति

संकलकः प्रत्यक्षतया nvcc, inline PTX इत्यादिषु CUDA-विशिष्टभाषासु लिखितान् कार्यक्रमान् द्विचक्रीयसङ्केतेषु संकलितुं शक्नोति ये AMD GPUs इत्यत्र चालयितुं शक्नुवन्ति ।

ROCm पुस्तकालयस्य उपयोगः "CUDA-X" API प्रदातुं भवति, तथा च SCALE cuBLAS तथा cuSOLVER इत्यादिभिः पुस्तकालयैः सह व्यवहारं कुर्वन् एतां पद्धतिं उपयुङ्क्ते ।



SCALE इत्यस्य मुख्यं नवीनं तत् अस्ति यत्...CUDA कार्यक्रमं यथावत् स्वीकुरुत, तान् अन्यभाषायां पोर्ट् कर्तुं विना,nvcc तथा clang इत्यनेन सह सङ्गतम्तथा अन्ये संकलनविधयः, यदा विद्यमानाः निर्माणसाधनाः स्क्रिप्ट् च (यथा cmake) सामान्यतया कार्यं कर्तुं शक्नुवन्ति ।

आधिकारिकवक्तव्यस्य अनुसारं SCALE CUDA इत्यनेन सह पूर्णतया सङ्गतम् अस्ति, अनुमतिं ददातिविकासकानां भिन्न-भिन्न-GPU-मञ्चानां कृते पृथक्-पृथक् कोड-लेखनस्य आवश्यकता नास्ति

एतत् AMD द्वारा प्रारब्धस्य HIP इत्यस्मात् बहु भिन्नम् अस्ति, यतः HIP CUDA कोडं एकेन प्रकारेण पुनः लिखति तथा च जटिल मैक्रोः सम्यक् अवगन्तुं न शक्नोति, तथा च inline PTX इत्यादीनां स्वामित्वभाषानां समर्थनं न करोति

SCALE लेखकः अपि मन्यते यत् HIP CUDA संगततासमस्यायाः समाधानं कर्तुं न शक्नोति ।

तदतिरिक्तं SCALE इत्यस्य भाषा CUDA इत्यस्य सुपरसेट् अस्ति, केचन प्रदातिवैकल्पिकभाषाविस्ताराः, यत् nvcc इत्यस्मात् मुक्तिं प्राप्तुम् इच्छन्तीनां विकासकानां कृते GPU कोडं लिखितुं सुलभं अधिकं च कार्यक्षमं कर्तुं शक्नोति ।

लेखकः आशां प्रकटितवान् यत् भविष्ये विकासकाः एकवारं कोडं लिखित्वा भिन्न-भिन्न-हार्डवेयर-मञ्चेषु चालयितुं शक्नुवन्ति, तथा च लोकप्रियस्य CUDA प्रोग्रामिंग-भाषायाः अन्येषां हार्डवेयर-विक्रेतृणां च मध्ये संगततायाः अन्तरं पूरयितुं कार्यं कुर्वन् अस्ति

सम्प्रति SCALE इत्यस्य विभिन्नानां AMD GPU श्रृङ्खलानां समर्थनं निम्नलिखितम् अस्ति ।

  • पूर्वमेव समर्थितम्: gfx1030 (RX6000 श्रृङ्खला) तथा gfx1100 (RX7000 श्रृङ्खला)
  • "कार्यं करोति इति भासते": gfx1010 (RX5000 श्रृङ्खला) तथा gfx1101
  • अनुकूलन: gfx900 (RX Vega श्रृंखला)

तदतिरिक्तं लेखकेन केषाञ्चन CUDA मुक्तस्रोतपरियोजनानां परीक्षणं कृत्वा SCALE इत्यस्य उपयोगेन 9 CUDA अनुप्रयोगाः सफलतया चालिताः ।



तथापि SCALE सर्वथा नूतना परियोजना अस्ति, अतः लेखकेन संस्थापनात् संकलनपर्यन्तं पाठ्यक्रमस्य श्रृङ्खला अपि सज्जीकृता अस्ति, यत्र विभिन्नप्रकारस्य नमूनाकार्यक्रमाः दत्ताः सन्ति

पाठ्यक्रमस्य मुख्यपदार्थाः प्रासंगिकसङ्केताभिः सह सन्ति, अपि च स्वस्य GPU इत्यस्य प्रतिरूपं कथं निर्धारयितुं शक्यते इति अपि अन्तर्भवति, यत् अतीव विस्तृतं वक्तुं शक्यते



यदि भवान् उपयोगकाले समस्यां प्राप्नोति तर्हि लेखकः सामान्यसमस्यानिवारणविधयः अपि परिचययति, अपि च विकासदलेन सह प्रत्यक्षतया संवादं कर्तुं Discord मञ्चं उद्घाटयति



यत् स्टार्टअप SCALE निर्मितवान् तत् उच्यतेवर्णक्रमीय गणना, २०१८ तमे वर्षे यूनाइटेड् किङ्ग्डम्-देशे स्थापिता, CPU तथा GPU इत्येतयोः वास्तुकलाविषये गहनतया अवगतिः अस्ति इति दावान् करोति, तस्य लक्ष्यं च विकासकानां कम्प्यूटिंग-संसाधनानाम् कुशलतापूर्वकं उपयोगे सहायतां कर्तुं वर्तते



नेटिजनः - एनवीडिया इत्यस्य खातं चुनौतीं ददातु?

केचन नेटिजनाः मन्यन्ते यत् यदि SCALE वास्तवतः प्रभावं कर्तुं शक्नोति (यथा विज्ञापितम्), तर्हि एतत् NVIDIA इत्यस्य खातं चुनौतीं दास्यति तथा च AMD इत्यस्य प्रत्यक्षतया तया सह स्पर्धां कर्तुं शक्नोति।



परन्तु अधुना निष्कर्षं निकासयितुं अतीव प्राक् अस्ति किन्तु SCALE अधिकारिणः अपि स्वीकुर्वन्ति यत् मूल CUDA इत्यस्य तुलने अद्यापि केचन दोषाः सन्ति।

तथा च विकासकः अपि स्पष्टं कृतवान् यत् केचन CUDA APIs कार्याणि च समर्थितानि न सन्ति, परन्तु विशिष्टसूचीं न दत्तवान् ।



"AMD समाधानस्य" अधिकानि दोषाणि विषये, एकः नेटिजनः यः SCALE दलेन सह संवादं कृतवान् इति दावान् कृतवान् सः अवदत् यत् वर्तमानः SCALE TensorCore इत्यस्य संचालनं कर्तुं न शक्नोति, यस्य अर्थः अस्ति यत् FlashAttention त्वरणरूपरेखा AMD इत्यत्र चालयितुं न शक्यते

तदतिरिक्तं यतः एन कार्डस्य शक्तिशालिनी मैट्रिक्सगुणन-एककं भवति, यद्यपि तस्य संकलनं चालनं च कर्तुं शक्यते, तथापि एएमडी-कार्डस्य कार्यक्षमता एन-कार्डस्य इव उत्तमं न भवेत्



केचन नेटिजनाः मन्यन्ते यत् एनवीडिया इत्यस्य प्रबलतायाः कारणं अस्ति यत् एएमडी स्वस्य जीपीयू इत्यस्य उच्चतरं यन्त्रशिक्षणप्रदर्शनं (न केवलं CUDA इत्यस्य लाभं) कर्तुं निवेशं कर्तुं न इच्छति



यदि ते कुशलतया चालयन्ति अपि, एएमडी कार्ड्स् यथार्थतया किफायती सुलभाः च सन्ति वा इति प्रश्नः अपि अस्ति ।



अन्यः नेटिजनस्य तरङ्गः मन्यते यत् बृहत्तमा समस्या न तु तकनीकीरूपेण चालयितुं शक्नोति वा, अपितु तस्य पृष्ठतः कानूनीविषयाणि सन्ति।

अस्मिन् विषये अपि विस्तृतचर्चा उत्पन्ना, परन्तु अद्यापि निष्कर्षः नास्ति ।

केचन जनाः मन्यन्ते यत् SCALE इत्येतत् ZLUDA (AMD इत्यत्र CUDA कार्यक्रमान् चालयितुं अन्यः उपायः) इव कानूनीरूपेण संदिग्धः अस्ति तथा च NVIDIA इत्यस्मात् मुकदमाः भवितुं शक्नुवन्ति ।



विशेषतः, NVIDIA इत्यस्य EULA शर्तानाम् अनुसारं, CUDA SDK केवलं N कार्ड् इत्यत्र चालितानां अनुप्रयोगानाम् विकासस्य अनुमतिं ददाति, येन SCALE इत्यादिषु संगतकार्यन्वयनं निषिद्धं भवितुम् अर्हति



परन्तु तत्क्षणमेव केचन नेटिजनाः अवदन् यत् SCALE इत्यनेन NVIDIA इत्यस्य "SDK" इत्यस्य उपयोगः न कृतः, अतः SDK इत्यस्य उपयोगसम्झौतेः विषये किमर्थं वक्तव्यम्?



संक्षेपेण, भवेत् तत् तान्त्रिकदोषः वा कानूनी विषयः वा, अस्य नूतनसाधनस्य विषये चर्चा अद्यापि प्रचलति।

यथा उपयोगी अस्ति वा न वा इति विषये विकासकानां कार्यं भवति यत् ते पादैः मतदानं कुर्वन्तु।

सन्दर्भलिङ्कानि : १.
[1]https://docs.scale-lang.com/
[2]https://news.ycombinator.com/item?id=40970560