समाचारं

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

सम्पादक: सम्पादकीय विभाग hyz

[नव प्रज्ञायाः परिचयः] ।उत्सवस्य शुभकामना! अधुना एव कैलिफोर्निया-राज्यस्य राज्यपालः कैलिफोर्निया-देशस्य एआइ-प्रतिबन्धविधेयकं वीटो-इत्येतत् इति घोषितवान् । लेकुन्, ली फेइफेइ, एङ्ग् एण्डा च उत्साहेन परस्परं वक्तुं त्वरितम् अगच्छन्, ललाटेन हस्तेन च उत्सवं कृतवन्तः । विधेयकस्य दृढतया समर्थनं कुर्वन्तौ बेङ्गियो, हिण्टन् च मौनम् अभवताम् । openai, google, meta च सर्वे आपदातः पलायिताः सन्ति ।

भारयुक्तम्‌!

अद्य प्रातःकाले कैलिफोर्निया-राज्यस्य गवर्नर् गेविन् न्यूसमः आधिकारिकतया घोषितवान् यत् सः sb-1047 विधेयकस्य वीटो-करणं करिष्यति!

विश्वस्य विकासकानां कृते sb-1047 विधेयकस्य रद्दीकरणस्य अर्थः अस्ति यत् मेटा, गूगल इत्यादीनां प्रमुखनिर्मातृणां मुक्तस्रोतमाडलं पुनः उपलब्धं भविष्यति।

एषः निर्णयः बहुधा अपेक्षितः इति वक्तुं शक्यते । एआइ-वृत्ते बृहत्नामानि उत्साहेन परस्परं वक्तुं त्वरितम् आगतवन्तः, विपक्षे प्रबलभूमिकां निर्वहन्तः एनजी एण्डा, लेकुन्, ली फेइफेइ च विशेषतया प्रसन्नाः आसन्

कैलिफोर्निया-राज्यपालस्य वीटो-अधिकारस्य किं अर्थः ?

एसबी-१०४७ विधेयकं वस्तुतः तस्य अन्तः एव अस्ति।

"कुख्यात" sb-1047 इत्यस्मिन् नियमः अस्ति यत् sb 1047 एआइ-प्रणाल्याः सामूहिक-हत्यां जनयितुं वा विकासकान् उत्तरदायी कृत्वा 500 मिलियन-डॉलर्-अधिकं व्यययुक्तानि साइबर-सुरक्षा-घटनानि प्रेरयितुं वा निवारयिष्यति

एषा वार्ता बहिः आगता एव शैक्षणिक-उद्योगयोः महत् विरोधं जातम् ।

भवन्तः जानन्ति, विश्वस्य शीर्ष-५० genai-कम्पनीषु ३२ कैलिफोर्निया-देशे स्थिताः सन्ति, एआइ-भविष्यस्य परिभाषायां च ते प्रमुखा भूमिकां निर्वहन्ति ।

कैलिफोर्निया-कार्यालयस्य प्रेस-विज्ञप्त्यानुसारं गेविन् विगतमासे १८ जेनएआइ-विधेयकेषु हस्ताक्षरं कृतवान्, परन्तु केवलं एसबी-१०४७-विधेयकं वीटो कृतवान् ।

विगत ३० दिवसेषु राज्यपालः डीपफेक् सामग्रीविरुद्धं, कलाकारानां डिजिटलप्रतिबिम्बाधिकारस्य रक्षणार्थं, इत्यादीनां विधेयकानाम् एकां श्रृङ्खलायां हस्ताक्षरं कृतवान्

अस्य विधेयकस्य सद्भावनाः सन्ति, परन्तु व्यवहारे अस्य काश्चन गम्भीराः समस्याः सन्ति ।

एआइ-द्वारा वास्तविक-धमकीभ्यः जनस्य रक्षणस्य एषः एव सर्वोत्तमः उपायः इति अहं न मन्ये इति सः अवदत् ।

sb-1047 न गृह्णाति यत् एआइ-प्रणाली उच्च-जोखिम-वातावरणे परिनियोजिता अस्ति वा, महत्त्वपूर्णनिर्णयान् सम्मिलितं करोति वा, संवेदनशीलदत्तांशस्य उपयोगं करोति वा इति । तस्य स्थाने, विधेयकं बृहत् आदर्शप्रणालीनां परिनियोजनस्य मूलभूततमकार्यस्य कृते कठोरमानकान् प्रयोजयति ।

एसबी-१०४७ इत्यस्य अस्वीकारस्य प्रक्रियायां एआइ-देवमातुः ली फेइफेइ इत्यस्याः भूमिकायाः ​​अवहेलना कर्तुं न शक्यते ।

स्टैन्फोर्ड-प्रोफेसरः ली फेइफेइ इत्यनेन हर्षेण उक्तं यत् कैलिफोर्निया-देशे उत्तरदायी-ए.आइ.-शासनस्य मार्गं प्रशस्तं कर्तुं स्टैन्फोर्ड-एच.ए.आइ.

एआइ गुरुः एण्ड्रयू एङ्ग् इत्यनेन एसबी-१०४७ इत्यस्य सार्वजनिकविरोधाय ली फेइफेइ इत्यस्मै अपि धन्यवादः कृतः यत् तस्याः प्रयत्नाः अनुसन्धानस्य नवीनतायाः च रक्षणार्थं अधिकतर्कसंगतानि एआइ नीतयः प्रवर्धयितुं शक्नुवन्ति इति।

केवलं कतिपयदिनानि पूर्वं यदा sb-1047 विधेयकं अन्तिमरूपेण निर्धारितं भवितुम् उद्यतः आसीत्, तदा ng, lecun च अद्यापि उद्विग्नतापूर्वकं मतदानं आह्वयन्ति स्म, प्रारम्भं च कुर्वन्ति स्म, एकवारं पारितं जातं चेत्, मुक्तस्रोतस्य ai तथा सम्पूर्णस्य ai पारिस्थितिकीतन्त्रस्य च शीतलीकरणप्रभावः भविष्यति इति भयम् आसीत्

अद्यत्वे सम्पूर्णे कैलिफोर्निया-देशे एआइ-कम्पनयः अन्ततः निःश्वासं गृह्णन्ति ।

राज्यपालस्य वीटोपत्रम् : हस्ताक्षरं न कृतम्

"अहम् एतेन मम हस्ताक्षरं विना सिनेट् विधेयकं १०४७ प्रत्यागच्छामि।"

पत्रे राज्यपालः स्वीकृतवान् यत् एसबी-१०४७ एआइ-नियोजनेन भवितुं शक्नुवन्तः खतराम् अतिशयेन वर्णयति।

अपि च, केवलं महत्तमेषु बृहत्-परिमाणेषु मॉडल्-मध्ये ध्यानं दत्त्वा, विधेयकं वस्तुतः जनसामान्यं "मिथ्या-सुरक्षा-भावना" ददाति ।

सः दर्शयति यत् लघुतराः अपि स्वामित्वमाडलाः अपि तथैव भयङ्कराः भवितुम् अर्हन्ति ।

संक्षेपेण, एआइ-विषये विधेयकस्य नियमनं “जनहिताय लाभाय नवीनतायाः न्यूनीकरणस्य” व्ययेन आगच्छति ।

राज्यपालः अवदत् यत् विधेयकेन अत्यन्तं मूलभूतकार्येषु कठोरतममानकानि प्रयोज्यन्ते, यत् एआइ-प्रौद्योगिक्याः खतराभ्यः जनस्य रक्षणस्य सर्वोत्तमः उपायः नास्ति।

सर्वोत्तमः समाधानः एतादृशी योजना अस्ति या एआइ-प्रणालीनां क्षमतानां च अनुभवजन्यविकासप्रक्षेपवक्रयोः विश्लेषणस्य आधारेण न भवति ।

एआइ बॉसः तत् द्वेष्टि

बेङ्गियो, हिण्टन् च विहाय अधिकांशजनानां कृते अयं अन्त्यः अतीव सन्तोषजनकः अन्त्यः इति वर्णयितुं शक्यते ।

यदा sb-1047 इत्यस्य विषयः आगच्छति तदा बहुशः बृहत्पुरुषाः तत् द्वेष्टि।

समग्रं कथा एषा एव।

गतवर्षे कैलिफोर्निया-राज्यस्य गवर्नर्-इत्यनेन कार्यकारी-आदेशे हस्ताक्षरं कृतम् यत् कैलिफोर्निया-देशः genai-सङ्घस्य सम्मुखे अधिकं विवेकपूर्णः भवेत्, एआइ-इत्येतत् अधिकं नैतिकं, पारदर्शकं, विश्वसनीयं च कर्तव्यम् इति बोधयति स्म

अस्मिन् वर्षे फरवरीमासे कैलिफोर्निया-देशेन प्रत्यक्षतया "sb-1047 frontier ai large model safety innovation act" इति विधेयकस्य मसौदा कृता, यस्मिन् बृहत् मॉडल्-समूहानां सुरक्षित-पारदर्शक-उपयोगाय अधिकविशिष्टानि नियमाः प्रदत्ताः सन्ति

परन्तु तस्मिन् बहवः अयुक्ताः विषयाः सन्ति, ये केवलं कतिपयान् कम्पनीन् नामतः एव गलाघोटयन्ति ।

10 कोटिभ्यः अधिकव्यययुक्तानां आदर्शानां "महत्त्वपूर्णं हानिः" न भवति इति निवारयितव्यम् ।

यथा, एकः नियमः अस्ति यत् यदि एकः विशालः मॉडलः यस्य विकासस्य प्रशिक्षणस्य च व्ययः १० कोटि अमेरिकीडॉलरात् अधिकः भवति, यस्य प्लवङ्गबिन्दुसञ्चालनं १०^२६ गुणाधिकं भवति, तस्य उपयोगः मुक्तस्रोतस्य अनन्तरं अवैधकार्यं कर्तुं केनापि भवति तर्हि मॉडलविकासकः अपि भृशं दण्डं प्राप्स्यति।

भवद्भिः ज्ञातव्यं यत् मेटा इत्यस्य ल्लामा ३ मॉडल्, गूगलस्य गेम्मा मॉडल् इत्यादयः सर्वे एतां शर्तां पूरयन्ति ।

एषः प्रावधानः स्पष्टतया अत्यन्तं विवादास्पदः अस्ति ।

यथा - यदि कोऽपि स्वायत्तवाहनव्यवस्थायां हैक कृत्वा दुर्घटनाम् अकुर्वत् तर्हि प्रणालीं विकसितवती कम्पनी अपि उत्तरदायी भविष्यति वा?

विधेयकस्य अनुसारं विकासकाः स्वमाडलस्य व्युत्पन्नस्य मूल्याङ्कनं कृत्वा तेषां कृते किमपि हानिं निवारयितुं बाध्यन्ते, यथा यदि ग्राहकाः मॉडल्-मध्ये सूक्ष्म-समायोजनं कुर्वन्ति, अन्यथा मॉडल्-परिवर्तनं कुर्वन्ति (जेलब्रेक्), अथवा अन्यैः सॉफ्टवेयरैः सह संयोजयन्ति

परन्तु एकदा मुक्तस्रोतसॉफ्टवेयरं मुक्तं जातं चेत् जनाः प्रत्यक्षतया स्वस्य व्यक्तिगतयन्त्रेषु मॉडलं डाउनलोड् कर्तुं शक्नुवन्ति, अतः विकासकानां अन्येषां विकासकानां ग्राहकानाम् वा विशिष्टकार्यं ज्ञातुं कोऽपि उपायः नास्ति

तदतिरिक्तं विधेयकस्य मध्ये बहवः अस्पष्टाः परिभाषाः सन्ति ।

यथा, एआइ-माडलस्य "गम्भीर-आघाताः" विशाल-हानिः, ५० कोटि-डॉलर्-अधिकं हानिः, अन्ये वा "समानरूपेण गम्भीराः" चोटाः इति वर्णिताः सन्ति परन्तु केषु परिस्थितिषु विकासकाः उत्तरदायी भविष्यन्ति तत्र कानि दायित्वानि सन्ति ?

अस्मिन् विषये विधेयकं मौनम् अस्ति।

अपि च, एतत् विधेयकं एआइ-माडल-मध्ये प्रवर्तते ये प्रशिक्षणार्थं १० कोटि-डॉलर्-अधिकं व्यययन्ति, अथवा विद्यमान-माडल-सूक्ष्म-समायोजनाय एक-कोटि-डॉलर्-अधिकं व्यययन्ति-विकासकाः, येन बहवः लघु-प्रौद्योगिकी-कम्पनयः आक्रमणस्य व्याप्तेः अन्तः स्थापयन्ति

sb-1047 इत्यत्र अपि केचन अयुक्ताः प्रावधानाः सन्ति यथा, यदि कम्पनी अन्यदेशेभ्यः स्वस्य मॉडलं उद्घाटयति तर्हि ग्राहकस्य परिचयपत्रं, क्रेडिट् कार्डसङ्ख्या, खातासङ्ख्या इत्यादीनि सर्वाणि ग्राहकसूचनाः प्रस्तूयन्ते।

विकासकाः परीक्षणप्रक्रियाः अपि निर्मातव्याः ये एआइ मॉडल् जोखिमान् सम्बोधयन्ति तथा च तेषां एआइ सुरक्षाप्रथानां मूल्याङ्कनार्थं वार्षिकरूपेण तृतीयपक्षस्य लेखापरीक्षकान् नियोक्तुं अर्हन्ति।

मॉडल-आधारित-निर्मितानां तेषां ai-उत्पादानाम् कृते दुरुपयोगं निवारयितुं तत्सम्बद्धानां सुरक्षा-प्रोटोकॉल-विकासस्य आवश्यकता वर्तते, यत्र "आपातकालीन-विरामः" इति बटनं भवति यत् सम्पूर्णं ai-प्रतिरूपं निरुद्धं करोति

बिलः वास्तविकजोखिमानां प्रति दृष्टिम् अन्धं कृत्वा आलोचनां कृतवान्

अधिकाः समीक्षकाः मन्यन्ते यत् एतत् विधेयकम् अत्यन्तं निराधारम् अस्ति।

न केवलं एआइ-नवीनीकरणे बाधां जनयिष्यति, अद्यतन-एआइ-सुरक्षायां अपि साहाय्यं न करिष्यति |

किं अधिकं विडम्बना अस्ति यत् विधेयकं तथाकथितस्य “आपातकालीनस्विचस्य” उपयोगं कृत्वा विश्वस्य अन्त्यं निवारयति, परन्तु deepfakes इत्यादिषु विद्यमानसुरक्षाजोखिमेषु, मिथ्यासूचनासु च दृष्टिपातं करोति

यद्यपि पश्चात् संशोधनं अधिकं शिथिलशब्दयुक्तं भवति स्म, तथापि एआइ प्रयोगशालानां उत्तरदायित्वं दातुं कैलिफोर्निया-सर्वकारस्य शक्तिः न्यूनीकृता ।

परन्तु तदपि sb-1047 इत्यस्य ओपनएआइ, मेटा, गूगल इत्यादिषु प्रमुखनिर्मातृषु पर्याप्तः प्रभावः भविष्यति ।

केषाञ्चन स्टार्टअप-संस्थानां कृते एषः आघातः विनाशकारी अपि भवितुम् अर्हति ।

इदानीं यदा रजः निवसति तदा बृहत्कम्पनयः लघुस्टार्टअपः च निःश्वासं ग्रहीतुं शक्नुवन्ति ।

टुरिंग् विशालकायः भग्नः भवति

एसबी-१०४७ इत्यनेन एतस्य विषये ट्युरिङ्ग्-बृहत्-त्रयस्य "विच्छेदः" अपि अभवत् ।

लेकुन्, ली फेइफेइ, एङ्ग् एण्डा इत्येतयोः प्रतिनिधित्वं कृतवन्तः बृहत्-आधिकारिणः बहुवारं सार्वजनिकरूपेण विरोधं कृतवन्तः, असन्तुष्टाः च अभवन् ।

लेकुन् एआइ-संशोधनस्य स्थगनस्य आह्वानं कुर्वन् यत् मूलसन्देशं प्रयुक्तवान् तस्य प्रतिलिपिं अपि कृतवान् - कृपया एआइ-विधानं षड्मासान् यावत् स्थगयन्तु!

ट्युरिंग्-बृहत्त्रयस्य अन्ये द्वे योशुआ बेङ्गियो, जेफ्री हिण्टन् च आश्चर्यजनकरूपेण अस्य विधेयकस्य पारितस्य दृढतया समर्थनं कृतवन्तौ ।

वर्तमानपदानि किञ्चित् अतिशिथिलानि इति अपि अहं अनुभवामि।

वरिष्ठाः कृत्रिमबुद्धिप्रौद्योगिकी नीतिसंशोधकाः इति नाम्ना वयं कैलिफोर्निया-सीनेट्-विधेयकस्य १०४७-इत्यस्य दृढसमर्थनं प्रकटयितुं लिखामः |

एसबी १०४७ अस्य प्रौद्योगिक्याः प्रभावी नियमनार्थं मूलभूतानाम् आवश्यकतानां रूपरेखां ददाति । एतत् अनुज्ञापत्रव्यवस्थां न कार्यान्वयति, कम्पनीभ्यः मॉडल्-प्रशिक्षणात् वा परिनियोजनात् वा पूर्वं सर्वकारीय-संस्थाभ्यः अनुमतिं प्राप्तुं न आवश्यकं भवति, स्वयमेव जोखिमानां आकलनाय कम्पनीषु अवलम्बते, आपदा-सन्दर्भे अपि कम्पनीभ्यः कठोररूपेण उत्तरदायी न भवति

अस्माभिः सम्मुखीभूतानां जोखिमानां परिमाणस्य सापेक्षतया एषः तुल्यकालिकः सौम्यः विधानः अस्ति ।

विधेयकस्य मूलभूतमापकानां पूर्वनिर्धारणं ऐतिहासिकं त्रुटिः भविष्यति-यत् एकवर्षेण अधिकं स्पष्टं भविष्यति यथा यथा अधिकशक्तिशालिनः एआइ-प्रणाल्याः अग्रिमपीढीः मुक्ताः भवन्ति।

परन्तु बेङ्गियो, हिण्टन् च मुख्यधारायां न स्तः इति स्पष्टम्।

सारांशेन विभिन्नानां प्रौद्योगिकी-दिग्गजानां, बृहत्-शॉट्-इत्यस्य च स्थितिः निम्नलिखितरूपेण अस्ति ।