2024-08-17
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
नवीन बुद्धि प्रतिवेदन
सम्पादकः - एतावत् निद्रालुः
[नव प्रज्ञायाः परिचयः] ।एआइ-टाइकून्, प्रमुख-प्रौद्योगिकी-कम्पनयः, स्टार्टअप-संस्थाः, उद्यम-पूञ्जीविदः च प्रबलविरोधस्य मध्यं प्रारम्भे कैलिफोर्निया-देशस्य “एआइ-प्रतिबन्ध-विधेयकं” सफलतया पारितम् अभवत्
यथा वयं सर्वे जानीमः, विभिन्नेषु विज्ञानकथाचलच्चित्रेषु व्याख्याः विहाय एआइ इत्यनेन वास्तविकजगति कस्यचित् वधः न कृतः, न च बृहत्प्रमाणेन साइबर-आक्रमणाः कृताः
परन्तु केचन अमेरिकीविधायकाः अद्यापि आशां कुर्वन्ति यत् एतत् डिस्टोपियनं भविष्यं वास्तविकतां प्राप्तुं पूर्वं पर्याप्तसुरक्षा कार्यान्वितुं शक्यते इति।
अस्मिन् एव सप्ताहे कैलिफोर्निया-देशस्य सीमान्त-कृत्रिम-बुद्धि-प्रतिरूप-सुरक्षा-नवीनीकरण-अधिनियमः, SB 1047, पुनः एकवारं कानून-रूपेण भवितुं महत्त्वपूर्णं कदमम् अङ्गीकृतवान् ।
सरलतया वक्तुं शक्यते यत्, SB 1047 एआइ-प्रणाल्याः सामूहिक-हताहतानां कारणात् अथवा विकासकान् उत्तरदायी कृत्वा 500 मिलियन-डॉलर्-अधिकं व्ययस्य साइबर-सुरक्षा-घटनानां प्रवर्तनं न करिष्यति
परन्तु शिक्षाशास्त्रस्य उद्योगस्य च विरोधः एतावत् प्रबलः आसीत् यत् कैलिफोर्निया-विधायकाः एआइ-स्टार्टअप-एन्थ्रोपिक्-इत्यनेन अन्यैः विरोधिभिः सुझाताः अनेकाः संशोधनाः योजयित्वा किञ्चित् सम्झौतां कृतवन्तः
मूलप्रस्तावस्य तुलने वर्तमानसंस्करणेन एआइ प्रयोगशालानां उत्तरदायित्वं स्थापयितुं कैलिफोर्निया-सर्वकारस्य शक्तिः न्यूनीकरोति ।
विधेयकस्य पता: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047
परन्तु तदपि (प्रायः) एसबी १०४७ कस्मै अपि न रोचते।
यान लेकुन्, ली फेइफेइ, एनजी एण्डा इत्यादयः एआइ-दिग्गजाः बहुवारं अस्मिन् विधेयकेन स्वस्य असन्तुष्टिं प्रकटितवन्तः यत् "मुक्तस्रोत-एआइ-इत्येतत् निरुद्धं करोति तथा च एआइ-नवीनीकरणं निलम्बयितुं वा स्थगितुं वा बाध्यते" इति
विविधानि संयुक्ताक्षराणि अपि क्रमेण उद्भवन्ति- १.
न केवलं कैलिफोर्नियाविश्वविद्यालयस्य, दक्षिणकैलिफोर्नियाविश्वविद्यालयस्य, स्टैन्फोर्डविश्वविद्यालयस्य, कैलिफोर्नियाप्रौद्योगिकीसंस्थायाः च ४० तः अधिकाः शोधकर्तारः एतत् विधेयकं पारितं न कर्तुं दृढतया आह्वानं कृतवन्तः।
तथा च कैलिफोर्निया-देशस्य विभिन्नजिल्हेषु प्रतिनिधित्वं कुर्वन्तः काङ्ग्रेसस्य अष्टौ सदस्याः अपि राज्यपालं विधेयकस्य वीटो-करणाय आग्रहं कृतवन्तः ।
लेकुन् अपि तस्य मूलसन्देशस्य प्रतिलिपिं कृतवान् यदा सः एआइ-संशोधनस्य स्थगनं याचितवान् - कृपया एआइ-विधानं षड्मासान् यावत् स्थगयन्तु!
अतः प्रश्नः अस्ति यत् पूर्वलेखे "प्रायः सर्वेषां" प्रयोगः किमर्थं कृतः ?
यतः लेकुन् इत्यस्य अतिरिक्तं अन्यौ ट्युरिंग्-दिग्गजौ योशुआ बेङ्गियो, जेफ्री हिण्टन् च अस्य विधेयकस्य पारितस्य दृढतया समर्थनं कुर्वतः ।
वर्तमानपदानि किञ्चित् अतिशिथिलानि इति अपि अहं अनुभवामि।
वरिष्ठाः कृत्रिमबुद्धिप्रौद्योगिकी नीतिसंशोधकाः इति नाम्ना वयं कैलिफोर्निया-सीनेट-विधेयकस्य १०४७-इत्यस्य दृढसमर्थनं प्रकटयितुं लिखामः | एसबी १०४७ अस्य प्रौद्योगिक्याः प्रभावी नियमनार्थं मूलभूतानाम् आवश्यकतानां रूपरेखां ददाति । एतत् अनुज्ञापत्रव्यवस्थां न कार्यान्वयति, कम्पनीभ्यः मॉडल्-प्रशिक्षणात् वा परिनियोजनात् वा पूर्वं सर्वकारीय-संस्थाभ्यः अनुमतिं प्राप्तुं न आवश्यकं भवति, स्वयमेव जोखिमानां आकलनाय कम्पनीषु अवलम्बते, आपदा-सन्दर्भे अपि कम्पनीभ्यः कठोररूपेण उत्तरदायी न भवति अस्माभिः सम्मुखीभूतानां जोखिमानां परिमाणस्य सापेक्षतया एषः तुल्यकालिकः सौम्यः विधानः अस्ति । विधेयकस्य मूलभूतमापकानां पूर्वनिर्धारणं ऐतिहासिकं त्रुटिः भविष्यति-यत् एकवर्षेण अधिकं स्पष्टं भविष्यति यथा यथा अधिकशक्तिशालिनः एआइ-प्रणाल्याः अग्रिमपीढीः मुक्ताः भवन्ति।
अद्यत्वे केषाञ्चन अमेरिकी-काङ्ग्रेस-सदस्यानां, सुप्रसिद्धानां ए.आइ.-संशोधकानां, बृहत्-प्रौद्योगिकी-कम्पनीनां, उद्यम-पूञ्जीविदानां च प्रबलविरोधस्य अभावे अपि कैलिफोर्निया-विधानमण्डले एसबी-१०४७ तुल्यकालिकरूपेण सुलभतया पारितः अभवत्
तदनन्तरं एसबी १०४७ अन्तिममतदानार्थं कैलिफोर्निया-सभायां गमिष्यति । नवीनतमसंशोधनस्य योजनकारणात् विधेयकस्य पारितस्य अनन्तरं मतदानार्थं पुनः कैलिफोर्निया-सीनेट्-समित्याः समीपं प्रेषयितुं आवश्यकम् अस्ति ।
यदि एतयोः मतयोः पारितत्वं भवति तर्हि एसबी १०४७ राज्यपालं प्रति प्रेषितं भविष्यति यत् अन्तिमवीटो अथवा कानूनरूपेण हस्ताक्षरस्य प्रतीक्षां करिष्यति।
के के मॉडल्, कम्पनी च बाध्यतां प्राप्नुयुः ?
SB 1047 इत्यस्य आवश्यकतानुसारं विकासकाः अथवा ये कम्पनयः मॉडल् विकसयन्ति तेषां एआइ मॉडल् इत्यस्य उपयोगेन "महत्त्वपूर्णं हानिम्" न कर्तुं उत्तरदायी भवितुम् आवश्यकम्
यथा सामूहिकविनाशशस्त्राणां निर्माणं, अथवा ५० कोटि डॉलरात् अधिकं व्ययः कृत्वा साइबर-आक्रमणानां प्रारम्भः । वैसे, CrowdStrike इत्यस्य “Global Windows Blue Screen Incident” इत्यनेन ५ अरब डॉलरात् अधिकं हानिः अभवत् ।
परन्तु SB 1047 इत्यस्य नियमाः केवलं अत्यन्तं बृहत् AI मॉडल् इत्यत्र एव प्रवर्तन्ते-अर्थात् प्रशिक्षणव्ययः न्यूनातिन्यूनं $100 मिलियनं भवति तथा च प्लवङ्ग-बिन्दु-सञ्चालनस्य संख्या 10^26 अधिका भवति (मूलतः GPT-4 इत्यस्य प्रशिक्षणव्ययस्य आधारेण)
मेटा इत्यस्य अग्रिमपीढीयाः लामा ४ इत्यस्य गणनायाः आवश्यकता १० गुणा वर्धते इति कथ्यते, अतः एसबी १०४७ इत्यनेन अपि नियमितं भविष्यति
मुक्तस्रोतमाडलस्य तेषां सूक्ष्मतया व्यवस्थितसंस्करणस्य च कृते मूलविकासकाः उत्तरदायी भवन्ति । यावत् मूल्यं मूलमाडलस्य ३ गुणान् न प्राप्नोति।
अस्मात् दृष्ट्या लेकुनस्य प्रतिक्रिया एतावता हिंसका आसीत् इति न आश्चर्यम्।
तदतिरिक्तं, विकासकाः परीक्षणप्रक्रियाः निर्मातव्याः ये एआइ मॉडल् जोखिमान् सम्बोधयन्ति तथा च तेषां एआइ सुरक्षाप्रथानां मूल्याङ्कनार्थं वार्षिकरूपेण तृतीयपक्षस्य लेखापरीक्षकान् नियोक्तुं अर्हन्ति
मॉडल-आधारित-निर्मितानां तेषां AI-उत्पादानाम् कृते दुरुपयोगं निवारयितुं तत्सम्बद्धानां सुरक्षा-प्रोटोकॉल-विकासस्य आवश्यकता वर्तते, यत्र "आपातकालीन-विरामः" इति बटनं भवति यत् सम्पूर्णं AI-प्रतिरूपं निरुद्धं करोति
इत्यादि……
SB 1047 इत्यस्य वर्तमानं कार्यं किम् ?
अद्यत्वे SB 1047 इत्यनेन कैलिफोर्निया-महान्यायिकः एआइ-कम्पनीषु प्रमादपूर्ण-सुरक्षा-उपायानां कृते मुकदमान् कर्तुं न अनुमन्यते, यत् विनाशकारी-घटनायाः पूर्वं भवति । (एन्थ्रोपिक् इत्यस्मात् सुझावः)
तस्य स्थाने कैलिफोर्निया-महान्यायिकः कम्पनीं खतरनाकं मन्यमानं कार्यं स्थगयितुं निषेधपत्रं याचयितुम् अर्हति, अपि च एआइ-विकासकानाम् उपरि मुकदमान् कर्तुं शक्नोति यदि तेषां मॉडल्-रूपेण विनाशकारी-घटनानि भवन्ति
एसबी १०४७ इत्यनेन मूलतः विधेयकस्य अन्तः समाविष्टं नूतनं सर्वकारीयं एजेन्सी "Frontier Modeling Division (FMD)" इति स्थापनं न भवति ।
परन्तु एफएमडी इत्यस्य मूलं सीमाप्रतिरूपसमितिः अद्यापि स्थापिता आसीत्, विद्यमानस्य सर्वकारीयसञ्चालनसंस्थायाः अन्तः स्थापिता च आसीत्, तस्य आकारः पूर्वस्य ५ जनानां कृते ९ जनानां कृते विस्तारितः आसीत् समितिः अद्यापि कवरड् मॉडल् कृते कम्प्यूटेशनल् थ्रेशोल्ड् निर्धारयिष्यति, सुरक्षामार्गदर्शनं निर्गमिष्यति, लेखापरीक्षकाणां कृते नियमाः निर्गमिष्यति च।
एआइ मॉडल् इत्यस्य सुरक्षां सुनिश्चित्य एसबी १०४७ इत्यस्य शब्दावली अपि शिथिलाः सन्ति ।
अधुना, विकासकानां केवलं "उचितपरिचर्या" प्रदातव्या यत् एआइ-प्रतिमानाः पूर्वं आवश्यकं "उचितं आश्वासनं" न अपितु आपदायाः महत्त्वपूर्णं जोखिमं न जनयन्ति इति सुनिश्चितं कुर्वन्ति
तदतिरिक्तं विकासकानां केवलं स्वसुरक्षापरिपाटनानां रूपरेखां कृत्वा सार्वजनिकं "वक्तव्यं" प्रस्तुतुं आवश्यकं भवति, अपि च मिथ्यासाक्ष्यस्य दण्डस्य अन्तर्गतं सुरक्षापरीक्षापरिणामानां प्रमाणीकरणं दातुं आवश्यकता नास्ति
मुक्तस्रोतसूक्ष्म-समायोजनप्रतिमानानाम् अपि पृथक् रक्षणम् अस्ति । यदि कोऽपि कस्यचित् मॉडलस्य सूक्ष्म-समायोजनाय एककोटि-डॉलर्-अधिकं न्यूनं व्यययति तर्हि ते विकासकः न गण्यन्ते तथा च उत्तरदायित्वं मॉडलस्य मूल-बृहत्-विकासकस्य समीपे एव तिष्ठति
एकदा ली फेइफेइ इत्यनेन व्यक्तिगतरूपेण आलोचनां कृत्वा लेखः लिखितः
एआइ उद्योगे एसबी १०४७ इत्यस्य प्रभावः फॉर्च्यून पत्रिकायां "ए आई गॉडमदर" ली फेइफेइ इत्यस्य स्तम्भे द्रष्टुं शक्यते :
“यदि एतत् कानूनं भवति तर्हि SB 1047 अमेरिकायाः नवजातस्य AI पारिस्थितिकीतन्त्रस्य हानिं करिष्यति, विशेषतः तेषां भागानां हानिः भविष्यति ये पूर्वमेव वंचिताः सन्ति: सार्वजनिकक्षेत्रं, शिक्षाशास्त्रं, लघुप्रौद्योगिकीकम्पनयः च SB 1047 विकासकान् अनावश्यकरूपेण दण्डयिष्यति, मुक्तस्रोतसमुदायस्य दमनं करिष्यति, तथा च Limiting academic संशोधनमपि वास्तविकसमस्यायाः समाधानं कर्तुं असफलं भवति” इति ।
प्रथमं एसबी १०४७ विकासकान् अनुचितरूपेण दण्डं दास्यति, नवीनतां च दमयिष्यति ।
यत्र एआइ-माडलस्य दुरुपयोगः भवति तत्र एसबी १०४७ दोषं उत्तरदायीपक्षस्य, मॉडलस्य मूलविकासकस्य च उपरि स्थापयति । प्रत्येकस्य एआइ-विकासकस्य कृते, विशेषतः नवोदितप्रोग्रामर-उद्यमिनां कृते, तेषां मॉडल्-कृते प्रत्येकं सम्भाव्य-उपयोगस्य पूर्वानुमानं कर्तुं असम्भवम् । SB 1047 विकासकान् रक्षात्मकं उपायं कर्तुं बाध्यं करिष्यति - यत् किमपि सर्वथा परिहर्तव्यम् ।
द्वितीयं, SB 1047 मुक्तस्रोतविकासं प्रतिबन्धयिष्यति ।
SB 1047 इत्यनेन सर्वेषां मॉडलानां आवश्यकता अस्ति यत् ये निश्चितं सीमां अतिक्रमयन्ति, तेषां "आपातकालीनविरामबटनम्" समावेशयितुं आवश्यकं भवति, यत् तन्त्रं कदापि कार्यक्रमं निरुद्धं कर्तुं शक्नोति । यदि विकासकाः चिन्तयन्ति यत् तेषां डाउनलोड् कृत्वा निर्मिताः कार्यक्रमाः विलोपिताः भविष्यन्ति तर्हि ते कोड् कर्तुं वा सहकार्यं कर्तुं वा अधिकं संकोचम् अनुभविष्यन्ति । इदं आपत्कालीन-विराम-बटनं मुक्त-स्रोत-समुदायं भृशं प्रभावितं करिष्यति-न केवलं एआइ-मध्ये, अपितु जीपीएस-एमआरआइ, अन्तर्जाल-इत्यादीनां विविधक्षेत्रेषु नवीनतायाः असंख्य-स्रोतेषु।
तृतीयम्, एसबी १०४७ सार्वजनिकक्षेत्रे शिक्षाशास्त्रे च एआइ-संशोधनं अपाङ्गं करिष्यति ।
निजीक्षेत्रे मुक्तस्रोतविकासः महत्त्वपूर्णः अस्ति, परन्तु शैक्षणिकक्षेत्रे अपि अधिकं महत्त्वपूर्णः अस्ति, यत् सहकार्यं विना, आदर्शदत्तांशस्य अभिगमं च विना प्रगतिः कर्तुं न शक्नोति । यदि तेषां कृते समुचितप्रतिमानानाम्, आँकडानां च उपलब्धिः नास्ति तर्हि शोधकर्तारः एआइ-नेतृणां अग्रिमपीढीं कथं प्रशिक्षितुं शक्नुवन्ति? आपत्कालीनविरामबटनेन शिक्षाशास्त्रं अधिकं दुर्बलं भविष्यति, यत् पूर्वमेव दत्तांशस्य गणनायाश्च हानिः अस्ति । एसबी १०४७ शैक्षणिक-एआइ-इत्यस्य कृते घातकं प्रहारं करिष्यति यस्मिन् समये अस्माभिः सार्वजनिकक्षेत्रस्य एआइ-मध्ये अधिकं निवेशः करणीयः |
अत्यन्तं चिन्ताजनकं यत् एसबी १०४७ एआइ इत्यस्मिन् प्रगतिभ्यः सम्भाव्यजोखिमान् न सम्बोधयति, यत्र पूर्वाग्रहः, गभीराः च सन्ति । तस्य स्थाने अतीव मनमाना सीमां निर्धारयति-गणनाशक्तिः निश्चिता मात्रा अथवा एकं प्रतिरूपं यस्य प्रशिक्षणार्थं १० कोटि डॉलरं व्ययः भवति । एषः उपायः न केवलं रक्षणं दातुं असफलः भवति, अपितु शैक्षणिकक्षेत्रसहितेषु विविधक्षेत्रेषु नवीनतां प्रतिबन्धयिष्यति ।
ली फेइफेइ इत्यनेन उक्तं यत् सा एआइ-शासनस्य विरोधं न करोति। एआइ इत्यस्य सुरक्षितस्य प्रभावी च विकासाय विधानं महत्त्वपूर्णम् अस्ति । तथापि एआइ नीतिः मुक्तस्रोतविकासस्य समर्थनं कर्तुं, एकरूपं उचितं च नियमं निर्धारयितुं, उपभोक्तृविश्वासं च निर्मातुम् अर्हति ।
स्पष्टतया एसबी १०४७ एतान् मानकान् न पूरयति ।
सन्दर्भाः : १.
https://techcrunch.com/2024/08/15/अन्तिम-मतदान-पूर्व-आपदा-निवारणार्थं-कैलिफोर्निया-विधेयकं-अन्तिम-मतदान-नृ-सल्लाह-ग्रहणं-दुर्बलं कृतवान्/
https://techcrunch.com/2024/08/15/california-ai-bill-sb-1047-उद्देश्यः-ऐ-आपदानां-निवारणं-किन्तु-सिलिकन-उपत्यका-चेतावति-इति-एकं-कारणं-करिष्यति/
https://fortune.com/2024/08/06/गॉडमादर-ऑफ-ऐ-कहति-कैलिफोर्निया-ऐ-विधेयक-अस्माकं-पारिस्थितिकी-तन्त्र-प्रौद्योगिकी-राजनीति-हानि/