समाचारं

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

एकवर्षपूर्वं अमेजन, माइक्रोसॉफ्ट, गूगल, मेटा,OpenAI, Anthropic and Inflection इत्यादीनि सप्त कृत्रिमबुद्धिकम्पनयः श्वेतभवनेन सह अष्टौ स्वैच्छिकप्रतिबद्धतां प्राप्तवन्तः यत् कृत्रिमबुद्धिः सुरक्षिततया विश्वसनीयतया च कथं विकसितव्या इति।

एतेषु प्रतिबद्धतासु एआइ-प्रणालीनां परीक्षणं पारदर्शितां च वर्धयितुं सम्भाव्यखतराणां जोखिमानां च विषये सूचनानां साझेदारी च अन्तर्भवति ।

स्वैच्छिकप्रतिज्ञापत्रे हस्ताक्षरस्य एकवर्षस्य वार्षिकोत्सवे एमआईटी-प्रौद्योगिकीसमीक्षा प्रतिज्ञापत्रे हस्ताक्षरं कृतवन्तः एआइ-कम्पनीभ्यः अद्यावधि कार्यस्य किञ्चित् विवरणं पृष्टवती। तेषां प्रतिक्रियाः टेक् उद्योगस्य कृते किञ्चित् आशाजनकं प्रगतिम् सूचयन्ति, परन्तु केचन महत्त्वपूर्णाः चेतावनीः अपि सूचयन्ति।

एतानि स्वैच्छिकप्रतिबद्धतानिजननी कृत्रिम बुद्धि एतत् कदमः उन्मादः "सर्वतोऽपि फेनयुक्तः भवितुम् अर्हति" इति रूपेण आगच्छति यतः कम्पनयः स्वस्य मॉडल्-प्रक्षेपणार्थं दौडं कुर्वन्ति तथा च तान् प्रतिद्वन्द्वीनां अपेक्षया बृहत्तराणि श्रेष्ठानि च कर्तुं शक्नुवन्ति। तस्मिन् एव काले प्रतिलिपिधर्मः, डीपफेक् इत्यादीनां विषयान् परितः वादविवादाः अपि वयं द्रष्टुं आरब्धाः स्मः । जेफ्री हिण्टन इत्यादीनां प्रभावशालिनां टेक्-व्यक्तिनां लॉबी इत्यनेन अपि चिन्ता उत्पन्ना यत् एआइ मानवतायाः अस्तित्वस्य जोखिमं जनयितुं शक्नोति इति। सहसा सर्वे एआइ-सुरक्षां सुनिश्चित्य तात्कालिक-आवश्यकतायाः विषये वदन्ति, सर्वत्र नियामकाः च कार्यवाही कर्तुं दबावे सन्ति ।

अद्यतनीपर्यन्तं कृत्रिमबुद्धेः विकासः "वन्यपश्चिम" इव आसीत् । अमेरिकादेशः परम्परागतरूपेण स्वस्य टेक् दिग्गजानां नियमनं कर्तुं अनिच्छुकः अस्ति, तस्य स्थाने स्वस्य नियमनार्थं तेषां उपरि अवलम्ब्य । स्वैच्छिकप्रतिबद्धताः उत्तमं उदाहरणम् अस्ति : एते अमेरिकादेशे कृत्रिमबुद्धिक्षेत्रस्य केचन विहितनियमाः सन्ति, परन्तु ते अद्यापि स्वैच्छिकाः सन्ति, तेषां प्रवर्तनं कर्तुं न शक्यन्ते पश्चात् व्हाइट हाउस् इत्यनेन कार्यकारी आदेशः जारीकृतः यत् ताः प्रतिबद्धताः विस्तारिताः अन्येषु प्रौद्योगिकीकम्पनीषु, सर्वकारीयसंस्थासु च प्रवर्तन्ते स्म ।

“एकवर्षेण अनन्तरं वयं पश्यामः यत् केचन कम्पनयः स्व-उत्पादैः सह केचन सद्-प्रथाः स्वीकुर्वन्ति, परन्तु ते कुत्रापि समीपे न सन्ति यत्र सुशासनस्य दृष्ट्या वा मूलभूत-अधिकारस्य रक्षणस्य वा दृष्ट्या अस्माकं आवश्यकता अस्ति।”. हिक्कोक्, अध्यक्षः अनुसन्धानस्य निदेशकः च। सा एमआईटी टेक्नोलॉजी रिव्यू इत्यस्य अनुरोधेन कम्पनीनां प्रतिक्रियाणां समीक्षां कृतवती । सा अपि अवदत् यत्, “एतेषु बहवः कम्पनयः स्व-उत्पादानाम् विषये अप्रमाणित-दावानां प्रचारं कुर्वन्ति, यथा ते मानव-बुद्धि-क्षमताम् अतिक्रमितुं शक्नुवन्ति इति दावान्” इति

एतेभ्यः टेक्-कम्पनी-प्रतिक्रियाभ्यः उद्भूतः एकः प्रवृत्तिः अस्ति यत् कम्पनयः तान्त्रिक-समाधानानाम् अनुसरणं कर्तुं अधिकानि पदानि गृह्णन्ति, यथा रक्त-नील-सङ्घर्षः (यत्र मनुष्याः एआइ-माडलस्य दोषान् अन्वेषयन्ति) तथा च एआइ-जनित-सामग्रीषु जलचिह्नानि योजयन्ति

स्टैन्फोर्डविश्वविद्यालयस्य मौलिकप्रतिरूपणकेन्द्रस्य निदेशकः ऋषिबोम्मासानी इत्यनेन उक्तं यत् तेषु प्रतिबद्धतासु के परिवर्तनं जातम् अथवा कम्पनयः उपायान् कार्यान्विष्यन्ति वा इति अस्पष्टम्। सः एम.आइ.टी.प्रौद्योगिकीसमीक्षायाः प्रतिक्रियाणां समीक्षा अपि कृतवान् ।

कृत्रिमबुद्धिक्षेत्रे वर्षं दीर्घकालं भवति । स्वैच्छिकप्रतिज्ञायां हस्ताक्षरं कृत्वा इन्फ्लेक्शन् एआइ संस्थापकः मुस्तफा सुलेमानः एआइ-सम्बद्धप्रयत्नानाम् नेतृत्वाय माइक्रोसॉफ्ट-सङ्गठनेन कम्पनीं त्यक्तवान् । विभक्तिः टिप्पणीं कर्तुं अनागतवती।

व्हाइट हाउसस्य प्रवक्ता रोबिन् पैटर्सन् अवदत् यत् "कार्यकारी-आदेशस्य आवश्यकताभ्यः परं स्वैच्छिकप्रतिबद्धतां पूरयितुं प्रमुखकम्पनीभिः यत् प्रगतिः कृता तदर्थं वयं कृतज्ञाः स्मः। तथापि राष्ट्रपतिः कृत्रिमबुद्धेः विषये द्विपक्षीयविधानं पारयितुं काङ्ग्रेस-सङ्घं निरन्तरं आह्वयति।

बर्कले-नगरस्य कैलिफोर्निया-विश्वविद्यालयस्य CITRIS-नीति-प्रयोगशालायाः निदेशकः ब्राण्डी-नोनेक्-इत्यनेन उक्तं यत्, व्यापक-सङ्घीय-विधानं विना अधुना अमेरिका-देशः केवलं कम्पनीभ्यः एतानि स्वैच्छिक-प्रतिबद्धतानि पूरयितुं आग्रहं कर्तुं शक्नोति |.

परन्तु स्मर्तव्यं महत्त्वपूर्णं यत् “एताः कम्पनयः मूलतः तेभ्यः दत्तस्य परीक्षायाः कृते अध्ययनं कुर्वन्ति” इति ब्रैण्डी नोनेक् अवदत्, “अतः अस्माभिः सावधानतया पश्यितव्यं यत् ते वास्तवतः यथार्थतया कठोररीत्या स्वस्य प्रमाणीकरणं कुर्वन्ति वा” इति

अत्र एतेषां एआइ-कम्पनीनां गतवर्षे प्रगतिः कृता इति अस्माकं मूल्याङ्कनम् अस्ति।

प्रतिबद्धता १. कम्पनयः स्वस्य एआइ-प्रणालीनां विमोचनात् पूर्वं आन्तरिकबाह्यसुरक्षापरीक्षणं कर्तुं प्रतिबद्धाः सन्ति । इदं परीक्षणं, यत् स्वतन्त्रविशेषज्ञैः अंशतः क्रियते, एआइ-जोखिमानां केषाञ्चन महत्त्वपूर्णस्रोतानां, यथा जैवसुरक्षा, साइबरसुरक्षा च, तथैव तस्य व्यापकसामाजिकप्रभावानाम् अपि रक्षणं करोति

प्रतिबद्धता १ : १. एआइ-प्रणालीनां विमोचनात् पूर्वं आन्तरिकबाह्यसुरक्षापरीक्षणं कुर्वन्तु । अस्य परीक्षणस्य भागः स्वतन्त्रविशेषज्ञैः क्रियते तथा च एआइ-जोखिमानां केषाञ्चन महत्त्वपूर्णस्रोतानां रक्षणार्थं विनिर्मितः अस्ति, यथा जैवसुरक्षा, साइबरसुरक्षा, व्यापकसामाजिकप्रभावाः च

सर्वाणि कम्पनयः (इन्फ्लेक्शन् इत्येतत् विहाय, यया टिप्पणीं न कर्तुं चयनं कृतम्) अवदन् यत् ते आन्तरिक-बाह्य-परीक्षकाः स्व-माडलस्य दोषान् जोखिमान् च अन्वेष्टुं रक्त-नील-सङ्घर्षान् कृतवन्तः ओपनएआइ इत्यनेन उक्तं यत् तस्य पृथक् तत्परतादलम् अस्ति यत् साइबरसुरक्षा, रासायनिक, जैविक, रेडियोलॉजिकल, परमाणुधमकीनां च आदर्शानां परीक्षणं करोति, तथैव परिष्कृतकृत्रिमबुद्धिप्रतिमानानाम् परीक्षणं करोति ये व्यक्तिं तादृशानि कार्याणि कर्तुं वा प्रत्यययितुं वा शक्नुवन्ति येन हानिकारकं भवितुम् अर्हति। एन्थ्रोपिक् तथा ओपनएइ इत्येतयोः अपि उक्तं यत् ते नूतनानां मॉडल्-प्रवर्तनात् पूर्वं बहिः विशेषज्ञैः सह एतानि परीक्षणानि करिष्यन्ति इति ।उदाहरणार्थं, एन्थ्रोपिक् इत्यनेन स्वस्य नवीनतमं मॉडलं क्लाउड् ३.५ इत्यस्य प्रारम्भार्थं ब्रिटिश आर्टिफिशियल इंटेलिजेंस सेफ्टी इन्स्टिट्यूट् इत्यस्य विशेषज्ञैः सह पूर्वनियोजनपरीक्षणं कृतम् ।स्वचालक कार्यक्षमता “प्राथमिकतया अन्वेषिता” आसीत् । गूगलेन उक्तं यत् निर्वाचनसम्बद्धसामग्रीणां, सामाजिकजोखिमानां, राष्ट्रियसुरक्षाचिन्तानां च सीमानां परीक्षणार्थं स्वस्य मॉडल् मिथुनस्य उपरि आन्तरिकं लाल-नील-सङ्घर्षान् अपि कुर्वन् अस्ति। माइक्रोसॉफ्ट इत्यनेन उक्तं यत् सः पत्रकारितायाः अखण्डतां प्रवर्धयति इति संस्थायाः न्यूजगार्ड् इत्यस्य तृतीयपक्षमूल्यांककैः सह कार्यं कृतवान् यत् माइक्रोसॉफ्टस्य पाठ-प्रतिबिम्ब-उपकरणे डीपफेक्-इत्यस्य दुरुपयोगस्य जोखिमस्य आकलनं कर्तुं, जोखिमं न्यूनीकर्तुं च। मेटा इत्यनेन उक्तं यत्, रक्त-नील-सङ्घर्षस्य अतिरिक्तं, तया स्वस्य नवीनतमस्य मॉडलस्य, लामा ३ इत्यस्य मूल्याङ्कनं अपि कृतम्, यत् शस्त्राणि, साइबर-आक्रमणानि, बालशोषणं च समाविष्टेषु जोखिमक्षेत्रेषु कथं कार्यं करोति इति द्रष्टुं शक्नोति

“यदा परीक्षणस्य विषयः आगच्छति तदा केवलं कम्पनी कार्यवाही करोति इति निवेदयितुं पर्याप्तं नास्ति” इति ऋषि बोम्मासानी अवदत् । उदाहरणार्थं अमेजन, एन्थ्रोपिक् च अवदन् यत् ते अलाभकारी संस्था Thorn इत्यनेन सह मिलित्वा कृत्रिमबुद्ध्या बालसुरक्षायाः जोखिमानां निवारणं कृतवन्तः। सः अधिकविवरणं ज्ञातुम् इच्छति यत् कम्पनी यत् हस्तक्षेपं कार्यान्वयति तत् वस्तुतः एतान् जोखिमान् कथं न्यूनीकरोति।

“अस्माभिः स्पष्टतया अवगन्तव्यं यत् न केवलं कम्पनयः एव कार्याणि कुर्वन्ति, अपितु तानि कार्याणि इष्टं प्रभावं कुर्वन्ति” इति ऋषि बोम्मासानी अवदत् ।

परिणाम: अति उत्तम। विभिन्नजोखिमानां विरुद्धं रक्तनीलयोः उन्नतिं परीक्षणं च महत्त्वपूर्णं कार्यम् अस्ति। परन्तु मेर्वे हिक्कोक् इच्छति यत् स्वतन्त्रसंशोधकानां कम्पनीयाः आदर्शानां व्यापकप्रवेशः भवतु ।

प्रतिबद्धता २. कम्पनयः सम्पूर्णे उद्योगे तथा च एआइ-जोखिमानां प्रबन्धनविषये सर्वकारैः, नागरिकसमाजेन, शिक्षाशास्त्रैः च सह सूचनां साझां कर्तुं प्रतिबद्धाः सन्ति । अस्मिन् सुरक्षायाः उत्तमप्रथाः, सुरक्षां परिहर्तुं प्रयत्नानाम् सूचनाः, तान्त्रिकसहकार्यं च अन्तर्भवति ।

प्रतिबद्धता २ : १. एआइ-जोखिमानां प्रबन्धनस्य सूचनां उद्योगेन सह सर्वकारेण च, नागरिकसमाजेन, शिक्षाशास्त्रेण च सह साझां कुर्वन्तु। अस्मिन् उत्तमसुरक्षाप्रथाः, सुरक्षां परिहर्तुं प्रयत्नानाम् सूचनाः, तान्त्रिकसहकार्यं च अन्तर्भवति ।

स्वैच्छिकप्रतिज्ञायां हस्ताक्षरं कृत्वा गूगल, माइक्रोसॉफ्ट, एन्थ्रोपिक्, ओपनए च इत्यनेन कृत्रिमबुद्धिसुरक्षायाः उत्तरदायित्वस्य च विषये चर्चां कार्यवाही च प्रवर्धयितुं निर्मितं अलाभकारीं संस्थायाः Frontier Model Forum इति संस्था निर्मितवती पश्चात् अमेजन, मेटा च सम्मिलितौ ।

ऋषि बोम्मासानी इत्यनेन उक्तं यत् एआइ कम्पनयः स्वयमेव निधिं कुर्वन्ति इति अलाभकारीसंस्थाभिः सह साझेदारी स्वैच्छिकप्रतिबद्धतायाः भावनायां न भवेत्। तस्य दृष्ट्या फ्रन्टियर मॉडल मञ्चः एतेषां कम्पनीनां कृते परस्परं सहकार्यं कृत्वा सुरक्षासन्देशान् प्रसारयितुं मार्गः भवितुम् अर्हति, यत् ते प्रायः प्रतियोगिनां रूपेण संघर्षं कुर्वन्ति

"यदि ते जनसामान्यं प्रति सूचनां न प्रकटयन्ति चेदपि भवान् आशास्ति यत् ते न्यूनातिन्यूनं सामूहिकरूपेण जोखिमस्य न्यूनीकरणस्य उपायान् चिन्तयिष्यन्ति" इति ऋषि बोम्मासानी अवदत्।

सप्त अपि हस्ताक्षरकर्तारः एआइ नीतेः एआइ-प्रदर्शन-मूल्यांकनस्य च मार्गदर्शिकाः मानकानि च विकसितुं राष्ट्रिय-मानक-प्रौद्योगिकी-संस्थायाः (AISIC) कृत्रिम-बुद्धि-संस्थायाः (AISIC) सदस्याः अपि सन्ति क्षेत्रस्य खिलाडयः। गूगल, माइक्रोसॉफ्ट, ओपनए च संयुक्तराष्ट्रसङ्घस्य कृत्रिमबुद्धिविषये उच्चस्तरीयपरामर्शदातृसमूहे अपि प्रतिनिधिः अस्ति ।

अनेकाः कम्पनयः शैक्षणिकक्षेत्रेण सह स्वस्य शोधसहकार्यं अपि प्रकाशितवन्तः । यथा, गूगलः MLCommons इत्यस्य भागः अस्ति, यत्र सः शिक्षाविदैः सह पार-उद्योग-AI सुरक्षा-मापदण्ड-संशोधनं कर्तुं कार्यं करोति । गूगलेन इदमपि उक्तं यत् सः नेशनल् साइंस फाउण्डेशनस्य नेशनल् आर्टिफिशियल इंटेलिजेंस रिसर्च रिसोर्स्स् पायलट् प्रोग्राम् इत्यादिषु कार्यक्रमेषु कम्प्यूटेशनल् क्रेडिट् इत्यादीनां साधनानां संसाधनानाञ्च सक्रियरूपेण योगदानं करोति, यस्य उद्देश्यं संयुक्तराज्ये आर्टिफिशियल इन्टेलिजेन्स रिसर्च इत्यस्य लोकतान्त्रिकीकरणम् अस्ति।

अमेजन, गूगल, माइक्रोसॉफ्ट, फेसबुक, डीपमाइण्ड्, आईबीएम इत्यादिभिः सह-संस्थापितस्य अन्यस्य अलाभकारी-संस्थायाः एआइ-इत्यस्य साझेदारी-कार्य्ये अपि बहवः कम्पनयः अन्तर्निहित-प्रतिमानानाम् परिनियोजनाय योगदानं ददति

परिणाम: अद्यापि अधिकं कार्यं कर्तव्यम् अस्ति। यथा उद्योगः एआइ-प्रणालीं सुरक्षितं विश्वसनीयं च कर्तुं मिलित्वा कार्यं करोति, अधिकाधिकसूचनाः साझेदारी निःसंदेहं समीचीनदिशि महत्त्वपूर्णं सोपानम् अस्ति । तथापि, अस्पष्टं यत् घोषितप्रयत्नानाम् कियत् भागं वस्तुतः सार्थकं परिवर्तनं भविष्यति, कियत् च केवलं सौन्दर्यप्रसाधनं भविष्यति।

प्रतिबद्धता ३. कम्पनयः स्वामित्वयुक्तस्य अविमोचितस्य च मॉडलभारस्य रक्षणार्थं साइबरसुरक्षायां तथा अन्तःस्थधमकीसुरक्षासु निवेशं कर्तुं प्रतिबद्धाः सन्ति। एते आदर्शभाराः एआइ-प्रणाल्याः अत्यन्तं आवश्यकः भागः भवति, तथा च कम्पनयः सहमताः यत् आदर्शभाराः केवलं तदा एव मुक्ताः भवेयुः यदा अभिप्रेताः भवन्ति तथा च सुरक्षाजोखिमानां विचारः भवति

प्रतिबद्धता ३ : १. स्वामित्वयुक्तस्य अप्रकाशितस्य च मॉडलभारस्य रक्षणार्थं साइबरसुरक्षायां आन्तरिकधमकीसंरक्षणपरिहारेषु निवेशं कुर्वन्तु। एते आदर्शभाराः एआइ-प्रणाल्याः महत्त्वपूर्णः भागः भवति, तथा च कम्पनयः सहमताः यत् केवलं आदर्शभारं इच्छया, सुरक्षाजोखिमान् मनसि कृत्वा च विमोचनं महत्त्वपूर्णम् अस्ति

विगतवर्षे बहवः कम्पनयः नूतनानि साइबरसुरक्षापरिपाटानि कार्यान्वितवन्तः। यथा, माइक्रोसॉफ्ट् इत्यनेन साइबर-आक्रमणानां वर्धमान-परिमाणस्य निवारणाय स्वस्य "सुरक्षा-भविष्य-उपक्रमः" आरब्धः । माइक्रोसॉफ्ट इत्यस्य कथनमस्ति यत् तस्य मॉडल्-भाराः एन्क्रिप्टेड् भवन्ति येन मॉडल्-चोरीयाः सम्भाव्यं जोखिमं न्यूनीकर्तुं शक्यते, अपि च अत्यन्तं अनुकूलित-माडल-नियोजने सशक्तं प्रमाणीकरणं, अभिगम-नियन्त्रणं च प्रयोजयति

गूगलेन कृत्रिमगुप्तचरसाइबररक्षाकार्यक्रमः अपि आरब्धः । मेमासे ओपनएआइ इत्यनेन स्वस्य विद्यमानसाइबरसुरक्षाप्रथानां पूरकत्वेन विकसिताः षट् नवीनाः उपायाः साझाः कृताः, यथा एआइ हार्डवेयरपर्यन्तं क्रिप्टोग्राफिकसंरक्षणस्य विस्तारः, अपि च अस्य साइबरसुरक्षाअनुदानकार्यक्रमः अपि अस्ति यः शोधकर्तृभ्यः साइबरसुरक्षारक्षणनिर्माणार्थं स्वस्य मॉडलस्य उपयोगं कर्तुं शक्नोति

अमेजन इत्यनेन उक्तं यत् तया जननात्मक-एआइ-इत्यस्य अद्वितीय-आक्रमणानां विरुद्धं विशिष्टानि उपायानि अपि कृताः, यथा "डाटा-विषाक्तता" तथा "हिन्ट्-शब्द-इञ्जेक्शन्", ये पूर्वनिर्देशानां सुरक्षा-संरक्षणानाञ्च अवहेलनाय भाषा-प्रतिमानानाम् मार्गदर्शनाय संकेतानां उपयोगं कर्तुं शक्नुवन्ति

स्वैच्छिकप्रतिज्ञायां हस्ताक्षरस्य दिवसेभ्यः अनन्तरं एन्थ्रोपिक् इत्यनेन स्वस्य सुरक्षाविषये विवरणं प्रकाशितम्, येषु सामान्यसाइबरसुरक्षाप्रथाः सन्ति यथा मॉडल्-माडल-भारयोः प्रवेशः कस्य अस्ति इति नियन्त्रणं, तथैव तृतीयपक्षस्य आपूर्तिशृङ्खलानां निरीक्षणं नियन्त्रणं च कम्पनी स्वतन्त्रमूल्यांककैः सह अपि कार्यं करोति यत् तया डिजाइनं कृतानि नियन्त्रणानि साइबरसुरक्षायाः आवश्यकतां पूरयन्ति वा इति।

परिणाम: अति उत्तम। सर्वाणि कम्पनयः वदन्ति यत् तेषां मॉडल्-रक्षणार्थं अतिरिक्तानि पदानि स्वीकृतानि, यद्यपि एआइ-माडलस्य रक्षणस्य उत्तम-मार्गेषु बहु सहमतिः न दृश्यते

प्रतिबद्धता ४. कम्पनयः स्वस्य एआइ-प्रणालीषु तृतीयपक्षस्य आविष्कारस्य, दुर्बलतायाः प्रतिवेदनस्य च सुविधां कर्तुं प्रतिबद्धाः सन्ति । एआइ-प्रणाल्याः मुक्ततायाः अनन्तरम् अपि केचन समस्याः स्थातुं शक्नुवन्ति तथा च दृढं रिपोर्टिंग्-तन्त्रं तान् शीघ्रं अन्वेष्टुं निवारयितुं च समर्थयति ।

प्रतिबद्धता ४ : १. तृतीयपक्षेभ्यः स्वस्य कृत्रिमबुद्धिप्रणालीषु दुर्बलतानां आविष्कारं प्रतिवेदनं च कर्तुं सुविधां दातुं। कृत्रिमबुद्धिव्यवस्थायाः मुक्तेः अनन्तरम् अपि काश्चन समस्याः सन्ति, तथा च एकः शक्तिशाली प्रतिवेदनतन्त्रः समस्यानां शीघ्रं आविष्कारं कृत्वा समये एव निराकरणं कर्तुं शक्नोति

एतस्य प्रतिज्ञायाः पूर्तये एकः लोकप्रियः उपायः अस्ति यत् “bug bounty” इति कार्यक्रमं कार्यान्वितुं शक्यते, यत् AI प्रणालीषु दोषान् आविष्कृत्य व्यक्तिभ्यः पुरस्कृत्य भवति । गूगल, माइक्रोसॉफ्ट, मेटा, एन्थ्रोपिक्, ओपनएइ इत्यादिभिः सह कृत्रिमबुद्धिप्रणालीनां कृते एतादृशी योजना आरब्धा अस्ति । अमेजन तथा एन्थ्रोपिक् इत्येतयोः अपि उक्तं यत् तेषां जालपुटेषु प्रपत्राणि स्थापितानि यत्र सुरक्षासंशोधकाः दुर्बलतायाः प्रतिवेदनं दातुं शक्नुवन्ति।

ब्राण्डी नोनेक् इत्यस्य मते तृतीयपक्षस्य लेखापरीक्षायाः सह कथं उत्तमं कार्यं कर्तव्यमिति चिन्तयितुं वर्षाणि यावत् समयः भवितुं शक्नोति । "इदं केवलं तान्त्रिकचुनौत्यं न, अपितु सामाजिक-तकनीकी-आव्हानम् अस्ति। अस्मान् न केवलं कृत्रिमबुद्धेः तान्त्रिक-मानकान् चिन्तयितुं वर्षाणि यावत् समयः स्यात्, अपितु सामाजिक-तकनीकी-मानकानां चिन्तनार्थम् अपि, यत् जटिलं कठिनं च अस्ति, " इति सा अवदत् । .

ब्राण्डी नोनेक् इत्यनेन उक्तं यत् सा चिन्तिता यत् तृतीयपक्षस्य लेखापरीक्षां कार्यान्विताः प्रथमाः कम्पनयः कृत्रिमबुद्धेः सामाजिकतकनीकीजोखिमानां विषये कथं चिन्तनीयाः, तेषां सम्बोधनं च कथं कर्तव्यमिति दुष्टं पूर्वानुमानं स्थापयितुं शक्नुवन्ति। यथा, लेखापरीक्षा कतिपयान् जोखिमान् परिभाषितुं, मूल्याङ्कनं, सम्बोधनं च कर्तुं शक्नोति परन्तु अन्येषां उपेक्षां कर्तुं शक्नोति ।

परिणाम: अद्यापि अधिकं कार्यं कर्तव्यम् अस्ति। बग बाउंटी महान् भवति, परन्तु ते पर्याप्तं व्यापकाः न सन्ति। यूरोपीयसङ्घस्य कृत्रिमबुद्धिविधेयकम् इत्यादीनां नूतनानां कानूनानां कृते टेक्-कम्पनयः लेखापरीक्षां कर्तुं प्रवृत्ताः भविष्यन्ति, तथा च यदि टेक्-कम्पनयः एतादृशानां लेखापरीक्षाणां सफलताकथाः साझां कुर्वन्ति तर्हि तत् श्रेयस्करम् |.

प्रतिबद्धता ५. कम्पनयः दृढतांत्रिकतन्त्राणि विकसितुं प्रतिबद्धाः सन्ति येन उपयोक्तारः जानन्ति यत् सामग्री कदा एआइ जनिता भवति, यथा जलचिह्नप्रणाली। एषा क्रिया एआइ-सहितं सृजनशीलतां प्रफुल्लितुं समर्थयति परन्तु धोखाधड़ी-वञ्चनस्य खतरान् न्यूनीकरोति ।

प्रतिबद्धता ५ : १.“जलचिह्नप्रणाली” इत्यादिषु एआइ-द्वारा का सामग्री उत्पद्यते इति उपयोक्तारः जानन्ति इति सुनिश्चित्य शक्तिशालिनः तान्त्रिकतन्त्राणि विकसितुं एआइ-सृजनशीलतां प्रफुल्लितुं शक्नोति, तथा च धोखाधड़ी-वञ्चना-जोखिमं न्यूनीकरोति

अनेकाः कम्पनीः एआइ-जनितसामग्रीणां कृते जलचिह्नप्रणालीं निर्मितवन्तः यथा, गूगलेन मिथुन-जनित-प्रतिमानां, श्रव्य-पाठस्य, भिडियानां च जलचिह्न-उपकरणं SynthID इति प्रारब्धम् । मेटा इत्यनेन "Stable Signature" इति इमेज वाटरमार्किंग् टूल्, "AudioSeal" इति ध्वनिजलचिह्नसाधनं च विकसितम् अस्ति । अमेजन इदानीं स्वस्य टाइटन् इमेज् जनरेशन मॉडल् इत्यनेन उत्पन्नेषु चित्रेषु "अदृश्यं जलचिह्नं" योजयति । OpenAI इत्यनेन स्वस्य कस्टम् स्पीच मॉडल् Voice Engine इत्यस्मिन् जलचिह्नानां उपयोगः कृतः तथा च DALL-E 3 इत्यनेन उत्पन्नानां चित्राणां कृते इमेज डिटेक्शन क्लासिफायरं निर्मितम् । एन्थ्रोपिक् एकमात्रं कम्पनी अस्ति या अद्यापि जलचिह्नसाधनं न निर्मितवती, यतः जलचिह्नं मुख्यतया चित्राणां कृते भवति, तथा च कम्पनीयाः क्लाउड् मॉडल् चित्राणां समर्थनं न करोति

Inflection, Anthropic तथा Meta इत्येतत् विहाय सर्वाणि कम्पनयः Content Provenance and Authenticity Alliance (C2PA) इत्यस्य सदस्याः अपि सन्ति, यत् एकं उद्योगं गठबन्धनं करोति यत् सामग्रीं कदा निर्मितवती इति विषयेषु चर्चां करिष्यति तथा च यत् सा कृत्रिमबुद्ध्या अथवा मनुष्यैः निर्मितवती वा सम्पादिता वा इति सूचना प्रतिबिम्बमेटाडाटा मध्ये निहितं भवति । Microsoft तथा ​​OpenAl स्वयमेव C2PA इत्यस्य स्रोतमेटाडाटा DALL-E 3 इत्यनेन निर्मितचित्रेषु तथा Sora इत्यनेन निर्मितविडियोषु योजयन्ति । यद्यपि मेटा गठबन्धनस्य सदस्यः नास्ति तथापि तया घोषितं यत् सः स्वस्य मञ्चे एआइ-जनितप्रतिमानां पहिचानाय C2PA मानकस्य उपयोगं करोति ।

“स्वैच्छिकप्रतिबद्धतायां हस्ताक्षरं कृतवन्तः षट् कम्पनयः स्वाभाविकतया जोखिमानां निवारणाय प्रौद्योगिकीदृष्टिकोणानां प्रति गुरुत्वाकर्षणं कुर्वन्ति, जलचिह्नप्रणालीषु च एतत् विशेषतया सत्यम्” इति ऋषि बोम्मासानी अवदत्

"प्रश्नः अस्ति यत्, किं 'प्रौद्योगिकीसमाधानं' सार्थकं प्रगतिम् कर्तुं शक्नोति तथा च अन्तर्निहितसामाजिकसमस्यानां समाधानं कर्तुं शक्नोति यत् अस्मान् चिन्तयितुं प्रेरयति यत् सामग्री यन्त्रेण निर्मितं वा इति सः अजोडत्।

परिणाम: अति उत्तम। समग्रतया, एतत् उत्साहवर्धकं परिणामम् अस्ति, तथा च यद्यपि जलचिह्नप्रणाली अद्यापि प्रयोगात्मका अस्ति तथापि अविश्वसनीयं तथापि अद्यापि तस्य परितः संशोधनं C2PA मानकस्य प्रतिबद्धतां च द्रष्टुं साधु अस्ति। तत् किमपि न भवितुं श्रेयस्करम्, विशेषतः व्यस्तनिर्वाचनवर्षे।

प्रतिबद्धता ६. कम्पनयः स्वस्य एआइ-प्रणालीनां क्षमतां, सीमां, समुचित-अनुचित-उपयोगक्षेत्रं च सार्वजनिकरूपेण प्रतिवेदयितुं प्रतिबद्धाः सन्ति । अस्मिन् प्रतिवेदने सुरक्षाजोखिमाः सामाजिकजोखिमाः च, यथा निष्पक्षतायाः पूर्वाग्रहस्य च प्रभावः इति द्वयोः अपि आच्छादनं भविष्यति ।

प्रतिबद्धता ६ : १. तेषां एआइ-प्रणाल्याः उपयोगाय उपयुक्तानां क्षमतानां, सीमानां, क्षेत्राणां च विषये सार्वजनिकरूपेण प्रतिवेदनं कुर्वन्तु । प्रतिवेदने सुरक्षाजोखिमाः सामाजिकजोखिमाः च समाविष्टाः भविष्यन्ति, यथा निष्पक्षतायाः पूर्वाग्रहस्य च प्रभावाः।

व्हाइट हाउसस्य प्रतिज्ञा व्याख्यायै बहु स्थानं त्यजति यथा, कम्पनयः तान्त्रिकरूपेण तादृशान् सार्वजनिकप्रकाशनानाम् आवश्यकतान् पूरयितुं शक्नुवन्ति यावत् ते तस्मिन् दिशि गच्छन्ति, यदा तु पारदर्शितायाः स्तराः बहुधा भिन्नाः भवितुम् अर्हन्ति

अत्र प्रौद्योगिकीकम्पनीभिः प्रदत्तं सर्वाधिकं सामान्यं समाधानं तथाकथितं "मॉडेल् कार्ड्" इति । यद्यपि प्रत्येकं कम्पनी तान् किञ्चित् भिन्नरूपेण आह्वयति तथापि मूलतः ते एआइ मॉडलस्य कृते एकप्रकारस्य उत्पादविवरणरूपेण कार्यं कुर्वन्ति । ते एकस्य आदर्शस्य क्षमताभ्यः सीमाभ्यः (निष्पक्षतायाः व्याख्यानक्षमतायाः च मापदण्डानां मापनं कथं करणीयम् इति सहितम्) प्रामाणिकता, दृढता, शासनं, गोपनीयता, सुरक्षा च यावत् सर्वं आच्छादयितुं शक्नुवन्ति एन्थ्रोपिक् इत्यनेन उक्तं यत्, पश्चात् उत्पद्यमानानां सम्भाव्यसुरक्षाविषयाणां कृते अपि मॉडलस्य परीक्षणं करिष्यति।

Microsoft इत्यनेन स्वस्य वार्षिकं Responsible AI Transparency Report इति प्रतिवेदनं प्रकाशितम्, यत् कम्पनी कथं जननात्मककृत्रिमबुद्धेः उपयोगं कुर्वन्तः अनुप्रयोगाः निर्माति, निर्णयं करोति, एतेषां अनुप्रयोगानाम् परिनियोजनस्य निरीक्षणं च करोति इति विषये अन्वेषणं प्रदाति माइक्रोसॉफ्ट इत्यनेन अपि उक्तं यत् तस्य उत्पादेषु कृत्रिमबुद्धेः उपयोगः कुत्र कथं च भवति इति स्पष्टं करोति।

परिणाम: अद्यापि अधिकं कार्यं कर्तव्यम् अस्ति। मेरवे हिक्कोक् इत्यनेन उक्तं यत् शासनसंरचनासु, कम्पनीनां मध्ये वित्तीयसम्बन्धेषु च पारदर्शितायाः वर्धनं सर्वेषां कम्पनीनां कृते सुधारस्य क्षेत्रं भविष्यति, तथा च सा अपि द्रष्टुम् इच्छति यत् कम्पनीः आँकडास्रोतानां, आदर्शप्रशिक्षणप्रक्रियाणां, सुरक्षाघटनानां, ऊर्जाप्रयोगस्य च विषये अधिकं पारदर्शिनः भवेयुः।

प्रतिबद्धता ७. एआइ-प्रणाल्याः सामाजिकजोखिमानां विषये अनुसन्धानं प्राथमिकताम् अददात्, यत्र हानिकारकपक्षपातं भेदभावं च परिहरितुं, गोपनीयतायाः रक्षणं च सहितं कम्पनयः प्रतिबद्धाः सन्ति ए.आइ.

प्रतिबद्धता ७ : १. कृत्रिमबुद्धिप्रणाल्याः सामाजिकजोखिमानां विषये अनुसन्धानं प्राथमिकताम् अददात्, यत्र हानिकारकपक्षपाताः, भेदभावः, गोपनीयतासंरक्षणं च परिहरति एआइ इत्यस्य अभिलेखः दर्शयति यत् एते संकटाः कियत् कपटपूर्णाः व्यापकाः च सन्ति, एताः कम्पनयः एआइ इत्यस्मै तान् न्यूनीकर्तुं प्रतिज्ञां कुर्वन्ति ।

टेक् कम्पनयः सुरक्षासंशोधनं कृत्वा निष्कर्षान् स्वस्य उत्पादेषु समावेशयितुं व्यस्ताः सन्ति। अमेजनः "अमेजन बेडरोक्" इत्यस्य कृते "गार्डरेल्" निर्मितवान् यत् मतिभ्रमस्य अन्वेषणं कर्तुं शक्नोति तथा च सुरक्षा, गोपनीयता, प्रामाणिकता च संरक्षणं प्रयोक्तुं शक्नोति । एन्थ्रोपिक् इत्यनेन उक्तं यत् सामाजिकजोखिमानां गोपनीयतायाश्च अध्ययनं प्रति केन्द्रितं शोधदलं नियुक्तम् अस्ति, तथा च विगतवर्षे तया स्पूफिंग्, जेलब्रेकिंग्, भेदभावनिवृत्तिरणनीतयः, स्वस्य कोडेन सह छेड़छाड़ं कुर्वन्ति अथवा अनुनयनं कुर्वन्ति इति आदर्शाः च प्रवर्तन्ते। OpenAI कथयति यत् "द्वेषपूर्णसामग्री" परिहरितुं द्वेषपूर्णा वा अतिवादी सामग्रीं अङ्गीकुर्वितुं च स्वस्य मॉडल् प्रशिक्षितवती, तथा च रूढिवादानाम् आधारेण उत्तराणां आवश्यकतां जनयन्तः बहवः अनुरोधाः अङ्गीकुर्वितुं GPT-4V इति प्रशिक्षिताः। गूगल डीपमाइण्ड् इत्यनेन खतरनाकक्षमतानां आकलनं कृत्वा शोधं प्रकाशितम् अस्ति तथा च जनरेटिव एआइ इत्यस्य दुरुपयोगस्य विषये शोधं कृतम् अस्ति ।

अस्मिन् क्षेत्रे सर्वाणि कम्पनयः शोधकार्य्ये बहु निवेशं कुर्वन्ति । उदाहरणार्थं गूगलेन अत्याधुनिकप्रतिरूपणमञ्चानां माध्यमेन क्षेत्रे अनुसन्धानं प्रवर्तयितुं नूतनं एआइ सुरक्षाकोषं निर्मातुं कोटिकोटिरूप्यकाणां निवेशः कृतः माइक्रोसॉफ्ट इत्यनेन उक्तं यत् राष्ट्रियकृत्रिमबुद्धिसंशोधनसम्पदां माध्यमेन सामाजिकजोखिमानां अध्ययनार्थं 20 मिलियन डॉलरं वित्तपोषणं प्रतिबद्धम् अस्ति तथा च कृत्रिमबुद्धिप्रतिरूपसंशोधनत्वरककार्यक्रमः प्रारब्धः, त्वरकमूलप्रतिरूपसंशोधनकार्यक्रमः कम्पनी कृत्रिमबुद्धिविषये शोधकर्तृषु केन्द्रीकृतानि २४ जनान् अपि नियुक्तवती अस्ति तथा च समाजशास्त्र।

परिणाम: अति उत्तम। इदं प्रतिज्ञा अस्ति यत् सुलभं भवति, यतः हस्ताक्षरकर्तारः विश्वस्य केचन बृहत्तमाः, धनिनः च निगमस्य एआइ-संशोधनप्रयोगशालाः सन्ति । यद्यपि एआइ-प्रणालीं सुरक्षितं कथं करणीयम् इति विषये अधिकं शोधं स्वागतयोग्यं सोपानम् अस्ति तथापि सुरक्षा-संशोधनस्य विषये ध्यानं दत्तं एआइ-संशोधनात् ध्यानं संसाधनं च दूरं गृह्णाति, यत् अधिकतत्कालहानिषु केन्द्रीक्रियते , यथा भेदभावः पूर्वाग्रहः च।

प्रतिबद्धता ८. समाजस्य महतीनां चुनौतीनां निवारणे सहायतार्थं उन्नत-एआइ-प्रणालीनां विकासाय, परिनियोजनाय च कम्पनयः प्रतिबद्धाः सन्ति । कर्करोगनिवारणात् जलवायुपरिवर्तनस्य न्यूनीकरणपर्यन्तं तावत्पर्यन्तं एआइ-यदि सम्यक् प्रबन्धितं भवति तर्हि सर्वेषां समृद्धौ, समानतायां, सुरक्षायां च महत् योगदानं दातुं शक्नोति।

प्रतिबद्धता ८ : १.समाजस्य बृहत्तमानां चुनौतीनां समाधानं कर्तुं सहायतार्थं उन्नतकृत्रिमबुद्धिप्रणालीनां विकासः परिनियोजनं च, कर्करोगनिवारणात् जलवायुपरिवर्तनस्य न्यूनीकरणपर्यन्तं अन्येषु अनेकक्षेत्रेषु, यदि सम्यक् प्रबन्धितं भवति तर्हि कृत्रिमबुद्धिः मानवसमृद्धिं, समानतां, सुरक्षां च महत्त्वपूर्णतया उन्नतुं शक्नोति।

एतत् प्रतिज्ञां कृत्वा टेक् कम्पनयः विविधसमस्यानां समाधानं कुर्वन्ति । उदाहरणार्थं, फाइजरः प्रासंगिकदत्तांशसङ्ग्रहस्य अनन्तरं कैंसर-उपचार-संशोधनस्य प्रवृत्तीनां आकलनाय क्लाउड्-इत्यस्य उपयोगं करोति, यदा तु अमेरिकी-जैव-औषध-कम्पनी गिलिएड्-इत्यस्य उपयोगः अमेजन-जाल-सेवानां जननात्मक-ए.आइ.

Google DeepMind इत्यस्य कृत्रिमबुद्धिसाधनानाम् आरम्भस्य सशक्तः अभिलेखः अस्ति यत् वैज्ञानिकानां सहायतां कर्तुं शक्नोति उदाहरणार्थं AlphaFold 3 इत्यनेन प्रायः सर्वेषां जीवितानां अणुनां संरचनायाः, अन्तरक्रियाणां च पूर्वानुमानं कर्तुं शक्यते । AlphaGeometry ज्यामितीयसमस्यानां समाधानं शीर्ष उच्चविद्यालयस्य छात्राणां तुलनीयस्तरं करोति। GraphCast इति मध्यमपरिधिमौसमस्य पूर्वानुमानं कर्तुं समर्थं कृत्रिमबुद्धिप्रतिरूपम् अस्ति । इत्थं च, माइक्रोसॉफ्ट उपग्रहचित्रस्य कृत्रिमबुद्धेः च उपयोगं माउई, हवाई-देशे वन्य-अग्नि-प्रतिक्रियासु सुधारं कर्तुं, जलवायु-प्रभावेभ्यः दुर्बल-जनसंख्यानां नक्शां च ददाति, यत् शोधकर्तृभ्यः खाद्य-असुरक्षा, बाध्य-प्रवासः, रोगः इत्यादीनां जोखिमानां उद्घाटने सहायकं भवति

इदानीं ओपनएआइ इत्यनेन अनेकेषां शोधपरियोजनानां कृते सहकार्यस्य वित्तपोषणस्य च घोषणा कृता, यथा शिक्षाविदः वैज्ञानिकाः च प्रयोगशालायाः परिवेशेषु बहुविध एआइ-प्रतिमानस्य सुरक्षितरूपेण उपयोगं कथं कर्तुं शक्नुवन्ति इति विषये एकः कम्पनी "हैकथॉन्" इत्यस्य वित्तपोषणं अपि कुर्वती अस्ति यत् शोधकर्तृभ्यः स्वस्य मञ्चे स्वच्छशक्तिविकासे सहायतां करोति ।

परिणाम: अति उत्तम। वैज्ञानिक-आविष्कारस्य सुविधायै अथवा मौसमस्य पूर्वानुमानं कर्तुं कृत्रिमबुद्धेः उपयोगः इत्यादिषु क्षेत्रेषु केचन कार्याणि यथार्थतया रोमाञ्चकारीणि सन्ति । एआइ-कम्पनयः अद्यापि एआइ-इत्यस्य उपयोगं कर्करोगस्य निवारणाय न कुर्वन्ति, यत् आरम्भार्थं सुन्दरं उच्चं बारम् अस्ति ।

समग्रतया एआइ कथं निर्मितं भवति इति विषये केचन सकारात्मकाः परिवर्तनाः सन्ति, यथा रक्त-नील-सङ्घर्षः, जलचिह्न-प्रणाली, उद्योगानां मध्ये उत्तम-प्रथानां साझेदारी-नवीन-मार्गाः च तथापि एते केवलं केचन चतुराः प्रौद्योगिकीसमाधानाः सन्ति ये एआइ-संकटानाम् अव्यवस्थितसामाजिक-तकनीकी-समस्यायाः निवारणाय प्राप्ताः, अतः अधिकं कार्यं कर्तव्यम् अस्ति एकवर्षेण अनन्तरम् अपि प्रतिज्ञायां एआइ-सुरक्षायाः विशिष्टप्रकारस्य अधिकं बलं दत्तं यत् जैवशस्त्राणि इत्यादिषु "काल्पनिकजोखिमेषु" केन्द्रितं भवति, यदा तु उपभोक्तृसंरक्षणस्य, गहनानां, आँकडानां प्रतिलिपिधर्मस्य च उल्लेखः न भवति, एआइ-इत्यस्य पर्यावरणीयपदचिह्नस्य च कोऽपि उल्लेखः न भवति, अद्यत्वे ये लोपाः प्रतीयन्ते downright विचित्रम् ।

मूललिङ्कः : १.

https://www.technologyreview.com/2024/07/22/1095193/ai-companies-promised-the-white-house-to-self-regulate-एक-वर्ष-पूर्व-किं-परिवर्तितम्/