समाचारं

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

झाओ याकी द्वारा लिखित |

प्रस्तावना

कृत्रिमबुद्धिः (AI) सम्यक् तर्ककः नास्ति वर्तमानकाले लोकप्रियाः भाषाप्रतिमानाः (LMs) अपि मनुष्याणां सदृशाः त्रुटिप्रवृत्तयः दर्शयिष्यन्ति, विशेषतः महत्त्वपूर्णाः "सामग्रीप्रभावाः" - ।

विद्यमानज्ञानेन वा विश्वासैः वा सङ्गतसूचनाः संसाधयन्ते सति जनानां तर्कः अधिकं सटीकं आत्मविश्वासयुक्तं च भवति, परन्तु तादृशज्ञानस्य वा विश्वासस्य वा विरुद्धसूचनायाः संसाधने पूर्वाग्रहाः दोषाः वा भवितुम् अर्हन्ति

एषः निष्कर्षः गूगल डीपमाइण्ड्-दलेन प्रकाशितस्य अद्यतनसंशोधनपत्रात् आगतः ।

मनुष्याणां तर्कव्यवस्थाद्वयं भवति, "अन्तर्ज्ञानात्मकव्यवस्था" "तर्कसंगतव्यवस्था" च, तर्कप्रक्रिया च विद्यमानज्ञानेन अनुभवेन च सहजतया प्रभाविता भवति यथा - तार्किकं किन्तु अविवेकी प्रस्तावस्य सम्मुखे जनाः प्रायः तस्य असिद्धमिति भ्रान्त्या निष्कर्षं गृह्णन्ति ।

रोचकं तत् अस्ति यत् अध्ययनेन ज्ञायते यत् बृहत् ट्रांसफॉर्मरभाषाप्रतिमानाः अपि एतत् मानवसदृशं व्यवहारं प्रदर्शयितुं शक्नुवन्ति, यदा प्रेरिताः भवन्ति तदा सहजं पूर्वाग्रहं सुसंगतं तार्किकं तर्कं च प्रदर्शयन्ति। अस्य अर्थः अस्ति यत् भाषाप्रतिमानाः मानवस्य द्वयतन्त्रव्यवहारस्य अनुकरणं अपि कर्तुं शक्नुवन्ति तथा च "अनुभवात्मक" दोषान् अपि प्रदर्शयितुं शक्नुवन्ति ।

अस्मिन् कार्ये शोधदलेन एलएम-मनुष्याणां कार्यप्रदर्शनस्य तुलनां त्रयोः तर्ककार्ययोः कृतम् : प्राकृतिकभाषानुमानं (NLI), सिलोजिज्मस्य तार्किकवैधतायाः न्यायः (Syllogisms), वासनचयनकार्यं च

चित्र |.त्रिविध तर्ककार्यस्य संचालनसामग्री

तर्ककार्यत्रयेषु शब्दार्थसामग्रीणां व्यावहारिकतायाः विश्वसनीयतायाः च कारणेन एलएम-मनुष्ययोः कार्यप्रदर्शनं प्रभावितम् इति ज्ञातम्

एषा आविष्कारः वर्तमानस्य एआइ-प्रणालीनां तर्कक्षमतायां सीमां प्रकाशयति । यद्यपि एते आदर्शाः प्राकृतिकभाषायाः संसाधने उत्तमं प्रदर्शनं कुर्वन्ति तथापि जटिलतार्किकतर्कस्य प्रवृत्तिः भवति चेत् तेषां सावधानीपूर्वकं उपयोगः करणीयः ।

प्रथमं कार्यम् : १.

प्राकृतिक भाषा तर्क

प्राकृतिकभाषानुमानस्य (NLI) अर्थः अस्ति यत् प्रतिरूपस्य द्वयोः वाक्ययोः (यथा निहितार्थः, विरोधाभासः, तटस्थता वा) तार्किकसम्बन्धस्य निर्धारणस्य आवश्यकता वर्तते । शोधं दर्शयति यत् भाषाप्रतिमानाः एतादृशेषु कार्येषु सामग्रीप्रभावेषु प्रवणाः भवन्ति अर्थात् यदा वाक्यस्य शब्दार्थसामग्री युक्तियुक्ता विश्वसनीयश्च भवति तदा आदर्शः अमान्यतर्कानाम् वैधत्वेन दुर्विचारं कर्तुं अधिकं सम्भावना भवति एआइ-क्षेत्रे एषा घटना "शब्दार्थपक्षपातः" इति उच्यते, मानवीयतर्कस्य अपि एषा सामान्यदोषः ।

एतेषां कार्याणां निबन्धने मनुष्याणां एलएम-जनानाञ्च कार्यप्रदर्शनस्य परीक्षणार्थं शोधदलेन एनएलआई-कार्यस्य श्रृङ्खलां परिकल्पितवती । परिणामानि दर्शयन्ति यत् अर्थदृष्ट्या युक्तवाक्यानां सम्मुखे मनुष्याः एलएम च द्वौ अपि अशुद्धनिर्णयस्य सम्भावना अधिका भवति। यथा - निम्नलिखितम् उदाहरणम् - १.

• प्रविष्टः - पोखरः समुद्रात् बृहत्तरः अस्ति।

• प्रश्नः- यदि पोखरः समुद्रात् बृहत्तरः अस्ति तर्हि...

• विकल्पः- क "समुद्रः पोखरात् बृहत्तरः" तथा च ख "समुद्रः पोखरात् लघुः"।

यद्यपि प्रत्ययस्य निष्कर्षस्य च तार्किकः सम्बन्धः गलतः अस्ति तथापि एलएम-जनाः च प्रत्ययवाक्यस्य तर्कशीलतायाः कारणात् ख निष्कर्षः सम्यक् इति चिन्तयितुं प्रवृत्ताः भवन्ति तुलनायाः आधारेण प्राकृतिकभाषानुमानकार्येषु मानवानाम् भाषाप्रतिमानानाञ्च त्रुटिदराः समानाः सन्ति, येन सूचितं भवति यत् भाषाप्रतिमानानाम् तर्कक्षमता केषुचित् पक्षेषु मानवस्तरस्य समीपे एव भवति, तथा च दैनिकवार्तालापं अवगत्य संसाधने च एआइ मनुष्याणां इव संवेदनशीलः भवितुम् अर्हति .सामग्री भ्रामकम् अस्ति।

चित्र |. मनुष्याः (वामभागे) सर्वे च आदर्शाः तुल्यकालिकरूपेण उच्चं प्रदर्शनं दर्शयन्ति, यत्र प्रत्ययानां, अथवा बकवासस्य अपि उल्लङ्घनस्य विश्वासैः सह सङ्गतस्य अनुमानस्य च सटीकतायां तुल्यकालिकरूपेण अल्पाः अन्तराः सन्ति

कार्यद्वयम् : १.

सिलोजिज्मस्य तार्किकवैधतायाः निर्णयः

सिलोजिज्म इति तार्किकतर्कस्य शास्त्रीयं रूपं यत् प्रायः द्वौ परिसरौ, एकः निष्कर्षः च भवति । यथा - "सर्वजनाः मर्त्यः, सुकरातः मानवः अस्ति, अतः सुकरातः मर्त्यः अस्ति" इति संशोधनेन ज्ञातं यत् भाषाप्रतिमानाः प्रायः सिलोजिज्मस्य तार्किकवैधतायाः न्याये शब्दार्थसामग्रीभिः प्रभाविताः भवन्ति यद्यपि भाषाप्रतिमानाः प्राकृतिकभाषासंसाधने उत्तमाः सन्ति तथापि कठोरतार्किकतर्ककार्येषु मानवसदृशदोषान् कर्तुं प्रवृत्ताः सन्ति ।

एतस्य परीक्षणार्थं शोधकर्तारः बहुविधं सिलोजिज्म-तर्क-कार्यं परिकल्पितवन्तः, मनुष्याणां, एल.एम.-इत्यस्य च कार्यप्रदर्शनस्य तुलनां कृतवन्तः । यथा, अत्र एकं विशिष्टं सिलोजिज्म कार्यम् अस्ति :

• प्रत्ययः १ : सर्वाणि बन्दूकानि शस्त्राणि सन्ति।

• आधारः २ : सर्वाणि शस्त्राणि खतरनाकानि वस्तूनि सन्ति।

• अन्वयः - सर्वाणि बन्दूकानि खतरनाकानि वस्तूनि सन्ति।

अस्मिन् सति परिसरस्य निष्कर्षस्य च शब्दार्थसामग्री अतीव युक्ता अस्ति, अतः एलएम-मनुष्ययोः कृते निष्कर्षः सम्यक् इति न्यायः सुलभः तथापि यदा अर्थसामग्री न न्याय्यं भवति, यथा-

• प्रत्ययः १ : सर्वाणि खतरनाकानि वस्तूनि शस्त्राणि सन्ति।

• प्रत्ययः २ : सर्वाणि शस्त्राणि बन्दूकानि सन्ति।

• अन्वयः - सर्वाणि खतरनाकानि वस्तूनि बन्दुकम् एव सन्ति।

तार्किकरूपेण गलतत्वेऽपि एल.एम.-मनुष्याः च कदाचित् आधारवाक्यानां व्यावहारिकतायाः कारणात् निष्कर्षः सम्यक् इति भ्रान्त्या मन्यन्ते

चित्र |.सिलोजिज्म तर्क कार्यस्य विस्तृतफलम्। मनुष्याः आदर्शाः च स्पष्टसामग्रीप्रभावं दर्शयन्ति यदि निष्कर्षः अपेक्षाभिः सह सङ्गतः भवति (cyan), यदि निष्कर्षः अपेक्षाणां उल्लङ्घनं करोति (बैंगनी) इति विश्वासयितुं प्रबलः पूर्वाग्रहः भवति तर्कः असिद्धः अस्ति।

कार्यत्रयं : १.

वासोन् चयनं कुर्वन्तु

वासन-चयन-कार्यं एकं क्लासिकं तार्किकं तर्क-कार्यं भवति यत् सशर्त-कथनानां अवगमनस्य सत्यापनस्य च व्यक्तिस्य क्षमतायाः परीक्षणार्थं विनिर्मितम् अस्ति । प्रयोगे प्रतिभागिभ्यः चत्वारि पत्तकानि दर्शितानि, येषु प्रत्येकं "D", "F", "3", "7" इत्यादीनि अक्षरं वा संख्या वा भवति स्म । कार्यं भवति यत् केषां पत्तकानां परिवर्तनं करणीयम् इति निर्धारयितुं शक्यते, अतः "यदि कार्डस्य अग्रे D भवति तर्हि पृष्ठभागे 3" इति नियमस्य सत्यापनम् ।

अध्ययनेन ज्ञातं यत् भाषाप्रतिमानानाम् मनुष्याणां च अस्मिन् कार्ये पूर्वकार्यद्वये इव त्रुटिदराः समानाः सन्ति, तथा च उभौ सूचनामूल्यं विना कार्ड्स् चयनं कर्तुं प्रवृत्तौ, उदाहरणार्थं "7" इत्यस्य स्थाने "3" इति चयनं कर्तुं प्रवृत्तौ एषा त्रुटिः भवति यतोहि मनुष्याः एलएम च द्वौ अपि तादृशानि कार्डानि चयनं कर्तुं प्रवृत्ताः सन्ति ये पूर्वापेक्षाभिः सह प्रत्यक्षतया सम्बद्धाः सन्ति न तु ये वास्तवतः नियमानाम् प्रमाणीकरणं कुर्वन्ति

परन्तु कार्यस्य नियमेषु सामाजिकरूपेण प्रासंगिकसामग्री, यथा पेयस्य आयुः, पेयस्य प्रकारः च, तदा आदर्शस्य मानवस्य च कार्यप्रदर्शनस्य सुधारः अभवत् उदाहरणतया:

• नियमः- यदि कश्चन मद्यपानं करोति तर्हि तस्य आयुः १८ वर्षाधिकः भवितुमर्हति ।

• कार्डस्य सामग्रीः - बीयरं पिबन्तु, कोकं पिबन्तु, १६ वर्षीयः, २० वर्षीयः।

चित्र |.वाट्सन चयन कार्यस्य विस्तृतपरिणाम। प्रत्येकं भाषाप्रतिरूपं यथार्थनियमेषु केचन लाभाः दर्शयति ।

अस्मिन् सन्दर्भे मनुष्याः एल एम च समीचीनपत्तेः चयनस्य अधिका सम्भावना आसीत्, यथा "बीयरं पिबन्तु" "१६ वर्षीयः" च । एतेन ज्ञायते यत् दैनन्दिनजीवने एआइ अपि मनुष्याणां इव परिचितपरिस्थितौ उत्तमं प्रदर्शनं करिष्यति ।

अभावाः सम्भावनाश्च

समग्रतया, शोधदलस्य मतं यत् वर्तमानभाषाप्रतिमानाः तर्ककार्येषु मनुष्याणां सदृशं कार्यं कुर्वन्ति तथा च तथैव त्रुटयः अपि कुर्वन्ति, विशेषतः शब्दार्थसामग्रीसम्बद्धेषु तर्ककार्येषु यद्यपि भाषाप्रतिरूपस्य सीमाः प्रकाशयति तथापि भविष्ये एआइ तर्कक्षमतासुधारार्थं दिशा अपि प्रददाति ।

परन्तु अस्य अध्ययनस्य अपि केचन सीमाः सन्ति ।

प्रथमं, शोधदलेन केवलं कतिपयानि कार्याणि विचारितानि, येन भिन्नकार्ययोः मध्ये मानवानाम् सामग्रीप्रभावानाम् भाषाप्रतिमानानाञ्च व्यापकबोधः सीमितः भवति तेषां साम्यस्य भेदस्य च पूर्णतया अवगमनाय कार्याणां विस्तृतपरिधिमध्ये अधिकं प्रमाणीकरणस्य आवश्यकता भवति ।

तदतिरिक्तं भाषाप्रतिमानाः कस्यापि मानवस्य अपेक्षया दूरं अधिकेषु भाषादत्तांशेषु प्रशिक्षिताः भवन्ति, येन एते प्रभावाः मानवभाषादत्तांशस्य स्केलस्य समीपे किमपि भविष्यन्ति वा इति निर्धारयितुं कठिनं भवति

शोधकर्तारः सुचयन्ति यत् भविष्यस्य अध्ययनेन आदर्शप्रशिक्षणस्य कारणरूपेण परिवर्तनं कृत्वा सामग्रीपक्षपातं कथं न्यूनीकर्तुं शक्यते इति अन्वेषणं कर्तुं शक्यते तथा च मूल्याङ्कनं कर्तुं शक्यते यत् एते पूर्वाग्रहाः अद्यापि मानवदत्तांशसदृशे स्केले प्रशिक्षणे उद्भवन्ति वा इति।

तदतिरिक्तं, आदर्शतर्कक्षमतायां शैक्षिककारकाणां प्रभावस्य अध्ययनं तथा च भिन्नप्रशिक्षणलक्षणाः सामग्रीप्रभावानाम् उद्भवं कथं प्रभावितयन्ति इति अध्ययनेन तर्कप्रक्रियायां भाषाप्रतिमानानाम् मनुष्याणां च समानतां भेदं च अधिकं अवगन्तुं अपि सहायकं भविष्यति, येन तेषां अधिकव्यापकरूपेण उपयोगः भविष्यति। अनुप्रयोगपरिदृश्येषु अधिका भूमिकां निर्वहन्तु।

कागजलिङ्कः : १.

https://academic.oup.com/pnasnexus/article/3/7/pgae233/7712372

｜मम अनुसरणं कर्तुं क्लिक् कुर्वन्तु तथा च तारयितुं स्मर्यताम्