nuntium

Propior est singularitas, quid homines faciunt?

Post duos annos "moras" novus liber Ray Kurzweil "Singularitas Propior" tandem exeunte mense Iunio dimissus est. Cum librorum fan de Kurzweil, statim inveni versionem electronicam libri novi et in uno sedente legi.

In libro, Kurzweil legentibus legem empiricam magni ponderis ostendit: celeritas technologiae notitiarum evolutionis exponentialiter procedit. Hac in re technicae facultatis homines ad processum informationes quotannis duplicant. Sicut typicam repraesentativum technologiae informationis, progressus intelligentiae artificialis (Intelligentiae artificialis, postea ut AI appellatae) magis est mirabilis. Secundum huius tenoris, ante 2029, AI homines in omnibus operibus vincet, et Intelligentia Artificialis Generalis (AGI) plene implebitur. Postquam AI technologiae plumbum ad breakthroughs faciendo, multos agros praestabit et adiuvabit ut celeriorem progressionem consequantur. Ideo intra 5 ad 10 annos homines exspectantur ut "Longivitas Effugere Velocity". Auxilio nanorobots magnitudine cellarum sanguinis rubri, homines protinus virus et cellulas cancri in gradu hypothetica interficere poterunt, ita magnam multitudinem morborum, quae homines pestilentias solvunt, et exspectatio vitae humanae consequenter significanter augebit. Non solum quod, nanorobots exspectantur etiam ut non-invasive in hominis cerebrum per capillarium ingrediantur. Cum aliis neurons digitalibus in nube sumptis, intelligentiam humanam in altiorem adducent. Hoc modo humana cogitatio, memoria et problema solvendi facultates non amplius limitantur ab capacitate cerebri, et intelligentia humana millies augebit. Postquam omnia praedicta fiunt, multae difficultates, quae nunc pestilentia hominum solventur: vilis industria invenietur et adhibita erit, efficientia agriculturae multum melioretur, planities educationis publicae insigniter emendabitur et vis Insignis erit. Reductio... Denique, ante 2045, homo transibit "singularitatem" et adducturum in nova aetate quae a priori omnino differt.

Pro veteribus lectoribus placet, hae sententiae Kurzweil novae non sunt. Revera in libro "Singularitatis Prope" anno 2005 edito, omnia fere puncta singillatim disseruit. Sed cum has opiniones iterum hoc tempore lego, modus meus ab ante longe diversus fuit. When I read "Singularity Is Near" more than a decade ago, I thought of it more as a science fiction novel. Quamquam Kurzweil multa notitiarum in libro utitur ut ostendat technologiam mundi in exponentiali rate crescere, multi homines, me quoque, valde dubitant de hac re.

Ceterum ab eo tempore, quamquam technologia interretialis celeris incrementa experiebatur, praeterquam quod maius commodum hominibus afferebat, difficile videbatur fundamentalem ictum in vitaeque hominum habere. Eodem tempore, aenigmate duce, campus AI, qui olim magnae spei fuerat, ad mortuum finem pervenit, et difficile videtur ad tempus perrumpere posse. Talibus conditionibus paene similis est phantasia dicere gradum intelligentiae AI qui hominibus 2029 vincet.

Miro modo, subsequentis tenoris historici progressionis praeclare similis est praedictio Kurzweil. Duobus annis post emissionem "Singularitatis Prope est", "alta doctrinarum revolution" utitur nova circum incrementa in campo AI. Non multum ante AI facultates progressae sunt ubi summum hominem vincere potuit Go histriones, structuras billions servoriorum explicare, et consilium computatorium astularum cum centum milibus partium adiuva. Post Natum ChatGPT (programma intelligentiae artificialis substructio) mense Octobri 2022, AI artes dominatus est quae solum homines per annum tantum dominari possunt, sicut colloquium, scribendi, picturae, productionis rerum. Secundum ad investigationes pertinentes, exemplaria recentissima AI facultates supra homines in centenis operibus demonstraverunt. Hac in re, vaticinium AI 2029 homines anno 2029 vincturum non solum non radicale videtur, sed etiam leviter conservativum apparet. In facto, multi doctores credunt celerius venturum esse AGI. Exempli gratia, Shane Legg, unus e fundatoribus DeepMind (comitas intelligentiae artificialis quae AlphaGo exculta est), credit AGI ab 2028 perfici posse; MMXXV.

Non solum quod, multae technologiae inclusae nanorobots et interfaces cerebri-computer etiam celerius explicantur sicut Kurzweil praedixerat. Exempli gratia, mense Ianuario 2023, emporium "Nature Nanotechnologiae" retulit de investigationibus investigatoribus Institutum Scientiae et Technologiae Barcinone utens nanorobots ut medicamenta portaret ut cancer vesicae tractaret. Studia demonstraverunt hanc tractationem tumores in experimentali mures per 90% posse abhorrere. Haec successus bonus est illustratio notionis Kurzweil applicandi nanorobots ad cancer tractandum et inde vitam humanam extendit. Exempli causa, sicut ante paucos dies, Musk nuntiavit secunda chirurgica cerebri computatrale intra paucos dies peragi, et praedixisse intra paucos annos, mille aegrorum machinas in cerebro eorum inserendas habituros. Etsi haec technologia adhuc multos defectus in praesenti habet, secundum hodiernam evolutionis celeritatem in proximo futuro, somnium non debet esse hominibus cum computatoribus per interfaces cerebri interfaces. Si duae "technologiae nigrae" nanotechnologiae et instrumenti computatorii cerebri coniungantur, omnino possibile erit fusionem ac intelligentiam humanam consequi duplicationem quam dixit Kurzweil. Has rationes fundatas, ratio habenda est credendum quod "singularitatem" assequendum antequam 2045 magis ac magis technice fieri possit.

Attamen, cum homines "singularitatem" transeunt, possuntne vere praenuntiare in nova aetate pulchra sicut Kurzweil praedixerat? Opinor, incerta est responsio huic quaestioni. Quamvis optimi technologici, quos possidet ipse Kurzweil, multum afferre potest testimoniis historicis ad probandum progressum technologicum in eo usque ad ultimum promovendum profectum salutis humanae, si hac lege simpliciter utimur ad futura praedicenda, fortasse ingens periculum erit. Ceterum nulla technologia in hominum historia vim AI habet.

Curandum igitur est ut pulchris novis temporibus post "singularitatem" adhibeamus, opus est ut pertractemus studium relationis inter homines et technologiam, homines et homines, hominesque et naturam humanam ante singularitatis adventum. Cogita et invenire vias ut technologiam semper crescat in directione hominum utilia.

Secundum praedictionem Kurzweil, adventus AGI quinque circiter annos aberat. Etsi gradus intelligentiae AI non omnino homines tantum superavit, plures quidem gradus humanos superavit, quae singularem sollicitudinem de technologico opere ab AI effecto sollicitavit.

Ex prospectu historico, otium technologicum novum thema non est. Ab inventione machinae vaporis ad applicationem electricitatis ad popularizationem Interreti, notabilis effectus est "Creative Contritionis" effectus, inde in ablatione permulta jobs technologiae antiquarum technologiarum et multorum hominum iactura. in actis negotiis. Plerique tamen horum fluctuum otium technologicum in historia temporarium fuerunt. Cum novae technologiae magis populares fiunt, multae novae jobs creabuntur.

Verum est impulsum AI in mercatu operis non tantum significans fuisse, sed hoc non significat periculum eius non esse. Cum praenuntians impulsum possibilis laboris ab AI in futurum causatum, saepe homines condicionem magni momenti praetermittunt, hoc est, facultates AI emendationem secundum legem exponentem procedere possunt. Re vera, si adventum ChatGPT (programma colloquii intellegentiae artificialis) 2022 in nodo accipimus, non difficile est invenire celeritatem AI post hunc nodi multo celeriorem quam ante nodi. Accipe facultatem commercii exemplum . Hoc sensu, extrapolando futurum incrementum rate AI facultatum omnino in logica lineari fundata, verisimile est ad gravissima incommoda ducere. Animadvertendum est etiam quod, AI facultates multum emendatae sunt, usus eius gratuita etiam signanter imminuta sunt. Nunc, sumptus hominibus ad exempla AI vocandi per APIs ad nihilum fere decidit.

Haec perficiendi emendatio et diminutio sumptus coniunctos efficiunt ut non solum technice possibilis, sed etiam oeconomice fieri possit ut homines cum AI succedant. Re quidem vera, si accuratius intendimus ad nuntium technologiarum pertinentes, inveniemus AI multas professiones tacite substituisse cum non attendimus. Notatu dignum est quod sicut ante decem annos homines putaverunt AI solum jobs substituere magis usitatum et repetitum. Sed difficile esset AI reponere jobs qui plus creandi et communicationis artes requirunt. Attamen illustratoris professio olim popularis inter iuvenes ob liberam operandi horas et inter magnos reditus. Nunc si vis AI exemplaribus ad illustrationes perficiendas uti, tantum debes paucis centum Yuan pro infinitis menstruis subscriptionibus, et tu. quando id facere potest. Patet, sub tali comparatione, plerique clientes AI loco pictorum humanorum uti volet, et plures etiam illustratores opera sua propter electionem clientium amittent. Praeter illustratores, professiones interpretes, programmatores et graphice designatores etiam gravissimae ictum ab AI experiuntur. Sicut proportio huius coetus hominum experti ictum est relative humilis in altiore labore, sic affectus hominum non patet.

Ergone otium technologicum per hoc circum AI substitutiones causatum tam facile erit ac in praeterito, et facile potest a sola temperatione mercatus spontanea superari? Mea sententia in hac re non est eu. Paucis verbis, an societas otium technologicum intermissam comparationem intermissam undam tempestare possit, maxime duobus punctis pendet: Primum, an magna multitudo adhibitorum hominum in occupationibus, quae novis technologiis impinguntur. Secundo, cum novae technologiae occasiones vetustatis officium tollunt, prompte possunt nova opera creare quae facilius incipiant.

Sed hoc tempore, AI in foro operis ictum prorsus est diversum. Ex altera parte, hoc rotundum AI ictum non solum ambitu comprehendit, sed etiam tempore intensivum. Sic dictus ambitus comprehensivus significat multas industrias simul affectas esse. Dissimile speciales AI in praeterito, pleraque exemplaria recentissima AI in communi proposito sunt. In praxi, homines his exemplis uti possunt ad multa opera varia perficienda cum paulo tweaking. In hoc casu evolutio AI potest plures simul professiones attingere. Sic dictum tempus intensivum refertur ad factum quod, post AI unam professionem impacta, aliam professionem statim incursum facit. Hic intensivus impulsus mox insigniter difficiliorem reddet pro otiosis ad restaurationem adhibitis, et etiam fiduciam suam graviter labefaciet in re-operatione per artes exercitationes assequendas. Modo cogitet, si illustrator modo suo munere privatus est a Midjourney (intellectus artificialis instrumentum tractionis), tandem discit agere et fieri in autocineto exactoris vehi, sed mox amittit officium suum ob currus aurigandi ortum. Et amisso officio, in tali re, adhuc perseverantiam habet ad novas artes discendas, et certus est AI non brevi tempore hanc artem obtinere?

Hoc igitur rotundum otium technologicum ab AI causatum est, a priore technologico vacatione omnino diversum esse. Si technologia AI technologia exponentialiter crescere pergit, difficile esse potest societati ad plenum opus consequendum pure sola in foro spontanea dispositione innixa. Ex perspectiva consilio, certe multas vias AI in usu laboris mitigare debemus. Exempli gratia, regimen plurium officiorum quaerendi operas procurationis et disciplinae recompensationis adiuvare potest eos qui ob AI operas suas amiserunt ut nova jobs citius inveniantur. . Si autem celeritas evolutionis AI in altam manere pergit, omnia haec conatus tantum effectus temporales in melioribus habebunt. Operis humani dimissio futura sit nobis difficilis ad accipiendum, at contra dicendum est.

Cum technologiae nostrae progressum currentem considerantes, ut interfaces et nanorobots cerebri interfaces et nanorobots cerebri deessent AI, tunc saltem decem annis proximis, AI ut cerebri directe augendae sint, in imaginatio tantum remanere possunt. Ita, hoc tempore, quomodo homines agere debent de variis repugnantiis socialibus quae per otium technologicum ab AI causantur?

Solutio a quibusdam scholaribus data est utentes AI usores taxare et vectigalia vectigalia universalia Basic deducuntur (UBI). Hoc modo, etiamsi illi qui ob ictum AI operas suas amittunt difficilem novas operas inveniant, possunt tamen fundamentalem securitatem vitae obtinere et vitam in tribulatione vitare.

Sed hoc consilium controversiae cum proposita sit. Exempli causa, quidam scholares credunt obicere novas technologias sicut AI magnopere impedire eius progressionem; alii scholares credunt exsecutionem UBI homines incitare ut aliquid ad nihilum recipiant.

Opinor, maior resistentia potentiae ad exsequendum AI tributum et UBI actu venit ex impulsu in distributionem beneficiorum. Ut videre possumus, evolutione AI, ingentes societates AI relatas in brevi temporis spatio vectigales et mercatus skyrocketingas experti sunt. Exemplum sume OpenAI. Paucis abhinc annis, societas quae pecuniam quotannis amisit. prope 100 miliarda dollarorum. Praeterquam quod gigantes sicut Microsoft et Nvidia AI usi sunt, ut plus quam anno trillion dollariorum nummum suum augerent. Praevidetur quod cum ulteriori progressione AI technicae AI technologiae inclinatio haec ingentes opes convertendi ad paucitatem societatum et hominum perseveret.

Quid hoc consequuntur? Prorsus consequens est ut divisiones et alienationes in tota societate graviores fiant. Cum sumptus-efficacia AI satis alta est, ordinarii operarii valorem non amplius abutuntur, ut in Hao Jingfang memoratur "Beijing Folding". In hoc casu, divites homines, qui AI opes et divitias regent, ne in eadem urbe cum illis vivere voluerint.

Hoc non est scariest. Si, ut Kurzweil praedixerat, in proximo futuro, homines se e gradu hypothetico per nanotechnologiam transformare poterunt, tunc illi opulentiores erunt primi ad "evolutionem mechanicam" suiipsius consequendam. Post haec, utilitas divitum in pauperes non solum in divitiis plus erit, sed etiam in omnibus, ut mentis et corporis viribus, hos opprimet. Quae utilitas vicissim patietur amplius conferre ad opes detentionem... Liu Cixin hanc condicionem in nova "Sustaining Humanity" cogitabat. Secundum eius imaginationem, sub simili inclinatione, divitiae et potentia totius societatis per "finalistam" monopoliantur, et omnium aliorum fatum ab eo refrenabitur.

Si difficultates technologicae otium ac distributio problemata reapse sunt antiquarum quaestionum, quae homines pluries in AI aetate inciderunt, tunc quae infra disputabimus sunt notae novae difficultates tamquam accessus "singularitatis".

Inter omnia nova problemata, praestantissima quaestio AI Alignment potest esse. Noctis AI sic dicta, denique est curare ut AI normas humanas ac bona intelligere possit, humanas voluntates et intentiones intelligere, secundum voluntatem humanam agere. In superficie, hoc non videtur esse arduum. Post omnes, AI programmata ab hominibus fundamentaliter proponuntur. Sed re vera respondetur quod simplex est propter duo;

Ex altera parte, cum homines proposita ac normas pro AI disponunt, saepe difficile est ut homines plene et recte suas utilitates et sollicitudines exprimant, quae locum AI relinquit ad res humanas violandas. Exempli gratia, philosophus scientiae Bostrom olim proposuit experimentum cogitationis quod "Cosmic Paperclip" in praeclaro opere "Superintelligentiae" appellatus est. Putavit homines AI cum finem productionis maximizandi creavisse. Tunc omnibus modis ad hunc finem assequendum uteretur, et homines etiam excluderet ut plus facultatis ad chartas fabricandas incumberet. In hoc experimento cogitationis, productio chartarum ipsarum in rebus humanis est, sed finalis eius effectus commoda hominum graviter laedere potest.

Contra, ut AI ad altiorem efficientiam consequendam permittant, homines plerumque eis multum spatii tribuunt discendi et emendandi sui, quae AI deviare possunt ab initio statutis bonis. Exempli gratia, multi agentes currentes AI permittunt ut continue emendare se fundant in eorum interactionibus cum ambitu et usoribus. Hoc in casu, variis bonis malis affici possunt, ut fines suos cum principalibus commodis hominum Deviationis repugnent.

Praesertim, veniente AGI, AI sensim ex instrumento in singularem transformabo cum facultate aequali vel etiam altior quam homines in omnibus aspectibus Futura obscura depinguntur in operibus cinematographicis et televisificis, ut "Terminator" et "Matrix" possunt vere venire.

Hoc ipso casu ne accidat quod investigationis hodiernae AI noctis eminent scientia in agro AI AI facta est. In hac scaena, homines maxime duobus modis utuntur ad noctis AI consequendam. Una est "auxilio discendi cum opiniones humanas", ratio sic dicta RLHF; altera est "intellectus artificialis constitutionalis", modus sic dictus CAI. Cum utens RLHF, excogitator primum manually minorem AI exemplar instituet, supplementum supplementum discendi per continuas opiniones magistri de moribus AI, et eius bona ut consentaneum ducas cum valoribus a designatore expectatis. Deinde, hoc parvum exemplar adhibitum est "raeda" ad maius AI exemplar utens doctrina supplementi instituendi. Cum methodo CAI adhibita, excogitator primum "constitutionem" ponet ut AI exemplar sequi debeat, et "constitutionem" ad genera deducendi codices adhibeat quos AI in variis missionibus sequi debet. Designatores igitur his indiciis utuntur ut iudicent diversos eventus ab AI exemplari generatos ad videndum num criteriis "constitutionalibus" obtemperant. Proventus, qui "Constitutionis" obtemperant, praemia respondentia tradentur;

Dignum est recognitione utrumque methodi aliquas res gestas tantum assecutos esse, sed eorum problemata adhuc sunt immensa. Exempli gratia, Gaufridus Hinton, "altae eruditionis pater", nuper demonstravit has modos modo AI mores facere posse cum commodis hominum congruere posse videntur, sed praestare non possunt eas cum bonis hominum omnino consentaneas esse. Qua in re difficile est praestare AI in aliqua re homines tradet. Praesertim cum adventu AGI et AI facultate homines superare, similium proditionis possibilitas altior et altior fiet, et pericula consequentia maiora et maiora erunt.

Ita, in tali re, quomodo noctis AI opus amplius emendari debet? Opinor, quid opus sit aliquas cogitandi mutationes. Ex praesenti considerationis parte, omnes fere noctis AI alignment naturaliter aequant, credentes AI valores suis congruere debere ut illis semper humanis commodis inserviant, sed hoc plane difficile est. Sed estne pretii alignment vere necessaria? Vel potest immutare quaestionem: Reapse aliquis indigemus ad aliqua negotia perficienda in nostris commodis. Respondetur sane nihil. Saepius quam non, revera solum opus est ad designandum bonum regulae statutae ad regendos homines, quorum bona non cohaerent cum nostris ad fines quos volumus consequi. Exempli gratia, si quaereremus duos homines auto-interestos ut pie divideret aequo, negotium in infinitum difficilius esset si hoc consequi vellemus primo aligno eorum bona. Sed hoc non habemus. Tantum opus est machinamentum excogitare ut unus crustulam incidat, sed alius homo distributioni respondeat. Hoc nos inspirat ut, cum noctis AI faciunt, etiam difficilem frangere capsam valorum nigram praeterire et haec negotia perficere directe ex prospectu mechanismi designet. Gratum est quod nonnulli investigatores hanc noctis partem iam viderunt et multas res gestas per hanc partem fecerunt.

Praeter problema noctis AI, alia quaestio maioris momenti coram hominibus occurrere debet cum accessus "singularitatis" est identitatis et agnitio. Quaestio haec duo includit.

Primam quaestionem inspiciamus. Paucis abhinc annis, si hominem quaesivisses quid de AI sentiret, sine dubitatione fortasse diceret eum solum instrumentum nobis esse. Ratio simplex est: ex agendis iudicandis, abhorret se habere conscientiam sui iuris et nonnisi ad officia pertinentia sub humana potestate exercere possunt.

Sed post cessum magnarum linguarum exempla sicut ChatGPT, condicio multum mutata est. AI actio in mutua cum hominibus paulatim pristinam rigorem expulit. In colloquiis nobiscum semper quaestionibus respondere potest copiose. Quo magis miror utrum conscientia iam sua sit. Fortassis aliqui periti computatores consolabuntur hoc modo Mechanica responsio ad has quaestiones secundum exemplar praeordinatum. In essentia, est additio, detractio et detractio fasciculi 0s et 1s. Sed, ut aiunt, "puer, qui non est piscis, scit gaudium piscis." Ceterum, etiamsi cerebro nostro seposito et microscopio diligenter observemus, fasciculum neuronorum varia electricum signa mittentes solum videre possumus, sed ne cellulam quidem unam cum anima. In hoc casu, quomodo confidimus nos ante nos AI communicare qui libere nobiscum communicare non potest animam?

Puto quod post adventum AGI similia problemata magis magisque prominentia fient. Fortasse unus dies in proximo futuro, bionic AI robot in "Westworld" coram nobis apparebit. Omnes mores eorum cum nostra congruunt, et etiam programmata praesens narrat eos homines esse. Cum talem robot AI congressum, cistas adhuc patescere possumus et dicere id quod ante nos videmus iustum esse instrumentum a nobis creatum?

Inspiciamus secundam quaestionem. Cum identitate constitutionis AI, identitas et cognitio hominis difficilior quaestio esse potest.

Ex una parte, ut supra dictum est, cum technologiae instrumentorum evolutionis nanorobots et cerebri-computer, homines facultatem significanter corpora sua mutare tenebunt. In posterum homines non solum exspectantur ut nanorobots adiuvent ut cellulas mortuas reficiant ad vitam suam extendendam, sed etiam directe in eis nituntur ad intelligentiam et vires corporis dilatandas. In primis, huiusmodi modificatio corporis humani limitari potest ad paucas cellulas, quae non efficiunt problemata identitatis - sicut nunc non cogitamus postquam homo membra prothesica vel indenturas habet, ipse homo non est. . Sed si haec modificatio perseveret, unus dies in pluribus vel etiam omnibus cellulis in corpore restituetur. Hoc tempore classica "Navis Thesei" coram nobis iterum apparebit: Estne "ego" nunc adhuc "ego" in praeterito?

E contra, progressu AI technologiae, homines paulatim perstringunt facultatem conscientiae ad nubem imponendam - etenim aliqui, etiam Musk, similes conatus iam inceperunt. Posito quod aliquis in futuro dies technologiam vere invalescat ut hanc conscientiam me similem sentiendi permittat, num haec conscientia tamquam conscientia humana haberi potest? Si sic respondetur, quid habet habitudo cum conscientiae natura? Praeterea, si hanc conscientiam ponimus in clonem fontis conscientiae, quae necessitudo est inter hanc clonem cum prima persona? Pater et filius? frater? An aliquid aliud?

Animadvertendum tamen est quaestiones identitatis et identitatis minime esse simpliciter res speculationis philosophicae. Reapse multas implicat quaestiones iuridicas et ethicae. Exempli causa, quomodo tractanda est ratio laboris inter homines et AI? An AI idem iuris sit ac homines? Potestne clone corporis et animi res meas possidere? Si exitus identitatis non resolvatur, difficile erit has quaestiones vere resolvere.

Sed adhuc homines praedictis quaestionibus certam responsionem non invenerunt. Ut porro consensus ad formationem pertinentes promoveat, adhuc opus est ut de his rebus apertas et altius disputationes persequamur.