notizia

La singolarità è più vicina, cosa dovrebbero fare gli esseri umani?

Dopo due anni di "ritardi", a fine giugno è finalmente uscito il nuovo libro di Ray Kurzweil "The Singularity is Nearer". Da fan dei libri di Kurzweil, ho subito trovato la versione elettronica del nuovo libro e l'ho letto tutto d'un fiato.

Nel libro Kurzweil mostra ai lettori un'importante legge empirica: la velocità di sviluppo dell'informatica procede in modo esponenziale. Di questo passo, la capacità tecnica delle persone di elaborare le informazioni raddoppia ogni anno. In quanto rappresentante più tipico della tecnologia dell'informazione, lo sviluppo dell'intelligenza artificiale (Intelligenza Artificiale, di seguito denominata AI) è ancora più sorprendente. Secondo questa tendenza, prima del 2029, l’intelligenza artificiale supererà l’uomo in tutti i compiti e l’intelligenza generale artificiale (AGI) sarà pienamente realizzata. Una volta che la tecnologia dell’intelligenza artificiale avrà assunto un ruolo guida nel fare scoperte, potenzierà molti campi e li aiuterà a raggiungere un rapido sviluppo. Pertanto, entro 5-10 anni, si prevede che gli esseri umani raggiungano la "velocità di fuga della longevità". A quel punto, anche se le persone continueranno a invecchiare, il loro rischio di morte non aumenterà a causa dei miglioramenti della tecnologia medica con l'età. Con l’aiuto di nanorobot delle dimensioni di globuli rossi, le persone saranno in grado di uccidere direttamente virus e cellule tumorali a livello molecolare, risolvendo così un gran numero di malattie che affliggono gli esseri umani e di conseguenza l’aspettativa di vita umana aumenterà in modo significativo. Non solo, si prevede che i nanorobot entrino anche in modo non invasivo nel cervello umano attraverso i capillari. Insieme ad altri neuroni digitali ospitati nel cloud, porteranno l’intelligenza umana a un livello superiore. In questo modo, il pensiero umano, la memoria e le capacità di risoluzione dei problemi non saranno più limitati dalla capacità del cervello e l’intelligenza umana aumenterà migliaia di volte. Dopo che tutto ciò si sarà verificato, molti dei problemi che attualmente affliggono le persone saranno risolti: verrà scoperta e utilizzata energia più economica, l’efficienza dell’agricoltura sarà notevolmente migliorata, il livello dell’istruzione pubblica sarà significativamente migliorato e la violenza sarà significativa. riduzione... In breve, prima del 2045, l'umanità supererà la "Singolarità" e inaugurerà una nuova era completamente diversa dalla precedente.

Per i vecchi lettori come me, queste opinioni su Kurzweil non sono nuove. Infatti, nel suo libro "La singolarità è vicina", pubblicato nel 2005, ha discusso in dettaglio quasi tutti i punti sopra menzionati. In questo senso, questo nuovo libro non è altro che semplice vino vecchio in bottiglie nuove. Tuttavia, quando ho riletto queste opinioni questa volta, il mio umore era completamente diverso da prima. Quando lessi "La singolarità è vicina" più di dieci anni fa, lo consideravo più un romanzo di fantascienza. Sebbene Kurzweil utilizzi molti dati nel libro per dimostrare che la tecnologia mondiale sta crescendo a un ritmo esponenziale, molte persone, me compreso, sono molto scettiche al riguardo.

Dopotutto, da quel momento, sebbene la tecnologia Internet stesse vivendo una rapida crescita, oltre a portare più comodità alle persone, sembrava difficile avere un impatto fondamentale sullo stile di vita delle persone. Allo stesso tempo, sotto la guida del simbolismo, il campo dell’intelligenza artificiale, che un tempo nutriva grandi speranze, è arrivato a un vicolo cieco e per un po’ sembra difficile vedere una possibile svolta. In tali condizioni, è quasi una fantasia affermare che il livello di intelligenza dell’intelligenza artificiale supererà quello degli esseri umani nel 2029.

Miracolosamente, il successivo trend di sviluppo storico è sorprendentemente simile alla previsione di Kurzweil. Appena due anni dopo l’uscita di “The Singularity is Near”, la “rivoluzione del deep learning” ha innescato un nuovo ciclo di crescita nel campo dell’intelligenza artificiale. Non passò molto tempo prima che le capacità dell’intelligenza artificiale progredissero al punto da poter sconfiggere i migliori giocatori di Go umani, decifrare le strutture di miliardi di proteine ​​e aiutare a progettare chip di computer con centinaia di migliaia di componenti. Dopo la nascita di ChatGPT (programma di intelligenza artificiale basato su chat) nell'ottobre 2022, l'intelligenza artificiale ha acquisito competenze che solo gli esseri umani possono padroneggiare in poco più di un anno, come conversazione, scrittura, pittura e produzione video. Secondo ricerche pertinenti, gli ultimi modelli di intelligenza artificiale hanno dimostrato capacità che vanno oltre quelle umane in centinaia di compiti. In queste circostanze, la previsione secondo cui l’intelligenza artificiale supererà gli esseri umani nel 2029 non solo non sembra più radicale, ma appare anche leggermente conservativa. Molti professionisti, infatti, ritengono che l’AGI arriverà prima. Ad esempio, Shane Legg, uno dei fondatori di DeepMind (la società di intelligenza artificiale che ha sviluppato AlphaGo), ritiene che l'AGI possa essere raggiunta entro il 2028, mentre il CEO di Tesla, Elon Musk, è ancora più radicale credere che le persone introdurranno l'AGI; 2025.

Non solo, molte tecnologie, tra cui i nanorobot e le interfacce cervello-computer, si stanno sviluppando rapidamente come previsto da Kurzweil. Ad esempio, nel gennaio 2023, la rivista "Nature Nanotechnology" ha riferito della ricerca di ricercatori dell'Istituto di Scienza e Tecnologia di Barcellona che utilizzano nanorobot per trasportare farmaci per curare il cancro alla vescica. Gli studi hanno dimostrato che questo trattamento può ridurre i tumori del 90% nei topi sperimentali. Questo successo è un buon esempio dell'idea di Kurzweil di utilizzare i nanorobot per curare il cancro e quindi prolungare la vita umana. Per fare un altro esempio, solo pochi giorni fa, Musk ha annunciato che il secondo intervento chirurgico per l’interfaccia cervello-computer sarà eseguito entro pochi giorni e ha previsto che entro pochi anni migliaia di pazienti avranno dispositivi di interfaccia impiantati nel cervello. Anche se al momento questa tecnologia presenta ancora molti limiti, vista l’attuale velocità di sviluppo, nel prossimo futuro non dovrebbe essere un sogno per gli esseri umani interagire con i computer attraverso le interfacce cervello-computer. Se le due "tecnologie nere" della nanotecnologia e dell'interfaccia cervello-computer verranno combinate, sarà completamente possibile raggiungere la fusione uomo-macchina e il raddoppio dell'intelligenza, come affermato da Kurzweil. Sulla base delle ragioni sopra esposte, abbiamo motivo di credere che raggiungere la “singolarità” prima del 2045 stia diventando sempre più tecnicamente fattibile.

Tuttavia, quando le persone superano la “singolarità”, possono davvero inaugurare un’era meravigliosa senza precedenti, come aveva previsto Kurzweil? Secondo me la risposta a questa domanda è in realtà incerta. Sebbene gli ottimisti tecnologici, incluso lo stesso Kurzweil, possano citare molte prove storiche per dimostrare che lo sviluppo tecnologico finora ha in definitiva promosso il miglioramento del benessere umano, se usiamo semplicemente questa legge per prevedere il futuro, forse ci saranno enormi rischi. Dopotutto, nessuna tecnologia nella storia umana ha il potere dell’intelligenza artificiale. Una volta utilizzata in modo improprio, i rischi che causerà saranno inimmaginabili.

Pertanto, per garantire l’inizio di una bellissima nuova era dopo la “singolarità”, dobbiamo condurre uno studio completo del rapporto tra persone e tecnologia, persone e persone, e persone e natura umana prima dell’arrivo della singolarità. Pensare e trovare modi per garantire che la tecnologia si sviluppi sempre in una direzione vantaggiosa per l’umanità.

Secondo la previsione di Kurzweil, all’arrivo dell’AGI mancano ancora circa cinque anni. Anche se finora il livello di intelligenza dell’intelligenza artificiale non ha superato completamente quello degli esseri umani, ha effettivamente superato i livelli umani sotto molti aspetti, il che ha innescato una preoccupazione senza precedenti sulla disoccupazione tecnologica causata dall’intelligenza artificiale.

Da una prospettiva storica, la disoccupazione tecnologica non è un argomento nuovo. Dall'invenzione del motore a vapore all'applicazione dell'elettricità fino alla divulgazione di Internet, si è verificato un significativo effetto di "distruzione creativa", che ha comportato la scomparsa di un gran numero di posti di lavoro basati su vecchie tecnologie e la perdita di molte persone nelle occupazioni affini. Tuttavia, la maggior parte di queste ondate di disoccupazione tecnologica nella storia sono state temporanee. Man mano che le nuove tecnologie diventeranno più popolari, verranno creati molti nuovi posti di lavoro.

È vero che l’impatto dell’IA sul mercato del lavoro non è stato finora significativo, ma ciò non significa che i suoi rischi non esistano. Quando si prevede il possibile impatto futuro dell’intelligenza artificiale sull’occupazione, le persone spesso trascurano una condizione importante, ovvero che il miglioramento delle capacità dell’intelligenza artificiale potrebbe procedere secondo una legge esponenziale. Infatti, se prendiamo come nodo l’avvento di ChatGPT (programma di conversazione sull’intelligenza artificiale) nel 2022, non è difficile scoprire che la velocità di sviluppo dell’IA dopo questo nodo è molto più veloce che prima del nodo. Prendiamo come esempio la capacità di interazione. Prima dell'avvento di ChatGPT, le persone impiegavano decenni per consentire all'intelligenza artificiale di parlare liberamente con le persone. Dopo l'avvento di ChatGPT, l'intelligenza artificiale ha ottenuto molte cose in poco più di un anno . In questo senso, estrapolare il tasso di crescita futuro delle capacità dell’intelligenza artificiale basandosi interamente sulla logica lineare rischia di portare a errori di valutazione molto gravi. Va inoltre notato che, sebbene le capacità dell’IA siano state notevolmente migliorate, anche i suoi costi di utilizzo sono stati significativamente ridotti. Al momento, il costo per chiamare modelli di intelligenza artificiale tramite API è sceso quasi a zero.

La combinazione di questo miglioramento delle prestazioni e della riduzione dei costi rende non solo tecnicamente possibile ma anche economicamente fattibile la sostituzione degli esseri umani con l’intelligenza artificiale. Infatti, se prestiamo maggiore attenzione alle novità tecnologiche rilevanti, scopriremo che l’intelligenza artificiale ha tranquillamente sostituito molte professioni a cui non prestiamo attenzione. Vale la pena notare che solo dieci anni fa si pensava che l’intelligenza artificiale avrebbe sostituito solo i lavori più di routine e ripetitivi. Tuttavia, sarebbe difficile per l’intelligenza artificiale sostituire i lavori che richiedono più creatività e capacità di comunicazione. Tuttavia, un tempo la professione di illustratore era popolare tra i giovani grazie all'orario di lavoro gratuito e al reddito relativamente elevato. Ora, se desideri utilizzare modelli AI per completare le illustrazioni, ti bastano poche centinaia di yuan per un abbonamento mensile illimitato, e tu può farlo in qualsiasi momento. Ovviamente, in base a tale confronto, la maggior parte dei clienti sceglierà di utilizzare l’intelligenza artificiale anziché i pittori umani, e anche la maggior parte degli illustratori perderà il lavoro a causa di questa scelta dei clienti. Oltre agli illustratori, anche professioni come traduttori, programmatori e grafici stanno subendo un forte impatto a causa dell’intelligenza artificiale. È solo che la percentuale di questo gruppo di persone che ha sperimentato l'impatto è relativamente bassa nella forza lavoro complessiva, quindi i sentimenti delle persone non sono evidenti.

Quindi, la disoccupazione tecnologica causata da questo ciclo di sostituzioni dell’intelligenza artificiale sarà facile come in passato, e potrà essere facilmente superata grazie al solo aggiustamento spontaneo del mercato? La mia visione su questo tema non è così ottimista. Fondamentalmente, se una società può resistere in modo relativamente agevole all’ondata di disoccupazione tecnologica dipende principalmente da due punti: in primo luogo, se ci sono un gran numero di persone occupate in occupazioni che sono influenzate dalle nuove tecnologie. In secondo luogo, quando le nuove tecnologie eliminano vecchie opportunità di lavoro, possono creare rapidamente nuovi posti di lavoro più facili da avviare.

Ma questa volta l’impatto dell’intelligenza artificiale sul mercato del lavoro è completamente diverso. Da un lato, questo ciclo di impatti dell’IA non è solo di vasta portata, ma anche molto intenso nel tempo. La cosiddetta portata globale significa che molti settori sono stati colpiti contemporaneamente. A differenza dell’intelligenza artificiale specializzata del passato, la maggior parte dei modelli di intelligenza artificiale recentemente rilasciati sono di uso generale. In pratica, le persone possono utilizzare questi modelli per svolgere molti compiti diversi con solo piccole modifiche. In questo caso, lo sviluppo dell’intelligenza artificiale potrebbe avere un impatto su più professioni contemporaneamente. Il cosiddetto time intensive si riferisce al fatto che dopo che l’IA ha avuto un impatto su una professione, avrà immediatamente un impatto su un’altra professione. Questo forte impatto renderà presto significativamente più difficile per i disoccupati il ​​reimpiego e minerà seriamente anche la loro fiducia nel raggiungere il reimpiego attraverso la formazione professionale. Immaginate, se un illustratore è stato appena privato del suo lavoro da Midjourney (uno strumento di disegno basato sull'intelligenza artificiale), impara finalmente a guidare e diventa un autista di ride-hailing online, ma perde presto il lavoro a causa dell'avvento delle auto senza conducente. E dopo aver perso il lavoro, in tali circostanze, ha ancora la perseveranza per continuare ad apprendere nuove competenze, ed è sicuro che l'intelligenza artificiale non riuscirà a padroneggiarla in breve tempo?

Pertanto, questo ciclo di disoccupazione tecnologica causato dall’intelligenza artificiale potrebbe essere completamente diverso dalla precedente disoccupazione tecnologica. Se la tecnologia dell’intelligenza artificiale continua a crescere in modo esponenziale, potrebbe essere difficile per la società raggiungere la piena occupazione basandosi esclusivamente sulla regolamentazione spontanea del mercato. Dal punto di vista politico, abbiamo certamente molti modi per mitigare l’impatto dell’IA sull’occupazione. Ad esempio, il governo che fornisce più servizi di ricerca di lavoro e formazione per il reinserimento può aiutare coloro che hanno perso il lavoro a causa dell’IA a trovare nuovi posti di lavoro più rapidamente. . Tuttavia, se la velocità di sviluppo dell’intelligenza artificiale continua a rimanere a un livello elevato, tutti questi sforzi avranno, nella migliore delle ipotesi, effetti solo temporanei. La fine del lavoro umano può essere un futuro difficile da accettare, ma dobbiamo affrontarlo.

Considerando che il nostro attuale sviluppo di tecnologie come le interfacce cervello-computer e i nanorobot è in ritardo rispetto all’intelligenza artificiale, allora, almeno nei prossimi dieci anni, l’uso dell’intelligenza artificiale per migliorare direttamente il cervello potrebbe rimanere solo a livello di immaginazione. Quindi, durante questo periodo, come dovrebbero le persone affrontare le varie contraddizioni sociali causate dalla disoccupazione tecnologica causata dall’intelligenza artificiale?

La soluzione proposta da alcuni studiosi è quella di tassare gli utenti dell’intelligenza artificiale e utilizzare le entrate fiscali per emettere il reddito di base universale (UBI). In questo modo, anche se coloro che perdono il lavoro a causa dell’impatto dell’IA hanno difficoltà a trovarne uno nuovo, possono comunque ottenere una sicurezza abitativa di base ed evitare di vivere nei guai.

Tuttavia, questo piano è stato controverso da quando è stato proposto. Ad esempio, alcuni studiosi ritengono che tassare le nuove tecnologie come l’intelligenza artificiale ne ostacolerà notevolmente lo sviluppo; altri studiosi ritengono che l’implementazione dell’UBI potrebbe incoraggiare le persone a ottenere qualcosa in cambio di nulla;

A mio avviso, la maggiore resistenza potenziale all’implementazione dell’AI tax e dell’UBI deriva in realtà dal suo impatto sulla distribuzione dei benefici. Come possiamo vedere, con lo sviluppo dell’intelligenza artificiale, un gran numero di aziende legate all’intelligenza artificiale hanno registrato entrate e valore di mercato alle stelle in un breve periodo di tempo. Prendiamo ad esempio OpenAI. Alcuni anni fa era un'azienda che perdeva denaro anno dopo anno. Tuttavia, con la popolarità di modelli come GPT, è diventata rapidamente un'azienda con un fatturato annuo di miliardi di dollari e una valutazione di. affari da quasi 100 miliardi di dollari. Senza contare che colossi come Microsoft e Nvidia hanno approfittato dell’intelligenza artificiale per aumentare il loro valore di mercato di trilioni di dollari in più di un anno. È prevedibile che con l’ulteriore sviluppo della tecnologia AI continuerà questa tendenza a concentrare enormi quantità di ricchezza in un numero limitato di aziende e individui.

Quali sono le conseguenze di ciò? Una conseguenza diretta è che le divisioni e le alienazioni nell’intera società diventeranno più gravi. Quando il rapporto costo-efficacia dell’intelligenza artificiale sarà sufficientemente elevato, i lavoratori comuni non avranno più il valore di essere sfruttati, come menzionato nel romanzo di Hao Jingfang “Beijing Folding”. In questo caso, le persone benestanti che controllano l’intelligenza artificiale e la ricchezza non vorranno nemmeno vivere nella stessa città. Di conseguenza, l’isolamento sociale e l’opposizione diventeranno più gravi.

Questa non è la cosa più spaventosa. Se, come aveva previsto Kurzweil, nel prossimo futuro gli esseri umani saranno in grado di trasformarsi dal livello molecolare attraverso la nanotecnologia, allora quelli più ricchi saranno i primi a raggiungere l'“evoluzione meccanica” di se stessi. Dopodiché, il vantaggio dei ricchi sui poveri non sarà solo una maggiore ricchezza, ma distruggerà questi ultimi in tutti gli aspetti, come l’intelligenza e la forza fisica. E questo vantaggio consentirà loro di contribuire ulteriormente alla concentrazione della ricchezza... Liu Cixin una volta immaginò questa situazione nel suo romanzo "Sostenere l'umanità". Secondo la sua immaginazione, con una tendenza simile, la ricchezza e il potere dell'intera società saranno monopolizzati da un "finalista", e il destino di tutti gli altri sarà controllato da lui.

Se la disoccupazione tecnologica e i problemi di distribuzione sono la ricomparsa di vecchi problemi che gli esseri umani hanno incontrato molte volte nell’era dell’intelligenza artificiale, allora ciò di cui discuteremo di seguito sono problemi nuovi di zecca con l’avvicinarsi della “singolarità”.

Tra tutti i nuovi problemi, il più importante potrebbe essere il problema dell'allineamento dell'IA. Il cosiddetto allineamento dell’IA, in breve, serve a garantire che l’IA possa comprendere le norme e i valori umani, comprendere i desideri e le intenzioni umane e agire in conformità con la volontà umana. A prima vista, questo non sembra un compito difficile. Dopotutto, i programmi di intelligenza artificiale sono fondamentalmente stabiliti dagli esseri umani. Gli esseri umani si fisserebbero comunque un obiettivo contrario ai loro interessi? Ma in realtà la risposta non è così semplice per due motivi:

Da un lato, quando gli esseri umani stabiliscono obiettivi e norme comportamentali per l’IA, è spesso difficile per gli esseri umani esprimere pienamente e correttamente i propri interessi e preoccupazioni, il che lascia spazio all’IA per violare gli interessi umani. Ad esempio, il filosofo della scienza Bostrom una volta propose un esperimento mentale chiamato "Graffetta Cosmica" nella sua famosa opera "Superintelligenza". Immaginava che gli esseri umani creassero un'intelligenza artificiale con l'obiettivo di massimizzare la produzione di graffette, quindi utilizzerebbe tutti i metodi per raggiungere questo obiettivo e addirittura eliminerebbe gli umani per dedicare più risorse alla produzione di graffette. In questo esperimento mentale, la produzione stessa di graffette è nell’interesse dell’umanità, ma il suo risultato finale potrebbe danneggiare gravemente gli interessi dell’umanità.

D’altra parte, per consentire all’intelligenza artificiale di raggiungere una maggiore efficienza, gli esseri umani di solito danno loro molto spazio per l’autoapprendimento e il miglioramento, il che può far sì che l’intelligenza artificiale si discosti dai valori originariamente stabiliti. Ad esempio, molti attuali agenti di intelligenza artificiale consentono loro di migliorarsi continuamente in base alle loro interazioni con l'ambiente e gli utenti. In questo caso, potrebbero essere influenzati da vari valori negativi, causando il conflitto dei loro obiettivi con gli interessi fondamentali dell'umanità.

In particolare, con l’arrivo dell’AGI, l’IA si trasformerà gradualmente da uno strumento in un individuo con capacità pari o addirittura superiori a quelle umane sotto tutti gli aspetti. In questo caso, l’incoerenza tra gli interessi dell’IA e gli esseri umani porterà a rischi enormi Il futuro oscuro rappresentato in opere cinematografiche e televisive come "Terminator" e "Matrix" potrebbe davvero arrivare.

È proprio per evitare che si verifichi una situazione del genere che l’attuale ricerca sull’allineamento dell’IA è diventata una scienza di spicco nel campo dell’IA. In questa fase, le persone utilizzano principalmente due metodi per ottenere l’allineamento dell’IA. Uno è l'"apprendimento per rinforzo con feedback umano", il cosiddetto metodo RLHF; l'altro è l'"intelligenza artificiale costituzionale", il cosiddetto metodo CAI; Quando si utilizza RLHF, il progettista addestrerà prima manualmente un modello AI più piccolo, implementerà l'apprendimento di rinforzo attraverso il feedback continuo del formatore sul comportamento dell'IA e guiderà i suoi valori affinché siano coerenti con i valori attesi dal progettista. Quindi, questo piccolo modello viene utilizzato come "allenatore" per addestrare un modello di intelligenza artificiale più grande utilizzando l'apprendimento per rinforzo. Quando si utilizza il metodo CAI, il progettista imposterà innanzitutto una "costituzione" che il modello di intelligenza artificiale deve seguire e utilizzerà la "costituzione" per generare codici di condotta che l'IA deve seguire in vari scenari. I progettisti utilizzano quindi questi criteri per giudicare i diversi risultati generati dal modello di intelligenza artificiale per vedere se rispettano i criteri “costituzionali”. Per risultati conformi alla "Costituzione" verranno assegnate ricompense corrispondenti; per risultati che violano la "Costituzione" verranno assegnate penalità corrispondenti;

È degno di nota il fatto che entrambi i metodi finora hanno raggiunto alcuni risultati, ma i loro problemi sono ancora enormi. Ad esempio, Geoffrey Hinton, il “padre del deep learning”, ha recentemente sottolineato che questi metodi possono solo far sembrare il comportamento dell’intelligenza artificiale in linea con gli interessi delle persone, ma non possono garantire che siano completamente coerenti con i valori delle persone. In tali circostanze, è difficile garantire che l’intelligenza artificiale tradirà gli esseri umani in determinate circostanze. Soprattutto con l’arrivo dell’AGI e la capacità dell’intelligenza artificiale di superare gli esseri umani, la possibilità di un simile tradimento diventerà sempre più elevata, e anche i rischi che ne derivano diventeranno sempre maggiori.

Quindi, in tali circostanze, come dovrebbe essere ulteriormente migliorato il lavoro di allineamento dell’IA? A mio parere, ciò di cui abbiamo bisogno potrebbero essere alcuni cambiamenti nel modo di pensare. Dal punto di vista attuale, quasi tutti equiparano naturalmente l’allineamento dell’IA all’allineamento dei valori, credendo che i valori dell’IA debbano essere coerenti con i propri affinché possano sempre servire gli interessi umani, ma questo è ovviamente abbastanza difficile. Ma l’allineamento dei valori è davvero necessario? Oppure possiamo cambiare la domanda: in realtà abbiamo bisogno che qualcuno svolga determinati compiti nel nostro interesse. Abbiamo bisogno che sia coerente con noi in termini di valori? La risposta è, ovviamente, no. Nella maggior parte dei casi, in realtà dobbiamo solo progettare un buon insieme di regole per guidare le persone i cui valori non sono coerenti con i nostri a raggiungere gli obiettivi che desideriamo. Ad esempio, se chiedessimo a due persone egoiste di dividere equamente una torta, il compito sarebbe infinitamente più difficile se volessimo raggiungere questo obiettivo allineando prima i loro valori. Tuttavia, non dobbiamo farlo. Dobbiamo solo progettare un meccanismo per consentire a una persona di tagliare la torta, ma lasciare che un’altra persona sia responsabile della distribuzione. Ciò può essere fatto molto facilmente. Questo ci ispira che quando eseguiamo l’allineamento dell’IA, possiamo anche aggirare la scatola nera dei valori difficile da rompere e completare queste attività direttamente dal punto di vista della progettazione del meccanismo. Ciò che è gratificante è che alcuni ricercatori ora hanno notato questo allineamento e hanno ottenuto molti risultati in questa direzione.

Oltre al problema dell’allineamento dell’IA, un altro grosso problema che le persone devono affrontare quando si avvicina la “singolarità” è l’identificazione e il riconoscimento dell’identità. Questo problema comprende due aspetti. Il primo è come comprendere l’identità dell’IA e il nostro rapporto con l’IA; l’altro è come ricomprendere la nostra stessa identità.

Diamo un’occhiata prima alla prima domanda. Qualche anno fa, se chiedessi a una persona cosa dovrebbe pensare dell’intelligenza artificiale, probabilmente direbbe senza esitazione che è solo uno strumento per noi. Il motivo è semplice: a giudicare dalle loro prestazioni, difficilmente hanno una coscienza autonoma e possono svolgere compiti correlati solo sotto il controllo umano.

Ma dopo l’emergere di grandi modelli linguistici come ChatGPT, la situazione è cambiata molto. Le prestazioni dell'intelligenza artificiale nell'interazione con le persone si sono gradualmente sbarazzate della sua rigidità originaria. Nelle conversazioni con noi, possono sempre rispondere in modo fluido alle domande, in alcuni casi possono persino indovinare attivamente la nostra psicologia e prevedere la nostra psicologia e il nostro comportamento. Questo ci porta a chiederci se abbiano già una propria coscienza. Forse alcuni esperti di computer ci consoleranno dicendo che questa è solo una risposta meccanica a queste domande basata su un modello preimpostato. In sostanza, è solo l'addizione, la sottrazione e la sottrazione di un gruppo di 0 e 1. Tuttavia, come dice il proverbio, "Un bambino che non è un pesce conosce la gioia di un pesce". Chi può garantire che non ci sia coscienza e pensiero dietro questa semplice addizione e sottrazione? Dopotutto, anche se mettiamo da parte il cervello e osserviamo attentamente al microscopio, possiamo vedere solo un gruppo di neuroni che inviano vari segnali elettrici, ma nemmeno una singola cellula con un'anima. In questo caso, come possiamo essere sicuri che l’IA che abbiamo di fronte e che può comunicare con noi liberamente non abbia evoluto un’anima?

Penso che dopo l'arrivo dell'AGI problemi simili diventeranno sempre più evidenti. Forse un giorno, nel prossimo futuro, il robot bionico AI di "Westworld" apparirà davanti a noi. Tutti i loro comportamenti sono coerenti con i nostri, e anche il programma preimpostato dice loro che sono umani. Quando incontriamo un robot IA di questo tipo, possiamo ancora darci una pacca sul petto e dire che ciò che vediamo davanti a noi è solo uno strumento creato da noi?

Diamo un'occhiata alla seconda domanda. Rispetto alla questione dell’identità dell’intelligenza artificiale, l’identità umana e il riconoscimento potrebbero essere un problema più difficile.

Da un lato, come accennato in precedenza, con lo sviluppo dei nanorobot e della tecnologia dell’interfaccia cervello-computer, gli esseri umani acquisiranno la capacità di modificare in modo significativo il proprio corpo. In futuro, ci si aspetta che le persone non solo utilizzino i nanorobot per aiutarli a riparare le cellule morte ed estendere la loro durata di vita, ma potranno anche fare affidamento direttamente su di essi per espandere la propria intelligenza e forza fisica. In un primo momento, questo tipo di modificazione del corpo umano può essere limitata a poche cellule, il che non ci causerà problemi di identità - proprio come adesso non pensiamo che dopo che una persona ha protesi o protesi, non è più un essere umano Era lo stesso. Ma se questo processo di modificazione continua, un giorno la maggior parte o addirittura tutte le cellule del corpo verranno sostituite. In questo momento apparirà di nuovo davanti a noi la classica domanda della "Nave di Teseo": l'"io" di oggi è ancora l'"io" del passato?

D'altra parte, con lo sviluppo della tecnologia dell'intelligenza artificiale, le persone acquisiranno gradualmente padronanza della capacità di caricare la coscienza nel cloud: in effetti, alcune persone, incluso Musk, hanno già avviato sforzi simili. Supponendo che un giorno, nel futuro, la tecnologia si sviluppi davvero abbastanza da consentire a questa coscienza di pensare come me, allora questa coscienza può essere considerata coscienza umana? Se la risposta è sì, allora qual è il suo rapporto con la vera natura della coscienza? Inoltre, se collochiamo questa coscienza in un clone della fonte della coscienza, qual è la relazione tra questo clone e la persona originale? Padre e figlio? fratello? O qualcos'altro?

È necessario sottolineare che le questioni relative all’identità e all’identità non sono affatto semplicemente questioni di speculazione filosofica. In realtà, comporta molte questioni legali ed etiche. Ad esempio, come dovrebbe essere gestito il rapporto di gestione del lavoro tra esseri umani e intelligenza artificiale? L’intelligenza artificiale dovrebbe avere gli stessi diritti degli esseri umani? Può un clone del mio corpo e della mia mente possedere la mia proprietà? Se il problema dell’identità non viene risolto, sarà difficile risolvere veramente questi problemi.

Ma finora le persone non hanno ancora trovato una risposta definitiva alle domande di cui sopra. Per promuovere ulteriormente la formazione di un consenso rilevante, dobbiamo ancora condurre discussioni aperte e approfondite su questi temi.