notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Liu Cheng/Testo Recentemente, settori come il ride-hailing online senza conducente, i veicoli per le consegne senza conducente, le navi da crociera senza conducente e i droni hanno accelerato a Pechino, Wuhan e in altri luoghi, ottenendo vantaggi di first mover in tutto il paese e persino nel mondo. Tuttavia, le questioni di governance sociale che solleva, in particolare la questione dell’attribuzione delle responsabilità, sono ancora irrisolte.

Lo sviluppo innovativo delle industrie non può essere limitato dalla mancanza di regole sociali, ma le tecnologie correlate non possono operare in uno stato di “anarchia”. Pertanto, tutti i settori della società devono rafforzare il pensiero teorico e le discussioni pratiche per raggiungere questo obiettivo alcuni standard sulle regole istituzionali.

La guida senza conducente non significa che nessuno sia responsabile

La maggior parte dei soggetti vincolanti delle leggi e dei regolamenti attuali sono le persone (persone fisiche o giuridiche), soprattutto quando si tratta di meccanismi di responsabilità importanti come la responsabilità penale, che spesso devono essere indirizzati a singole persone fisiche.

In altre parole, la supervisione dei profitti legati alla sicurezza come incidenti gravi e crimini intenzionali (sebbene il tasso di incidenza non sia elevato rispetto agli incidenti di sicurezza generali) è una condizione necessaria per il mantenimento del traffico e dell’ordine sociale, e si basa fortemente sul diritto penale. Tra questi, la maggior parte dei reati stradali colpisce i conducenti di veicoli a motore.

Pertanto, determinare la parte responsabile è la questione principale nella regolamentazione della guida autonoma (e di altri prodotti simili dotati di intelligenza artificiale). A differenza della normale guida automobilistica, la guida autonoma non ha un conducente diretto, con la conseguente mancanza di soggetti responsabili diretti. Ciò sembra essere diventato in realtà un “mistero senza testa” o un paradosso teorico.

Guardando all'essenza del fenomeno, possiamo ancora trovare diversi soggetti responsabili che possono diventare guida autonoma, tra cui: utenti della guida autonoma; operatori remoti, tecnici o responsabili della sicurezza dietro proprietari e operatori o beneficiari di veicoli a guida autonoma; Naturalmente si tratta principalmente di speculazioni teoriche, supportate anche da un piccolo numero di casi stranieri. Tuttavia, per quanto riguarda chi sia responsabile della supervisione, la questione richiede ancora ricerche e dimostrazioni approfondite da parte di accademici, dipartimenti governativi e legislativi.

Non c’è dubbio che i veicoli autonomi (o altri mezzi di trasporto come navi e aerei) non hanno un conducente, ma hanno un chiaro utilizzatore. Similmente al concetto di "utente responsabile dell'uso" proposto dalla UK Law Commission, nello stato americano della Georgia questo significa "la persona che fa muovere il veicolo".

Se un utente sceglie di utilizzare o attivare un veicolo senza pilota pur sapendo che è senza pilota, per impostazione predefinita la sua volontà di sopportarne le potenziali conseguenze. Naturalmente, alcune persone potrebbero pensare che gli utenti siano solo gli oggetti del servizio, i consumatori. La teoria generale è che finché non vi è un uso improprio, i consumatori non dovrebbero essere responsabili delle conseguenze negative del processo di consumo. Pertanto, nei paesi di tutto il mondo vi è una notevole controversia sul fatto che gli utenti abbiano la responsabilità principale della guida autonoma.

Un compromesso è che l’utente del veicolo autonomo debba comunque assumere il ruolo di conducente. A causa della posizione chiave del conducente, alcuni stati degli Stati Uniti che consentono ai veicoli autonomi di circolare su strada richiedono che un conducente umano sia al posto di guida e rimanga vigile, ma in realtà mantieni un conducente di riserva. La conseguenza è che i veicoli senza conducente richiedono che il conducente si assuma la responsabilità e l’utente diventa conducente. La guida senza conducente è solo di nome, limitando lo sviluppo del settore.

La seconda categoria di possibili responsabili sono gli operatori remoti. Operatori remoti, tecnici e addetti alla sicurezza possono essere descritti come i “conducenti” della tecnologia di guida autonoma. In circostanze normali, le persone non avvertono la loro presenza, ma in caso di emergenza appariranno tempestivamente e forniranno assistenza per la sicurezza.

Lo stato della California negli Stati Uniti consente richieste di permessi per test di guida autonoma, ma richiede che un operatore remoto con una patente di guida corrispondente "supervisioni continuamente l'esecuzione dell'attività di guida dinamica del veicolo" quando non è presente alcun conducente di riserva umano. Lo stato americano dell'Arizona stabilisce che le sanzioni derivanti da violazioni del codice stradale o dei veicoli saranno attribuite a persone che "testano o utilizzano veicoli completamente autonomi".

In altre parole, questo approccio estende il concetto di conducente ad un operatore remoto considerato responsabile del veicolo, anche se non è seduto a bordo del veicolo.

Il terzo tipo di soggetto responsabile esce dal quadro logico del conducente e cerca proprietari, operatori o beneficiari del veicolo che si assumano la responsabilità dal punto di vista degli interessi.

I primi due tipi di soggetti utenti e operatori remoti rispettivamente fanno muovere il veicolo e controllano a distanza il veicolo. L'idea normativa è quella di dare loro l'identità ombra del conducente, e quindi ritenerli responsabili come conducenti secondo l'attuale quadro giuridico. Se il conducente di un veicolo a guida autonoma viene trovato, le normative esistenti continueranno ad applicarsi e tutte le sfide normative per la guida autonoma saranno risolte.

Tuttavia, come accennato in precedenza, i primi due tipi di soggetti non sono dopotutto veri e propri motori, e tale identificazione arbitraria delle identità crea grandi controversie sociali. Emerge quindi la terza tipologia di soggetto responsabile.

Se gli utenti e gli operatori remoti non possono essere un capro espiatorio, chi altro può essere ritenuto responsabile di potenziali incidenti? L’appello più forte nella società è che i proprietari dei veicoli si assumano la responsabilità.

Al momento, i proprietari, gli operatori e i beneficiari dei veicoli sono tutti la stessa entità: società di piattaforme. Lanciano questa nuova attività, forniscono servizi e guadagnano profitti, e dovrebbero esserne responsabili, proprio come i ristoranti sono responsabili del loro cibo.

Ma la vera difficoltà è che la piattaforma è un’azienda, non una persona fisica, ed è difficile assumersi una responsabilità penale. Alcuni hanno proposto che le persone giuridiche aziendali siano responsabili, ma ciò va oltre il normale ambito di responsabilità della qualità del prodotto o della qualità del servizio. In generale, quando i consumatori utilizzano prodotti o servizi, il fornitore del prodotto o del servizio è responsabile della qualità del prodotto, ma la portata è chiara e la responsabilità non può essere eccessiva.

La difficoltà maggiore è che quando i proprietari dei veicoli, gli operatori e i beneficiari sono separati, non c’è quasi alcuna soluzione all’attribuzione e alla condivisione delle responsabilità. Ad esempio, se in futuro gli individui potranno noleggiare veicoli senza conducente e farli gestire da terzi, ci saranno più entità tra cui proprietari di veicoli, locatori, operatori e beneficiari.

Va notato che l'analisi di cui sopra si concentra solo sulla potenziale responsabilità per incidenti che possono verificarsi durante il normale utilizzo di veicoli senza conducente. Per atti illegali intenzionali durante l'uso, le persone responsabili specifiche devono essere identificate caso per caso. Ad esempio, se l'uso improprio da parte di un utente porta a una collisione dolosa, l'utente dovrebbe essere il principale responsabile.

Le macchine intelligenti hanno personalità e come possono essere ritenute responsabili?

Veicoli senza conducente, navi, aerei e altre macchine artificialmente intelligenti non hanno né anima né mente; non sono esseri umani.

Ma se queste macchine hanno caratteristiche di personalità, avranno personalità giuridica indipendente e potranno essere responsabili delle “proprie” azioni. Sembra fantascienza, ma esiste già nella teoria e nella realtà.

Le macchine, compresi i veicoli senza conducente, hanno personalità? Ci sono due visioni opposte su questo.

Un punto di vista è che le macchine non hanno personalità e non hanno bisogno di essere responsabili delle loro azioni, quindi è necessario perseguire la responsabilità principale delle persone dietro le macchine.

Alcuni studiosi ritengono che, sebbene l'"autonomia" delle macchine intelligenti sia solitamente utilizzata per descrivere la loro capacità di prendere decisioni in modo indipendente, esse non hanno desideri o valori. Quando si descrive un sistema di intelligenza artificiale come autonomo, di solito non si intende che prenda decisioni “da solo”. Intesa da questa prospettiva, la questione dell’autonomia non è una qualità misteriosa inerente ai sistemi di intelligenza artificiale.

Anche se la macchina ha capacità decisionali autonome, è solo un'azione "cosciente" sotto il comando di un programma umano. Essenzialmente esegue un processo decisionale umano. Pertanto, gli esseri umani dovrebbero essere responsabili del comportamento autonomo delle macchine.

Naturalmente, il processo attraverso il quale gli esseri umani danno alle macchine il potere di prendere decisioni automatiche deve essere trasparente, e gli esseri umani non possono essere ritenuti responsabili delle azioni sbagliate delle macchine a loro insaputa. In altre parole, la persona che controlla la macchina è responsabile della macchina, e le persone comuni hanno il diritto di sapere come la macchina prende le decisioni, tutelando così il loro diritto alla conoscenza. Allo stesso modo, le grandi aziende come le piattaforme sono responsabili delle macchine intelligenti e devono informare gli utenti sugli algoritmi delle macchine intelligenti e sui principi del processo decisionale automatico.

Secondo il Regolamento generale sulla protezione dei dati (GDPR) dell'Unione Europea, gli utenti hanno il diritto di richiedere una spiegazione sull'eventuale esistenza di un meccanismo decisionale automatizzato, nonché una spiegazione ragionevole dei "principi logici coinvolti nel processo decisionale automatizzato, la sua importanza per l'utente e le conseguenze previste" e altre informazioni. Corrispondente allo scenario di guida senza conducente, la piattaforma dovrebbe essere responsabile del veicolo e informare gli utenti delle informazioni di base sul funzionamento del veicolo, come la velocità del veicolo, l'evitamento dei pedoni e altre informazioni.

Un altro punto di vista è che le macchine, compresi i veicoli senza conducente, e i loro sistemi di intelligenza artificiale abbiano una “coscienza robotica autonoma” e alla fine avranno piena personalità giuridica.

Alcuni studiosi ritengono che le macchine abbiano una coscienza autonoma e possano essere responsabili delle proprie azioni. La funzione delle leggi sulla circolazione stradale e lo scopo di punire gli atti illegali è quello di migliorare la sicurezza stradale e mantenere l'ordine stradale. Le multe, la reclusione e la riabilitazione personale dei conducenti hanno lo scopo di costringere il comportamento umano a conformarsi agli standard di sicurezza.

Per analogia, gli esseri umani possono imporre direttamente vincoli di regole sui veicoli senza pilota e sui loro sistemi intelligenti e considerare le forze dell’ordine come un collegamento di feedback per i sistemi di addestramento per modificare ulteriormente i loro algoritmi e i loro progetti architettonici.

Nei casi più gravi, revocare l’autorizzazione a circolare su strada di alcuni veicoli autonomi, provocandone la cancellazione o l’estinzione, equivale a sanzionare una persona con una condanna a morte. In breve, se la macchina ha una personalità, può essere punita attraverso la trasformazione o la distruzione.

Una visione utopica è che i veicoli senza conducente possano essere così superiori ai conducenti umani nella tecnologia di guida che non è necessario considerare alcuna responsabilità penale, ma è solo necessario mantenere l’etica tecnologica e l’ordine della concorrenza di mercato. Ciò trasforma la questione della supervisione sociale delle persone in una questione di supervisione economica del mercato.

Le regole sociali necessitano urgentemente di cambiamenti profondi

I sistemi di intelligenza artificiale rappresentati dalla guida autonoma sono complessi ed efficienti: possono promuovere l’evoluzione complessiva della civiltà, influenzare i meccanismi sociali, apportare cambiamenti nella divisione sociale del lavoro, nei mercati del lavoro e nei modelli di opportunità, influenzare le pratiche culturali e le interazioni sociali e cambiare l’essere umano. produzione, vita e modalità di sopravvivenza, che possono rimodellare le norme sociali.

Le tecnologie materiali in rapida evoluzione richiedono sempre sistemi, concetti e altri adattamenti culturali corrispondenti per guidare lo sviluppo e l’innovazione dell’intera società. Ma al giorno d’oggi gli esseri umani sono intrinsecamente inclini a una cultura in ritardo e ovviamente non sono in grado di adattarsi alle nuove tecnologie. Soprattutto quando i sistemi di governance e i concetti etici non possono adattarsi rapidamente, si creerà il dilemma del ritardo culturale che ostacola il cambiamento tecnologico? Questi problemi necessitano urgentemente di ricerca teorica e discussione pratica nel mondo accademico e industriale.

Secondo l'autore, la guida senza conducente non significa che nessuno sia responsabile. Ci sono grosso modo due idee alla base: una è concretizzare il soggetto responsabile e trovare qualcuno che non sia il conducente ma che possa assumersene la responsabilità; personificare il robot e renderlo un conducente.

(L'autore è un ricercatore associato presso l'Istituto di strategia finanziaria, Accademia cinese delle scienze sociali)

Dichiarazione sul copyright: il contenuto di cui sopra è l'opera originale di "Economic Observer" e il copyright appartiene a "Economic Observer". La ristampa o il mirroring è severamente vietato senza l'autorizzazione dell'Osservatore Economico, altrimenti gli attori interessati saranno ritenuti legalmente responsabili. Per la cooperazione in materia di copyright, chiamare: [010-60910566-1260].