notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Fonte: Global Times

[Il corrispondente speciale del Global Times negli Stati Uniti Zhuo Ran Il corrispondente speciale del Global Times Wang Yi] "La legge sulla intelligenza artificiale della California (AI) ha innescato divisioni nella Silicon Valley Secondo un rapporto dell'Agence France-Presse del 25, lo stato della California." Il legislatore sta avanzando un disegno di legge volto a regolamentare il disegno di legge sul modello di intelligenza artificiale (il "disegno di legge SB 1047", il nome completo è "Frontier Artificial Intelligence Model Security Innovation Act"). Il disegno di legge è stato presentato all'Assemblea della California nel febbraio di quest'anno e ha suscitato grandi polemiche. Il 19 agosto, la legislatura della California ha annunciato una versione rivista del disegno di legge. Il disegno di legge è stato sostenuto da Jeffrey Hinton e Joshua Bengio, conosciuti come i “padrini dell’intelligenza artificiale”, ma è stato contrastato anche da scienziati come Yang Likun e Li Feifei, nonché da importanti società di intelligenza artificiale.

Il 20 agosto un robot ha passeggiato davanti al laboratorio di intelligenza artificiale di Amazon a San Francisco. (Cina visiva)

Vuoi evitare i rischi promuovendo l'innovazione

Secondo i media statunitensi, il disegno di legge SB 1047 mira a stabilire standard di sicurezza per gli sviluppatori i cui costi di formazione superano i 100 milioni di dollari o raggiungono una certa potenza di calcolo per garantire lo sviluppo sicuro di modelli di intelligenza artificiale su larga scala. Il disegno di legge impone agli sviluppatori di modelli di intelligenza artificiale di grandi dimensioni e all’avanguardia di adottare precauzioni come test pre-implementazione, attacchi di hacking simulati, installazione di misure di sicurezza informatica e protezione degli informatori.

Il senatore democratico americano Scott Wiener, sostenitore del disegno di legge SB 1047, ha dichiarato: “Con il Congresso che si trova in un vicolo cieco sulla regolamentazione dell’intelligenza artificiale, la California deve agire prima che il rapido sviluppo dell’intelligenza artificiale comporti rischi prevedibili. È inoltre necessario intraprendere azioni per promuovere l’innovazione .” Wiener ritiene che la sicurezza e l’innovazione dell’intelligenza artificiale non si escludano a vicenda e la versione rivista del disegno di legge ha risposto alle preoccupazioni di alcuni critici precedenti.

Secondo il rapporto americano "Business Insider" del 25, la versione riveduta annunciata il 19 agosto contiene diverse modifiche. In primo luogo, limita la portata delle sanzioni civili per i reati che non causano danni o comportano un rischio imminente. Anche alcuni termini chiave del disegno di legge sono stati allentati. Ciò “aiuta a chiarire che l’obiettivo del disegno di legge è testare e mitigare i rischi”, ha affermato Calvin, consulente politico senior presso il Center for Artificial Intelligence Safety Action Fund, co-sponsor del disegno di legge. In secondo luogo, il disegno di legge non richiederebbe più la creazione di una Divisione dei Modelli di Frontiera, ma istituirebbe comunque un Consiglio dei Modelli di Frontiera e lo collocherebbe all’interno di un’agenzia operativa governativa esistente. Il disegno di legge aggiornato elimina inoltre la pena dello spergiuro, esonerando le società interessate dalla responsabilità penale e prevede solo la responsabilità civile.

Alcune figure di spicco hanno espresso sostegno

Anthropic, una startup californiana di intelligenza artificiale, ha proposto una serie di modifiche al disegno di legge originale dopo che è stato annunciato, e ha espresso "cauta approvazione" un mese dopo. In una lettera al governatore della California Gavin Newsom, il CEO di Anthropic, Dario Amodei, ha affermato che il disegno di legge attualmente presenta “più vantaggi che difetti”. Ma ha aggiunto: "Non ne siamo sicuri e ci sono ancora aspetti del disegno di legge che ci preoccupano o su cui nutriamo ambiguità".

Tuttavia, il disegno di legge gode ancora del sostegno di molte figure note nel settore dell’intelligenza artificiale. Gli esempi includono il professore dell'Università di Montreal Joshua Bengio e l'informatico Jeffrey Hinton. Hinton ha scritto in un editoriale sulla rivista Fortune: "La potente intelligenza artificiale è una promessa incredibile, ma anche i rischi sono molto reali e dovrebbero essere presi estremamente sul serio. SB 1047 adotta un approccio molto intelligente per bilanciare queste preoccupazioni".

Dan Hendrick, fondatore del Centro statunitense per la sicurezza dell’intelligenza artificiale, ha dichiarato in un’intervista al New York Times che il disegno di legge spingerebbe le grandi aziende tecnologiche a identificare ed eliminare i rischi contenuti nelle loro costose tecnologie.

Avversario: “Fa più male che bene”

Mentre le persone nella comunità tecnologica generalmente concordano sulla necessità di frenare i rischi dei nuovi modelli di intelligenza artificiale, i critici sostengono che la proposta di Wiener soffocherebbe le startup, avvantaggerebbe i rivali statunitensi e indebolirebbe la posizione della California nel campo dell’intelligenza artificiale.

Feifei Li, professoressa di informatica all'Università di Stanford, è uno dei noti studiosi che si oppongono al disegno di legge. Ha affermato che il disegno di legge SB 1047 non risolve il problema che vuole risolvere e danneggerà gravemente il mondo accademico dell'intelligenza artificiale. comunità, comunità open source, ecc., perché gli sviluppatori si assumeranno responsabilità eccessive, che limiteranno la loro innovazione. Inoltre, il disegno di legge richiede che tutti i modelli che superano una certa soglia siano dotati di un "kill switch", un meccanismo in grado di arrestare il programma in qualsiasi momento, rendendo gli sviluppatori più riluttanti a scrivere codice e a collaborare con il settore pubblico e la ricerca accademica. Verrà indebolito per mancanza di collaborazione e per altri motivi. Ha anche affermato che la cosa più preoccupante è che il disegno di legge non affronta i potenziali danni dello sviluppo dell’intelligenza artificiale, inclusi pregiudizi e deepfake.

Anche OpenAI, una società americana di intelligenza artificiale, ha espresso pubblicamente la sua opposizione a questo disegno di legge Jason Quan, direttore strategico della società, ha scritto in una lettera a Weiner che il disegno di legge minaccia "la posizione unica della California come leader globale nel campo dell'intelligenza artificiale". Ha aggiunto che ciò potrebbe “rallentare il ritmo dell’innovazione e indurre ingegneri e imprenditori di livello mondiale a lasciare lo stato per cercare opportunità altrove”. Un'altra società tecnologica, Meta, ha sostenuto che il disegno di legge "impedisce il rilascio di modelli di intelligenza artificiale open source".

I critici, compresi i legislatori democratici statunitensi, ritengono che minacciare misure punitive contro gli sviluppatori in un settore emergente potrebbe soffocare l’innovazione. Anche l'ex presidente della Camera Pelosi ha rilasciato il 16 una dichiarazione contraria al disegno di legge. La dichiarazione afferma: "Molti al Congresso credono che l'SB 1047, sebbene ben intenzionato, sia sbagliato. Ha affermato che i principali democratici hanno condiviso le loro preoccupazioni con Weiner, "Mentre speriamo che la California continui a proteggere i consumatori, i dati e la proprietà intellettuale". e altri aspetti per guidare lo sviluppo dell’intelligenza artificiale, ma il disegno di legge SB 1047 fa più male che bene”.

I legislatori della California, sperando di convincere il governatore Newsom a firmare un disegno di legge sull’intelligenza artificiale meno controverso, hanno apportato modifiche significative all’SB 1047, ma non sono riusciti a convincere il più importante laboratorio di intelligenza artificiale della Silicon Valley che valeva la pena approvare il disegno di legge. L'SB 1047 è attualmente all'Assemblea della California per la votazione finale e potrebbe essere sulla scrivania di Newsom entro la fine del mese. Newsom deve ancora esprimere il suo punto di vista sul disegno di legge, ma la sua decisione è stata ampiamente seguita dalla Silicon Valley e dalla comunità tecnologica statunitense.