notizia

di recente, la polizia di hangzhou ha rivelato il primo caso nel paese di utilizzo di un grande modello di intelligenza artificiale per cambiare volto e rubare la privacy personale, il che è orribile a pensarci.

i criminali inseriscono nel modello le foto delle vittime, quindi effettuano richieste tramite testo e voce per generare un video dal vivo. questo video dal vivo può imitare un volto umano che annuisce, sbatte le palpebre e si sposta di lato, viola l'autenticazione facciale della piattaforma, costringe a accedere agli account di altre persone e ottiene una grande quantità di dati privati ​​della vittima da vendere a scopo di lucro.

questa è solo la punta dell’iceberg nel caos delle applicazioni della tecnologia ai. negli ultimi anni, la tecnologia dell'intelligenza artificiale si è sviluppata rapidamente, offrendo nuove opportunità e servizi più convenienti. tuttavia, le nuove tecnologie vengono spesso utilizzate da alcuni criminali e diventano "complici" dei crimini.

l'intelligenza artificiale "cambia volto" commette frodi, l'intelligenza artificiale falsifica immagini per diffondere voci e le chiamate di vendita dell'intelligenza artificiale sono inquietanti... tutti i tipi di caos non solo violano i diritti e gli interessi legittimi dei consumatori, minacciano la sicurezza personale e patrimoniale, ma ostacolano anche lo sviluppo sano e ordinato dell’industria dell’intelligenza artificiale.

non c’è dubbio che l’intelligenza artificiale sia una direzione importante per lo sviluppo scientifico e tecnologico e un altopiano tecnologico per la concorrenza tra i paesi. tuttavia, nello sviluppo dell’intelligenza artificiale, non dobbiamo ignorarne i rischi nascosti. allacciate la “cintura di sicurezza” per un’intelligenza artificiale rapida, lasciate che diventi un “aiutante” piuttosto che un “complice” e concentratevi sul rafforzamento della governance e della regolamentazione.

alla national cyber ​​security awareness week 2024, recentemente tenutasi, la questione delle applicazioni di sicurezza dell’intelligenza artificiale è diventata un argomento scottante. durante questo periodo, i dipartimenti competenti hanno rilasciato la versione 1.0 del "quadro di governance della sicurezza dell'intelligenza artificiale", proponendo soluzioni direzionali come i principi di governance della sicurezza dell'intelligenza artificiale. al cyber ​​security expo sono state svelate anche alcune tecnologie nere per affrontare i rischi per la sicurezza dell’ia, come il sistema di contraffazione in tempo reale dell’ia, che identifica e contrasta efficacemente i trucchi di frode come il cambio di volto dell’ia e l’onomatopea dell’ia.

la tecnologia è sempre stata una "arma a doppio taglio". che sia buona o cattiva, benefica o dannosa, la chiave dipende da come la persona che impugna la spada è disposta a usarla. quando si sviluppa vigorosamente l’intelligenza artificiale, dobbiamo aumentare la consapevolezza della sicurezza, rafforzare la promozione e l’applicazione delle tecnologie di sicurezza pertinenti e promuovere la formazione di un consenso sulla governance tra tutte le parti della società in modo che l’intelligenza artificiale possa apportare maggiori benefici all’umanità. (copywriter: ma ruohu)