notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Secondo le notizie del 2 agosto, la 12a Internet Security Conference (ISC.Intelligenza artificiale 2024), questa conferenza si terrà sotto il tema “Costruire una cassafortemodello di grandi dimensioni, Leading a New Revolution in the Security Industry" come tema, concentrandosi in modo approfondito sui due principali campi della sicurezza e dell'intelligenza artificiale. Sul posto, abbiamo intervistato360Presidente di ZhinaoZhang Xiangzheng, ha condotto scambi approfonditi sulla comprensione da parte di 360 Intelligence dei problemi di sicurezza e della pianificazione dei prodotti.

Zhang Xiangzheng ha introdotto che il team Intelligent Brain è responsabile delle funzionalità generali del modello, nonché delle funzionalità speciali per gli scenari aziendali principali, come la lettura intelligente, i browser, il riepilogo del testo, il riepilogo di video/sottotitoli, la generazione di mappe mentali, la ricerca di parole indovinate, il riconoscimento delle intenzioni e riepilogo, ecc. aspetta. Allo stesso tempo, il team Intelligent Brain è anche responsabile del lavoro di combinazione della sicurezza API e AI con capacità di modelli di grandi dimensioni.

Il tema di questa conferenza è "Costruire un grande modello di sicurezza". Quando si tratta di argomenti di sicurezza, Zhang Xiangzheng ha affermato che i problemi di sicurezza sono divisi in diverse parti. La prima parte è il livello di implementazione del sistema, che è correlato alla sicurezza di rete tradizionale. incluso il framework Agent, inclusi i database vettoriali, incluso il framework PyTorch, che di per sé presenta potenziali rischi di vulnerabilità, la seconda parte è se il contenuto generato soddisfa i requisiti normativi, incluso l'allineamento dei valori, la terza parte è l'errore del risultato di output, presupponendolo; Si verifica il 10%, non so se si verifica questo 10%. A che punto bisogna credere o no al risultato generato in molti casi? Il quarto blocco è relativo al framework Agent. Il modello grande è solo il fulcro della pianificazione e può accedere a molte terze parti o a molti database all'interno di aziende o imprese. Se vengono eseguite operazioni automatizzate, ciò potrebbe influire sulla sicurezza di altri sistemi. Ad esempio, se utilizzato per l'intelligenza incarnata, potrebbero essere eseguite alcune azioni pericolose.

A livello di sicurezza, anche la differenza tra ToB e ToG è evidente. Zhang Xiangzheng ha introdotto che la tolleranza dei problemi di sicurezza è diversa. Ad esempio, i dipartimenti governativi devono fornire soluzioni di distribuzione privatizzate per la formazione dei dati e tutta la messa a punto e la formazione incrementale deve essere all'interno di agenzie governative. Fallo in un ambiente di rete. Nello scenario ToB, uno tipico è quello educativo. C'è una poesia "Moonlight before the Bed". Ci sono due versioni online. Il product manager è molto preso dal panico e si chiede perché l'introduzione dell'intera poesia sia diversa dal testo una famosa poesia. I bambini non hanno una buona capacità di discriminazione, il che porta a requisiti molto elevati sull'affidabilità dei risultati.

Parlando del tema dei modelli piccoli, Zhang Xiangzheng ha sottolineato che abbiamo fatto qualche esplorazione sull'applicazione dei modelli piccoli sul lato computer e testato le relative soluzioni internamente, ma ci sono ancora troppo pochi notebook che soddisfano i requisiti e il volume è non così grande. Inoltre, abbiamo considerato anche l'accettabilità. Riteniamo che l'attuale produzione di modelli piccoli abbia ancora molta strada da fare.

Per quanto riguarda l'argomento recentemente molto discusso della ricerca tramite intelligenza artificiale, Zhang Xiangzheng ha risposto che, rispetto alla ricerca tradizionale, la ricerca tramite intelligenza artificiale è più unica in quanto può utilizzare ragionamenti in più fasi o ricerche di parole chiave multiple per scomporre problemi complessi e risolverli passo dopo passo e automaticamente Dopo aver eseguito il recupero in più passaggi, eseguire la fusione oppure, dopo aver completato il primo passaggio dell'inferenza, eseguire un'altra ricerca sui risultati dell'inferenza, quindi trasferirla al modello di grandi dimensioni, quindi eseguire la fusione. In futuro, se le capacità di ricerca dell'intelligenza artificiale diventeranno sempre più forti, le abitudini degli utenti migreranno, ma non si può dire che si tratti di una forma di prodotto completamente nuova. Ciò è legato alle abitudini di utilizzo degli utenti. (Dingxi)

Questo articolo proviene da NetEase Technology Report Per ulteriori informazioni e contenuti approfonditi, seguici.