notizia

Dialogue 360 ​​​​Zhou Hongyi: Magia contro magia, la sicurezza dei modelli di grandi dimensioni dipende dai modelli di grandi dimensioni

2024-08-06

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Prodotto dalla colonna di dialogo "Attitude AGI" di NetEase Technology

Autore|Zong Shuxian

Redattore|Ding Guangsheng

Sono passati dodici anni dalla prima Internet Security Conference. Durante la Internet Security Conference di quest'anno, l'abbreviazione della conferenza è stata aggiornata da ISC a ISC.AI e la sicurezza Internet è ufficialmente entrata nell'era dell'intelligenza artificiale. "Gli attacchi informatici nell'era dell'intelligenza artificiale hanno un impatto maggiore sulla sicurezza personale e sulla società. L'incidente della schermata blu di Microsoft ricorda al pubblico che la digitalizzazione e l'intelligence hanno reso il mondo di Internet particolarmente vulnerabile."360Fondatore e amministratore delegato del gruppoZhou Hongyiesprimere.

Ha sottolineato che devi usare la magia per combattere la magia, usamodello di grandi dimensioni Per risolvere il problema della sicurezza dei modelli di grandi dimensioni, questo è il punto di partenza di "AI + sicurezza". Allo stato attuale, 360 sta sviluppando attivamente due linee di business principali: modello di sicurezza di grandi dimensioni e "modello di ricerca + grande" per fornire servizi gratuiti alle piccole e medie imprese e ai singoli utenti e costruire modelli di sicurezza di grandi dimensioni gratuiti. Zhou Hongyi ha dichiarato in un'intervista che 360 ​​non intende essere direttamente coinvolta nella feroce concorrenza dei modelli super grandi, ma sceglie di concentrarsi sullo sviluppo e sull'applicazione di modelli grandi e sicuri. 360 collaborerà con 15 delle principali aziende nazionali di modelli di grandi dimensioni per aprire i propri scenari e promuovere la divulgazione e l'applicazione di modelli di grandi dimensioni.

In altre parole, il posizionamento di 360 è quello di fare bene tre cose: in primo luogo, come produttore di sicurezza, deve costruire un modello di sicurezza di grandi dimensioni, da un lato, utilizzare un modello di sicurezza di grandi dimensioni per risolvere i problemi di sicurezza deve risolvere i problemi incontrati nel processo di sviluppo del modello di grandi dimensioni varie sfide alla sicurezza. In secondo luogo, 360 stesso ha scenari utente 2C, come browser 360, ricerca 360, orologi e fotocamere per bambini 360 e sono necessari modelli di grandi dimensioni per potenziare i prodotti. In terzo luogo, promuovere la divulgazione di modelli di grandi dimensioni, consentendo alle imprese e ai governi di formare e utilizzare i propri modelli professionali di grandi dimensioni in modo molto economico.

Zhou Hongyi ha detto francamente che le opinioni nel settore sono convergenti Invece di arrotolare i modelli, è necessario arrotolare le applicazioni. Quando i modelli di grandi dimensioni diventeranno "invisibili", la tecnologia sarà matura e dovrà lavorare "dietro le quinte". .

Per quanto riguarda le tanto discusse opportunità di ricerca dell'IA, 360, in quanto attore importante nel mercato della ricerca, anche Zhou Hongyi ha espresso il proprio giudizio. Ha sottolineato che se la Ricerca o la Chat sono più facili da usare al momento, potrebbero essere divise equamente o in futuro l'una potrebbe essere sostituita dall'altra. La ricerca AI è un'importante entrata in scena che nessuno può perdere. "Il SearchGPT di OpenAI dimostra che anche OpenAI è scosso."

"Ma ci sono ancora molti problemi che devono essere risolti. Ad esempio, è facile produrre "allucinazioni", alcune persone "avvelenano i dati", come la sfida della commercializzazione. La pubblicità non può essere inserita in essi, ed è irrealistico che gli utenti paghino. Questo è ciò che tutti devono affrontare.

Quella che segue è una trascrizione selezionata della conversazione tra NetEase Technology e altri con Zhou Hongyi (con modifiche apportate senza modificare il significato originale):

D: Alcune persone credono che il futuro sarà dominato da pochi modelli super grandi, mentre altri credono che coesisteranno molti piccoli modelli verticali. Cosa pensi della struttura del settore e come si posizionerà 360?

Zhou Hongyi:Penso che esisteranno entrambi i percorsi. Una grande azienda con risorse e capacità finanziarie come OpenAI vuole sicuramente sviluppare un’intelligenza artificiale super generale. Tuttavia, con la nascita dei grandi modelli open source rappresentati da Lama3 e Qianwen2, i modelli di grandi dimensioni non saranno monopolizzati solo da 30 aziende. Pertanto, nel In futuro, grandi modelli saranno utilizzati dalle imprese e dai governi. Ci saranno molti grandi modelli industriali verticali o grandi modelli verticali all'interno del governo.Allo stesso tempo, c’è una tendenza verso i modelli di grandi dimensioni, le cosiddette migliaia di famiglie, oltre al cellulare di tutti, al computer di tutti, all’auto di tutti e ai dispositivi elettronici in ogni casa.robotCi saranno sempre modelli di grandi dimensioni, quindi i modelli di grandi dimensioni saranno ovunque e lavoreranno insieme in futuro.

360 si posiziona per fare bene tre cose: in primo luogo, come produttore di sicurezza, deve costruire un grande modello di sicurezza, da un lato, utilizzare il grande modello di sicurezza per risolvere problemi di sicurezza e, dall'altro, deve risolverne vari problemi incontrati in futuro durante lo sviluppo del modello di grandi dimensioni di problema di sicurezza. In secondo luogo, 360 stesso ha molti scenari utente 2C, come browser 360, ricerca 360, orologi e fotocamere per bambini 360. Utilizzeremo modelli di grandi dimensioni professionali per potenziare i prodotti. In terzo luogo, promuovere la divulgazione di modelli di grandi dimensioni, consentendo alle imprese e ai governi di formare e utilizzare i propri modelli professionali di grandi dimensioni in modo molto economico.

In una parola, i modelli su larga scala non possono essere realizzati da poche persone, ma devono entrare in migliaia di famiglie e industrie. Solo quando il modello viene rimpicciolito può essere incorporato in prodotti personali.

D: Dal tuo punto di vista, quali settori esistenti lo sviluppo del grande settore dei modelli porterà un impatto o un cambiamento dirompente?

Zhou Hongyi:Penso che i grandi modelli apporteranno enormi cambiamenti a tutti i settori, ma non si tratta necessariamente di interruzioni. Penso che sarebbe meglio utilizzare il concetto di "rimodellamento", cosa ancora più importante, migliorano direttamente l'efficienza e riducono i costi. Ad esempio, dividiamo le capacità del modello di grandi dimensioni in diversi livelli. Le capacità di base si riflettono maggiormente nell'uso personale, come ufficio, istruzione, apprendimento, elaborazione del linguaggio, generazione di grafica e generazione di brevi video. In secondo luogo, all’interno dell’impresa esistono molte funzionalità aziendali, ad esempio aiutare le imprese a realizzare la gestione della conoscenza, l’analisi dell’intelligence e il processo decisionale aziendale. In terzo luogo, i modelli di grandi dimensioni saranno anche combinati con la guida autonoma, i robot, la tradizionale ricerca scientifica di base, i prodotti farmaceutici biomedici e l’industria agricola, che produrranno nuovi effetti esplosivi.

Domanda: come possiamo diventare un campione a tutto tondo come ChatGPT e come possiamo affrontare i nostri difetti?

Zhou Hongyi: Francamente, se prendiamo la strada di OpenAI e lanciamo la super intelligenza artificiale, non penso che tutte le aziende la implementeranno, la Cina non sarà in grado di lanciare 100 aziende, e la potenza di calcolo non lo sarà Abbastanza. Riteniamo che la Cina, guidata da Alibaba, proseguirà attraverso la comunità open source sulla base di Qianwen e Baichuan. Questo follow-up sarà molto rapido.

Ma questa non è la stessa cosa del grande modello professionale di cui sto parlando. Il grande modello professionale di cui sto parlando è promuovere modelli di grandi dimensioni nelle imprese e nei governi per promuovere la rivoluzione industriale, non per gli individui. Ciò richiede solo che io faccia del mio meglio nelle mie capacità professionali e le combini con la scena. Pertanto, il campo dei modelli di grandi dimensioni professionali si svilupperà in modo molto ricco in futuro, ci saranno sicuramente più di 10.000 modelli di grandi dimensioni professionali che giocheranno un ruolo nella Guerra dei Diecimila Modelli.

Recentemente, le opinioni nel settore sono convergenti. Non arrotolare il modello, arrotolare l’applicazione e Carrot Run è l’applicazione. Infatti, in futuro, quando questa tecnologia di grande modello diventerà “invisibile”, questa tecnologia diventerà matura. I modelli di grandi dimensioni sono più simili a motori elettrici, decidono la direzione di sviluppo in base ai diversi campi e lavorano dietro le quinte.

Domanda: "La creazione di un ecosistema di sicurezza + intelligenza artificiale e innovazione di sicurezza + intelligenza artificiale può accelerare l'aggiornamento".

Zhou Hongyi: La sicurezza AI+ riguarda principalmente la creazione di un modello di sicurezza di grandi dimensioni per risolvere due problemi: il primo è utilizzare le capacità di modelli di grandi dimensioni e le capacità di intelligenza artificiale per migliorare i punti critici e le rigide esigenze della tradizionale sicurezza di rete di oggi. Per dirla senza mezzi termini, il più grande punto dolente della sicurezza di rete tradizionale oggi è la mancanza di talenti professionali nella sicurezza di rete che non riescono a tenere il passo con i requisiti dei tempi in termini di rilevamento di attacchi, resistenza agli attacchi, gestione delle situazioni e operazioni automatizzate formiamo grandi modelli di sicurezza e utilizziamo l'automazione dell'intelligenza artificiale per risolvere il problema del rilevamento degli attacchi. La risoluzione dei problemi di attacco e di elaborazione operativa può colmare il divario di talenti. In secondo luogo, molti paesi sono ora consapevoli della questione della governance della sicurezza dell’IA. Lo sviluppo dell’intelligenza artificiale porterà con sé molte nuove minacce e sfide alla sicurezza oltre alla sicurezza della rete e alla sicurezza dei dati. Il contenuto potrebbe essere ancora sicuro adesso, ma i problemi di sicurezza umana che sorgeranno in futuro sono attualmente sconosciuti. D’ora in poi qualcuno dovrà risolvere il problema della sicurezza dell’IA.Pertanto, dobbiamo usare la magia per affrontare il pensiero magico e utilizzare modelli di grandi dimensioni per risolvere i problemi di sicurezza di modelli di grandi dimensioni. Questo è un punto di partenza per la nostra sicurezza AI+.

Domanda: alcune persone affermano che la ricerca basata sull'intelligenza artificiale sostituirà prima la ricerca tradizionale. In che modo la ricerca basata sull'intelligenza artificiale di 360 può essere autentica, affidabile e facile da usare?

Zhou Hongyi: La ricerca tramite intelligenza artificiale può rappresentare un vero punto di svolta. Anche OpenAI ha iniziato a fare ricerca tramite intelligenza artificiale. Avevo anche dei dubbi sull'utilizzo della chat per risolvere i problemi oggi. Ad esempio, quando noi due chiacchieravamo, a volte era molto efficiente, a volte era molto difficile da capire, soprattutto quando dovevamo scrivere parole complesse e immediate, il che era difficile. per me, quindi, la ricerca deve essere combinata con l’intelligenza artificiale. Tutti possono utilizzare la ricerca. Non è necessario inserire una richiesta lunga, solo poche parole chiave. La ricerca AI utilizza modelli di grandi dimensioni per indovinare le intenzioni di ricerca durante la ricerca, scompone le informazioni in ricerche in più passaggi, recupera risultati da più ricerche e quindi utilizza i risultati per aggregarli.

I modelli di grandi dimensioni + ricerca sono soggetti ad allucinazioni, ma ora quando creiamo una ricerca + modello di grandi dimensioni, i dati sono principalmente ricerche, il che equivale a un miglioramento della ricerca e un allineamento della conoscenza. Naturalmente, ci saranno problemi qui, come qualcuno che avvelena i dati. In questo momento, è necessario aggiungere il riconoscimento dei contenuti per identificare alcuni contenuti ridicoli. Ci sono anche modelli di grandi dimensioni qui. Quando i modelli di grandi dimensioni vengono combinati per fare queste cose, i problemi che hai menzionato possono essere risolti.

Inoltre, molte ricerche basate sull’intelligenza artificiale ora sono relativamente semplici, basta riscrivere i risultati della ricerca. Ciò che stiamo facendo ora è che ogni intento di ricerca possa avere un agente che lo completa per te, che chiama più modelli di grandi dimensioni per completare attività complesse.

Al giorno d'oggi, la ricerca basata sull'intelligenza artificiale sta diventando sempre più complessa. La sfida più grande è risolvere il problema della commercializzazione. Senza pubblicità, è impossibile per gli utenti pagarla, perché la ricerca è originariamente gratuita. Questo è il motivo per cui Baidu e Google sono titubanti e perché GPT sta attaccando Google.

Pertanto, non esiste un grande modello dietro la ricerca 360AI, perché un grande modello semplicemente non può farlo.Per usare una metafora inappropriata, questo sta diventando sempre più simile a quello che chiamiamo framework ad agenti oFlusso di lavoro Software. Pertanto, esiste un processo che consente al settore di comprendere i modelli di grandi dimensioni e il settore della sicurezza è più ritardatario. Al giorno d'oggi, i principali giganti dei modelli di grandi dimensioni in Cina parlano di qualcosa di più dei semplici modelli di grandi dimensioni. La conoscenza determina la capacità dei modelli di grandi dimensioni e la capacità di utilizzare bene i modelli di grandi dimensioni non dipende dalla struttura dell'agente dopo che la struttura dell'agente ha generato le capacità del modello di grandi dimensioni , , se può portare un aiuto diretto all'azienda dipende dalla sua integrazione nel flusso di lavoro.

D: Quale pensi sia il trend di sviluppo della ricerca AI? Ora c'è una voce che dice che ricerca AI+Agente+Flusso di lavoro è una tendenza. Cosa ne pensi?

Zhou Hongyi: Al giorno d'oggi, se vogliamo fare buon uso dell'intelligenza artificiale, non possiamo fare affidamento esclusivamente su un modello di grandi dimensioni, perché non importa quanto potente sia il modello di grandi dimensioni, non può completare l'attività completa senza agenti, intelligenza o flusso di lavoro. I modelli di grandi dimensioni possono migliorare strumenti, conoscenza, ragionamento e memoria. La cosa più importante è che il framework dell'agente venga utilizzato per risolvere problemi a cui i modelli di grandi dimensioni possono pensare solo rapidamente. Le persone hanno due sistemi, uno per il pensiero veloce e l’altro per il pensiero lento. In realtà non è realistico spingere in primo piano i grandi modelli che pensano velocemente e cercare di risolvere tutti i problemi. La cosa più importante della struttura dell'Agente è risolvere il problema della lentezza del pensiero. Non importa cosa sta facendo l’IA, che si tratti di ricerca AI o di ricerca + AI, queste funzioni sono indispensabili.

Il motivo per cui ritengo che in termini di esperienza utente attuale, ricerca + intelligenza artificiale sia migliore del modello di grandi dimensioni + miglioramento della ricerca.In primo luogo, gli utenti hanno già sviluppato l'abitudine alla ricerca e non hanno bisogno di istruzione. Tuttavia, potrebbe essere molto difficile utilizzare parole rapide di grandi dimensioni per comunicare. In secondo luogo, l'aspettativa di ricerca è diversa da quella dei robot di chat di grandi dimensioni la ricerca è trovare risposte. In terzo luogo, la difficoltà non è la stessa. Allo stesso modo, se non definisci la scena e utilizzi un modello di grandi dimensioni per testare alcune delle tue capacità, puoi migliorare molto bene l'esperienza di ricerca.

Il nostro traffico di ricerca AI si è sviluppato rapidamente e ora l’attività di ricerca mensile di 360AI ha superato i 10 milioni. Penso che i modelli di grandi dimensioni siano molto potenti, ma devono essere combinati con vari scenari per potenziare ogni scenario. Questo tipo di esperienza utente è la migliore. Recentemente ho notato un fenomeno. La startup americana Perplexity sta crescendo molto velocemente. SearchGPT di OpenAI dimostra che anche OpenAI ha vacillato.Quale sia la soluzione migliore, Ricerca o Chat, potrebbe essere equamente divisa e in futuro l'una potrebbe essere sostituita dall'altra, maAlmeno dimostra che la ricerca dell'intelligenza artificiale è un'importante entrata in scena che nessuno può perdere.

D: Cosa pensi della gratuità dei modelli di grandi dimensioni?

Zhou Hongyi: I modelli di grandi dimensioni per uso generale non sono gratuiti. Il costo dei modelli di grandi dimensioni per uso generale è troppo alto e vengono forniti sotto forma di cloud pubblico. Con un costo così elevato, il token è già molto economico, ma non importa quanto è economico, sicuramente non sarà gratuito. La suite per ufficio che lanciamo è supportata da funzionalità generali di ragionamento di modelli di grandi dimensioni e ha anche un costo. Ha un periodo di utilizzo gratuito, ma non è gratuito.

Ci sono due condizioni per il modello di sicurezza di grandi dimensioni gratuito che ho menzionato: in primo luogo, non fornisce Big Data generali, ma 6 modelli di grandi dimensioni professionali. Viene acquistato dai miei 360 prodotti di sicurezza aziendale, come il mio cervello di sicurezza e la sicurezza del mio terminale. Coloro che hanno acquistato il mio servizio di server di sicurezza riceveranno un aggiornamento gratuito per gli utenti che hanno acquistato i miei prodotti. In secondo luogo, questi modelli dedicati di grandi dimensioni non vengono distribuiti pubblicamente sul cloud, ma vengono distribuiti privatamente all’interno dell’azienda utente, quindi questo costo senza potenza di calcolo può ovviamente essere gratuito. I due prodotti sono diversi, uno è un prodotto toB e l'altro è un prodotto toC.

Domanda: Vorrei chiedere informazioni sul rapporto input-output. Non so se il metodo specifico di cooperazione con questi grandi modelli sarà la sostituzione delle risorse o i prezzi specifici. L'aumento della crescita degli utenti o l'aumento dei download dai terminali corrispondenti portare a un ROI per questa materia in futuro. Quali sono state le considerazioni che hanno portato alla scelta di questo modello di cooperazione?

Zhou Hongyi: Prima di tutto, ogni token ha una quotazione e la tariffa per mille parole di token è già molto bassa. Paghiamo quanto utilizziamo il token. Vengono per supportarmi nell'utilizzo delle loro capacità, il che equivale al fatto che la mia piattaforma modello base è molto potente. Faccio del mio meglio per portare loro più traffico, attirare più utenti e trovare modi per creare più prodotti in modo che gli utenti puoi usarli di più ogni giorno.

La situazione attuale dei grandi modelli nazionali è che ciascuna azienda presenta sia vantaggi che svantaggi e non esiste un vantaggio schiacciante. Se usi Baidu, Alibaba e Doubao, puoi unire le tue capacità per formare la squadra più forte. La Cina ha bisogno di dozzine di produttori per sviluppare un’AGI universale? Se penso che non sia possibile farlo, non lo sosterrò.

Quindi il mio pensiero attuale è che tutti stiano addestrando il modello senza espandere l'applicazione, non importa quanto sia potente il modello, non sarà in grado di esercitare le sue capacità. Quindi non si parla sempre di incoraggiare gli sviluppatori di applicazioni a utilizzare le API per lo shelling. Esistono bombardamenti profondi e bombardamenti superficiali. L'abbonamento all'ufficio che facciamo, inclusi vari scenari del browser, è un bombardamento profondo dell'API che non può essere chiamato bombardamento. Sembra che creino API solo nella speranza che ci siano persone. Mettilo dentro.

A proposito di "Atteggiamento AGI"

NetEase Technology lancia una serie di colonne di dialogo "Attitude AGI". Negli ultimi tre anni, i cambiamenti legati all’intelligenza artificiale sono aumentati, l’ordine tecnologico globale è in fase di ristrutturazione e la strada verso l’AGI potrebbe avvicinarsi silenziosamente. Con il tema AGI, questa rubrica parlerà con 100 esperti, imprenditori e investitori di intelligenza artificiale, cercando di chiarire le cose e testimoniare con tutti l'arrivo dell'era AGI. Zhou Hongyi, fondatore del decimo Dialogue 360.

Revisione dei numeri passati:

Il primo numero di "Attitude AGI":Conversazione con Kai-Fu Lee: L'imprenditorialità dei grandi modelli va avanti da un anno, il divario tra Cina e Stati Uniti si è ridotto e non incasserò tra dieci anni

Il secondo numero di "Attitude AGI":Conversazione con Wang Xiaochuan: Non daremo seguito alla guerra dei prezzi per i modelli di grandi dimensioni

Il terzo numero di "Attitude AGI":Dialogo con Dai Wenyuan: La guerra dei prezzi per i modelli di grandi dimensioni non risolve il problema principale

Il quarto numero di "Attitude AGI":Wang Zhongyuan, presidente dello Zhiyuan Research Institute: GPT4 non è la fine dei grandi modelli domestici

Il quinto numero di "Attitude AGI":Conversazione con Zhu Xiaohu: Tra 5 anni non ci saranno grandi aziende indipendenti perché non esisterà un modello di business

Il sesto numero di "Attitude AGI":Conversazione con Wu Shichun di Meihua Venture Capital: È molto difficile che le “Cinque Tigri del Grande Modello Cinese” scappino

Il settimo numero di "Attitude AGI":Dialogo con Li Yong, CEO di Yueran Innovation: come ampliare le applicazioni modello e competere con i giganti

L'ottavo numero di "Attitude AGI":Dialogo con Zhang Peng, CEO di Zhipu AI: la generazione di video è l'unica via per AGI e le super app arriveranno "inconsapevolmente"

Il nono numero di "Attitude AGI":Dialogo con il vicepresidente e istituto di ricerca iFlytek Dean Liu Cong: i grandi modelli cinesi sono passati dal mettersi al passo con i benchmark all'originalità indipendente