notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

"Come tecnologia, i modelli di grandi dimensioni devono essere realmente utilizzati dall'industria e risolvere i problemi pratici del settore prima che possano esercitare il loro vero valore." Guo Wei, vicepresidente del gruppo marketing di Intel Corporation e direttore generale della rete Intel China Edge e Channel Data Center Division, hanno parlato con È stato sottolineato più volte nella comunicazione con TMTpost Media APP.

Sono passati quasi 2 anni da quando è uscito ChatGPT. In meno di 2 anni, i grandi modelli di intelligenza artificiale stanno penetrando in tutti gli ambiti della vita a una velocità senza precedenti. Soprattutto da quest’anno, sia i grandi produttori di modelli che le aziende del Partito A hanno spostato la loro attenzione dalla dimensione dei parametri del modello al modo in cui i modelli di grandi dimensioni risolvono i punti critici del settore, cercando di trovare uno o più modelli di grandi dimensioni in grado di risolvere i propri scenari di implementazione del settore .

Dal generale all'industria, gli scenari sono la chiave per l'implementazione di modelli di grandi dimensioni

Se la concorrenza dei modelli di grandi dimensioni dei principali produttori è divisa in due metà, nella prima metà i principali produttori lanciano uno dopo l'altro modelli generali di grandi dimensioni e nella seconda metà, quando l'IA è grande, dimostrano la loro forza migliorando continuamente i parametri; i modelli sono accettati da più settori Quando le imprese secondarie prestano attenzione, emergono sempre più modelli con parametri piccoli e gli scenari applicativi del settore sono diventati naturalmente il focus delle imprese della Parte A e dei fornitori di modelli di grandi dimensioni della Parte B. L'implementazione delle applicazioni end-side è diventata la questione se i modelli di grandi dimensioni possano davvero essere realizzati in questa fase. La chiave per la “monetizzazione” da parte dell’industria.

A questo proposito, Guo Wei ha dichiarato a TMTpost Media APP che Intel ritiene che man mano che la tecnologia dei modelli di grandi dimensioni penetrerà gradualmente nel settore, i modelli passeranno gradualmente da modelli di grandi dimensioni generali a modelli di grandi dimensioni specifici del settore Il modello cambierà definitivamente: "Allo stesso tempo, il modello industriale combinerà conoscenze più specifiche del settore e si concentrerà su uno o più scenari specifici."

Per coincidenza, Cao Peng, presidente del comitato tecnico del gruppo JD e presidente della divisione JD Cloud, ha dichiarato pubblicamente di recente al JD Cloud Summit che "i grandi modelli generali si affidano alla potenza di calcolo per svilupparsi, mentre i grandi modelli industriali si affidano al business". sono già più di 35 Wan Jingdong ha il proprio personale addetto alle consegne, oltre 200.000 commercianti, oltre 30.000 medici, oltre 20.000 operazioni di approvvigionamento e vendita e oltre 10.000 addetti alla ricerca e sviluppo. Utilizza grandi applicazioni basate su modelli in più di 100 scenari AI su Jingdong.

Il “Libro bianco sull’economia digitale globale del 2024” mostra che il numero di grandi modelli di intelligenza artificiale nel mondo ha raggiunto i 1.328, di cui la Cina rappresenta il 36%. D’altra parte, i dati IDC mostrano che l’IA generativa della Cina rappresenterà il 4,6% degli investimenti totali nel mercato dell’IA nel 2022. Con il rapido sviluppo della tecnologia dell’intelligenza artificiale generativa, la percentuale di investimenti nell’intelligenza artificiale generativa raggiungerà il 33,0% nel 2027, la portata degli investimenti supererà i 13 miliardi di dollari e il tasso di crescita composto quinquennale (CAGR) sarà dell’86,2%.

Ovviamente, il modello grande è proprio come l'era precedente del cloud computing. Solo in termini di tecnologia, la Cina potrebbe essere ancora leggermente indietro rispetto al livello di prima classe del mondo, ma se ci concentriamo sugli scenari, la Cina ha ricchi scenari applicativi, e questi. scenari Questa è la chiave per "volare nelle case della gente comune" con grandi modelli di intelligenza artificiale.

Dal cloud all'edge, come si possono utilizzare meglio i modelli di grandi dimensioni?

Man mano che i modelli di grandi dimensioni si spostano gradualmente dai parametri di grandi dimensioni dei modelli generali di grandi dimensioni ai parametri piccoli dei modelli specifici del settore, anche i modelli di grandi dimensioni mostrano una tendenza a spostarsi dal cloud al lato del dispositivo. I dati IDC mostrano che entro il 2026, l’80% delle imprese globali utilizzerà l’intelligenza artificiale generativa e il 50% delle implementazioni edge globali includerà l’intelligenza artificiale.

A questo proposito, Sachin Katti, vicepresidente senior e direttore generale della divisione Network and Edge di Intel, una volta ha affermato che il futuro dell'intelligenza artificiale si baserà su un ecosistema aperto e che l'applicazione dell'intelligenza artificiale si sta spostando dai data center all'edge computing.

Non solo, Chen Wei, vicepresidente di Intel Corporation e direttore generale della divisione Network and Edge China, ha dichiarato a TMTpost Media APP che, a giudicare dalle tendenze di sviluppo di quest'anno, solo i clienti Intel esploreranno quest'anno l'implementazione di modelli edge su larga scala. Ci sono più clienti per la soluzione. "Quest'anno è completamente diverso. Quest'anno si può sostanzialmente dire che più della metà dei clienti sta esplorando soluzioni di implementazione basate su modelli di grandi dimensioni e ci sono molti casi pratici." ulteriormente sottolineato.

Man mano che i modelli di grandi dimensioni si spostano verso l’edge, le aziende devono considerare molti fattori durante l’implementazione, come requisiti di latenza, praticità, ottimizzazione regolabile dei microdati e requisiti di sicurezza delle informazioni.

Tuttavia, l'implementazione edge-side di modelli su larga scala è ancora nelle prime fasi di sviluppo e ci sono molti modelli di implementazione attualmente visibili sul mercato. “Attraverso l'osservazione di Intel, vediamo che molti clienti stanno costruendo soluzioni hardware e software basate su modelli comuni su larga scala. L'ottimizzazione delle prestazioni è un modello in rapido sviluppo", ha affermato Chen Wei di fronte alla domanda sollevata da Titanium Media APP su come applicare meglio i modelli di grandi dimensioni sul lato client.

Parlando delle tendenze e delle prospettive dei grandi modelli cinesi implementati nel settore, Guo Wei ha dichiarato a TMTpost Media APP che da quest'anno sempre più utenti del settore hanno implementato molti grandi modelli del settore: “L'anno scorso probabilmente si trattava più di raccontare Quest'anno abbiamo visto sempre più casi di implementazione nel settore e sono tutti scenari che possono risolvere efficacemente i punti critici del settore", ha affermato Guo Wei.

A giudicare dall'applicazione attuale, i parametri del modello sul lato finale sono molto più piccoli dei parametri del modello generale di grandi dimensioni. Attualmente, i parametri del modello sul lato finale sono per lo più compresi tra 7B e 10B compito difficile. Qualcosa di importante e difficile. L’attuale modello tradizionale consiste nell’inserire conoscenze specifiche del settore nei dati comprimendoli, una soluzione comunemente nota come soluzione tecnica di potatura progressiva.

A questo proposito, il responsabile tecnico di JD Cloud ha dichiarato a Titanium Media APP che, prendendo come esempio lo scenario dei veicoli logistici senza pilota, attraverso la riduzione della magnitudo e la ricerca della rete neurale, è possibile comprimere circa il doppio del numero di parametri senza ridurre il modello stesso. . Performance, può anche ridurre la latenza di circa il doppio.

Allo stesso tempo, Guo Wei ha condiviso con Titanium Media APP la sua analisi e il suo giudizio sulle prospettive di sviluppo di modelli industriali su larga scala in Cina, sottolineando che la Cina potrebbe svilupparsi più rapidamente sotto tre aspetti.

Innanzitutto, lo sviluppo del modello stesso nelle applicazioni industriali. Come accennato in precedenza, "Solo in termini di tecnologia, la Cina potrebbe essere ancora molto indietro rispetto ai primi livelli mondiali, ma la Cina ha ricchi scenari applicativi in ​​termini di implementazione industriale, soprattutto in termini di integrazione con le applicazioni, secondo Guo Wei , La Cina può andare più veloce, "Una delle caratteristiche distintive del mercato cinese è il rapido sviluppo delle applicazioni e la capacità di esplorare rapidamente modi efficaci per risolvere i punti critici del settore", ha sottolineato Guo Wei.

In secondo luogo, la capacità di ragionamento del modello risulta migliorata. Quando i modelli di grandi dimensioni vengono veramente applicati nel settore, non è sufficiente fare affidamento esclusivamente sulla formazione dei modelli. Per risolvere veramente i punti critici del settore, è particolarmente importante migliorare le capacità di ragionamento del modello. Dal punto di vista di Guo Wei, il ragionamento del modello capacità avranno anche miglioramenti significativi quest'anno promuovere.

In terzo luogo, secondo Guo Wei, quando vengono implementati modelli di grandi dimensioni nel settore, è necessario coordinare la distribuzione della potenza di calcolo tra il cloud, il lato dispositivo e l'edge “Se si tratta solo di alcune applicazioni standard di modelli verticali di grandi dimensioni , i modelli di grandi dimensioni potrebbero essere distribuiti principalmente nel cloud, ma a causa della necessità di implementazione nel settore, la potenza di calcolo dell’intelligenza artificiale sarà inevitabilmente distribuita all’edge e al lato terminale”, ha dichiarato Guo Wei a TMTpost Media APP.

Molte scene sono state implementate

Come ha affermato Guo Wei, da quest'anno sul lato dei dispositivi sono stati implementati molti scenari applicativi di grandi modelli industriali.

In termini di istruzione, Seewo ha lanciato congiuntamente una soluzione "AI + Education" basata sulla tecnologia Intel. Con l'aiuto dei processori Intel® Core™ Ultra, Seewo può completare il funzionamento di grandi modelli di insegnamento dell'intelligenza artificiale a livello locale senza fare affidamento sulle risorse del cloud computing. migliorando così la velocità di risposta e la stabilità del sistema e garantendo un'esperienza fluida durante il processo di insegnamento.

Nel settore della vendita al dettaglio, Tous Les Jours ha creato soluzioni di negozi intelligenti attraverso la tecnologia edge computing. Questa soluzione può utilizzare le apparecchiature di raccolta audio e video esistenti nel negozio e, attraverso la piattaforma di gestione dell'integrazione e dell'ottimizzazione dei dati, in base alle esigenze e alle caratteristiche dei diversi negozi, creare per loro una serie di esclusivi modelli di negozi digitali intelligenti, fornendo l'esposizione dei prodotti e servizi del negozio, igiene del negozio, norme sui dipendenti, analisi del pubblico e del flusso dei clienti, che hanno migliorato le capacità di gestione differenziata delle operazioni del negozio Tous Les Jours, migliorato l'efficienza della gestione, ridotto il costo delle ispezioni manuali del negozio e rafforzato l'implementazione di. norme sui dipendenti, accelerando lo sviluppo intelligente dell’industria della panificazione.

In termini di salute medica, JD Health ha lanciato il grande modello medico "Jingyi Qianxun" basato sul grande modello JD Yanxi, che integra un gran numero di linee guida per la pratica clinica, letteratura medica e conoscenze specialistiche e può completare rapidamente la migrazione di vari scenari in campo medico-sanitario e dell’apprendimento. Basandosi sul modello su larga scala "Beijing Medical Qianxun", ha lanciato una serie di soluzioni per i medici praticanti, tra cui cliniche cloud, follow-up post-diagnosi, consultazione congiunta di esperti, ricerca scientifica clinica, incubazione del marchio IP medico e " "assistente medico intelligente", che non solo ottimizza l'efficienza e la qualità della diagnosi e del trattamento online dei medici, ma migliora anche la sicurezza dello studio.

In termini di sicurezza, molti fornitori di sicurezza, tra cui 360, Qi'anxin, Tencent Cloud, Sangfor, ecc., hanno lanciato prodotti di grandi dimensioni nel settore della sicurezza basati sulle capacità di grandi modelli o hanno integrato le capacità di grandi modelli di intelligenza artificiale nell'originale sistemi di sicurezza Tra i prodotti, di fronte alle sfide alla sicurezza sempre più gravi portate dall'intelligenza artificiale nell'era dell'intelligenza artificiale, abbiamo raggiunto l'obiettivo di "sconfiggere l'intelligenza artificiale con l'intelligenza artificiale".

In termini di lavoro d'ufficio, molti produttori hanno proposto il concetto di AIPC e si stanno concentrando sugli assistenti AI per ufficio. Nello scenario AI Chatbot, i modelli di grandi dimensioni possono essere rapidamente distribuiti sui PC Intel Core Ultra AI e gli utenti possono utilizzare senza problemi il potente. testo di modelli di grandi dimensioni. Capacità di creazione, programmazione, calcolo matematico e ragionamento logico e goditi un'esperienza interattiva intelligente localizzata comoda e sicura;

In termini di elaborazione dei documenti, gli utenti possono utilizzare il PC AI per elaborare in modo efficiente e-mail, formare dati, generare automaticamente documenti di lavoro e migliorare l'efficienza del lavoro. Possono anche redigere rapidamente documenti contrattuali e utilizzare l'intelligenza artificiale per analizzare in modo intelligente i casi di contenzioso, fornendo una scrittura professionale dei documenti capacità.

Quelli sopra riportati sono solo alcuni degli scenari in cui le applicazioni di modelli di grandi dimensioni dell'intelligenza artificiale sono attualmente popolari. Inoltre, i modelli di grandi dimensioni del settore sono ampiamente utilizzati anche in molti campi come la finanza, la produzione e l'esplorazione. È iniziata l’era in cui vari settori sfruttano le capacità dei grandi modelli di intelligenza artificiale per potenziare il business.

I dati sono ancora un argomento ineludibile

Come tutti sappiamo, i dati sono il "nutriente" per il rapido sviluppo di modelli di grandi dimensioni, che si tratti di un modello di grandi dimensioni generale o di un modello di settore, se si vuole realizzare un valore reale e ridurre le "illusioni", i dati sono indispensabili. argomento di conversazione.

Per quanto riguarda il settore, i modelli di settore di grandi dimensioni richiedono dati specifici del settore massicci e ricchi. Per le aziende che desiderano utilizzare modelli di settore di grandi dimensioni per ridurre i costi e aumentare l’efficienza e passare dalla digitalizzazione all’intelligenza digitale, questa parte è molto importante. per i loro dati. Dal punto di vista delle attuali applicazioni di settore, i dati originali dell'impresa non sono sufficienti per addestrare un modello industriale completo su larga scala a livello aziendale. La soluzione principale attuale è l'utilizzo di dati sintetici. Successivamente, da un lato, le aziende devono migliorare la qualità dei propri dati, dall'altro, anche come selezionare dati sintetici eccellenti è diventata una questione spinosa che le aziende devono affrontare.

D'altro canto, la differenza tra i modelli di grandi dimensioni del settore e i modelli di grandi dimensioni generali è che la maggior parte dei modelli di grandi dimensioni del settore deve essere distribuita sul lato dispositivo o sul lato edge. Gartner prevede che entro il 2025 oltre il 50% dei dati gestiti dalle imprese verrà creato ed elaborato al di fuori del data center o del cloud.

In altre parole, entro il 2025, la quantità di dati lato dispositivo supererà il 50%. In questo processo, con l'aumento della quantità di dati edge-side, anche la larghezza di banda di trasmissione dei dati rappresenta una grande sfida che le aziende devono affrontare "Sebbene la Cina sia il leader mondiale nella costruzione di larghezza di banda di trasmissione per l'intera infrastruttura, quando a Quando i dati vengono generati all'edge, possono comunque causare tempeste di rete e dobbiamo ancora ottimizzare ulteriormente la gestione della rete e le strategie di trasmissione dei dati", ha dichiarato Guo Wei a Titanium Media APP.

Guardando al futuro, Sachin Katti ha dichiarato a TMTpost Media APP che mentre l'intelligenza artificiale guida i dati per migliorarne la qualità, questi dati a loro volta supporteranno l'intelligenza artificiale per migliorare, raggiungendo infine un ciclo virtuoso.

Ovviamente, i modelli di grandi dimensioni sono entrati in un periodo di rapido sviluppo nel settore. Durante questo processo, le aziende devono seguire il principio "guidato dai dati, lo scenario è il re" per consentire una migliore implementazione dei modelli di grandi dimensioni nel settore.(Questo articolo è stato pubblicato per la prima volta su Titanium Media APP, autore | Zhang Shenyu, editore | Gai Hongda)