notizia

Testo |.Wang Zhiyuan

Recentemente, un amico mi ha dato un feedback:KimiLa pubblicità è davvero feroce.

Puoi vederlo mentre ascolti NetEase Music o navighi su bilibili. Si dice che il prodotto sia per gli utenti ordinari. Non ci sono dubbi su questo. Tuttavia, siamo solo a metà agosto e alcune azioni di Kimi fanno sentire le persone un po’ diverse.

Qual è la differenza?

Da un lato, il 2 agosto, la casa madre di Kimilato oscuro della luna(Moonshot AI) ha annunciato il rilascio ufficiale dell'API di livello aziendale di Kimi. Questo modello di livello aziendale fornisce una protezione più forte della sicurezza dei dati e una velocità di elaborazione più rapida rispetto alla versione per utenti ordinari e può aiutare le aziende a gestire attività complesse e grandi quantità di dati.

Subito dopo, hanno annunciato che avrebbero abbassato il costo della tecnologia context caching della piattaforma aperta Kimi dagli originali 10 yuan per token da 1 milione a 5 yuan al minuto. Ho appreso che questa riduzione di prezzo è in beta pubblica sulla piattaforma aperta dal 1 luglio.

Dopo aver letto questo, potresti essere curioso, cos'è esattamente Cache?

In poche parole, la sua funzione è quella di memorizzare in anticipo testo o dati che possono essere utilizzati ripetutamente e interrogati frequentemente, migliorando così l'efficienza del ragionamento del modello senza aumentare i costi.

Pertanto, queste azioni mi fanno chiedere: l’intelligenza artificiale ha trovato un percorso efficace nel campo B2B? Dopo un giro di ricerche, penso: sì.

01

Parliamo prima del consenso del settore:L’applicazione dell’intelligenza artificiale è senza dubbio la chiave del successo del modello.

Quest’anno, alla Conferenza mondiale sull’intelligenza artificiale, il CEO di Baidu, Robin Li, ha discusso alcune delle sue opinioni sull’applicazione di modelli di grandi dimensioni. Ha affermato: Sebbene lo sviluppo del lato C sia importante, gli scenari applicativi del lato B sono quelli in cui i modelli di grandi dimensioni possono ottenere risultati migliori.

Egli ritiene che nell’era dell’intelligenza artificiale siano più preziose le applicazioni che possono influenzare profondamente le industrie e migliorare significativamente l’efficienza. Prevede che verranno sviluppate applicazioni nei settori dell’assistenza medica, della finanza, dell’istruzione, della produzione, dei trasporti e dell’agricoltura in base alle rispettive caratteristiche e risorse di dati, gli agenti intelligenti personalizzati raggiungeranno milioni di persone in futuro, formando un enorme ecosistema.

Quest'anno Baidu ha vinto 17 progetti in vari campi come assistenza medica, finanza, energia, protezione ambientale e trasporti, coprendo grandi imprese statali e aziende leader del settore, e anche gli importi sono stati molto considerevoli.

Ovviamente, Robin Li ritiene che le applicazioni dell’intelligenza artificiale debbano essere rapidamente implementate su agenti intelligenti.

Non diciamo se rientrerà nelle specificità dell’ente intelligente. Ci sono tanti documenti di gara che devono essere consegnati uno per uno. Se qualcosa non viene portato a termine in un anno e mezzo, il cliente sicuramente non sarà disponibile.

Vediamo cosa ne pensa Yang Zhilin, il fondatore di Moonshot AI.

A giugno, durante una conversazione tra il fondatore di Geek Park Zhang Peng e Yang Zhilin, Yang ha affermato che non hanno escluso completamente il lato B, ma si sono concentrati principalmente sul lato C. Il suo prodotto Kimi ha raggiunto i massimi livelli di traffico e utilizzo nel campo dell'intelligenza artificiale.

Nonostante ciò, gli utenti spesso riscontrano problemi dovuti alla potenza di calcolo insufficiente nelle ore di punta. Per far fronte a questa situazione, hanno adottato diverse misure per ridurre i costi operativi e aumentare l’efficienza.

Uno di questi è ottimizzare le prestazioni di inferenza del modello attraverso la tecnologia di caching. Questa tecnologia consente a Kimi di rispondere più rapidamente durante l'elaborazione di richieste complesse e riduce la necessità di calcoli ripetuti.

Questo miglioramento non solo migliora la velocità di risposta e l'efficienza di elaborazione del sistema, ma garantisce anche la coerenza e l'accuratezza del dialogo o della generazione del testo, ciò sembrerà molto importante in futuro quando si avrà la possibilità di fare affari B-side; un gran numero di elaborazione centralizzata delle richieste di dati Particolarmente importante.

Pertanto, Yang Zhilin ritiene che se si vuole passare al lato B, è necessario prima risolvere il problema della potenza di calcolo e garantire la stabilità della potenza di calcolo è il fondamento.

D'altra parte, penso che fare affari di fascia C non sia così attraente. Utilizza principalmente la pubblicità per ottenere conversioni. A lungo termine, non è così accattivante.

Ho appreso da molti professionisti della pubblicità che a partire dalla prima metà del 2024, il costo di conversione pro capite continuerà ad aumentare. Il costo di conversione di ciascun utente di PC Kimi raggiungerà sostanzialmente i 40 yuan/persona. Non ho verificato ufficialmente questi dati.

Tuttavia, guardando la tendenza generale, il crescente costo della concorrenza nel mercato dell’IA negli scenari C-end spingerà senza dubbio molte aziende di intelligenza artificiale a rivalutare le proprie strategie di mercato.

Pertanto, sebbene il mercato del lato C abbia un grande potenziale, gli scenari applicativi del lato B sono le aree chiave per ottenere l’impatto profondo e i risultati efficienti dei modelli di grandi dimensioni. Dopotutto, solo ottenendo una reale riduzione dei costi e un miglioramento dell’efficienza per le imprese possiamo promuovere il progresso del settore e anche dell’intero settore.

02

Poiché il consenso è corretto. Quindi, come possono gli agenti, o l’intelligenza artificiale, o i modelli grandi (piccoli) entrare efficacemente nel campo B2B?Il primo modo è essere a monte del lato B.

Cosa significa?

Il cosiddetto lato B a monte è l’origine della filiera. Ad esempio: supponiamo che esista un'azienda farmaceutica che ha esigenze e scenari applicativi per l'utilizzo dell'intelligenza artificiale, ma è difficile entrare in una grande azienda modello. Cosa dovrei fare?

In questo momento, scopri che l'azienda farmaceutica sta utilizzando una sorta di software SaaS. La grande azienda modello AI può prendere in considerazione la possibilità di collaborare con il fornitore di software, in questo modo l'intelligenza artificiale può essere aggiunta ai prodotti software esistenti e l'azienda farmaceutica può farlo utilizzare il software. Allo stesso tempo, passare senza problemi all'utilizzo dell'intelligenza artificiale.

Questo è il modo di pensare di molti tradizionali uomini d’affari del lato B.

In effetti, il software B2B ha molteplici forme di distribuzione. Innanzitutto, l'implementazione localizzata, in cui il software viene installato sul server o sul dispositivo del cliente, offrendo al cliente il controllo sui dati e sulla sicurezza.

Questo metodo richiede aggiornamenti regolari, la cui manutenzione è problematica e costosa. Ad esempio, in passato, grandi produttori come Mercedes-Benz e BMW utilizzavano i tradizionali sistemi CRM per l’implementazione locale per gestire gli agenti.

Tuttavia, l’implementazione localizzata deve affrontare molte sfide quando si implementa l’integrazione dell’intelligenza artificiale, in particolare i modelli pre-addestrati, una volta installati, tali modelli possono rispondere alle richieste dei clienti anche quando non sono connessi a Internet.

Sebbene molte aziende ToB siano interessate a provarci, la complessità delle operazioni effettive è molto elevata. Ad esempio, i gruppi farmaceutici o gli ospedali hanno enormi esigenze di gestione dei dati. Una volta che il software dovrà essere aggiornato per integrare nuove funzioni di intelligenza artificiale, l’intero processo sarà estremamente complicato.

Inoltre, i responsabili di progetto devono spiegare ai loro capi perché devono spendere molti soldi per introdurre le funzioni di intelligenza artificiale.

Per esempio:

Spendi 20 milioni per costruire un modello. Sembra fantastico, abbiamo capacità di intelligenza artificiale, ma la situazione attuale potrebbe far pensare alle persone che questo sia solo un sistema di domande e risposte sulla conoscenza dell'intelligenza artificiale. Guardandolo in questo modo, sembra sempre che non sia un buon affare.

Un altro punto è: anche se un’azienda introduce un modello, cosa succede se i dipendenti non possono più utilizzarlo? Allora questi soldi non sarebbero sprecati?Nessun calcolo è appropriato a questo scopo. Naturalmente, alcune aziende non dispongono nemmeno di una base di conoscenza e non è necessario introdurre funzionalità di intelligenza artificiale.

Il modello SaaS, come un'altra forma, consente agli utenti di pagare tariffe tramite abbonamenti, come strumenti di collaborazione come Feishu. Secondo questo modello, le aziende SaaS possono integrare direttamente le funzioni di intelligenza artificiale e persino avere la capacità di bypassare le piccole aziende modello e acquistare servizi direttamente da aziende modello di grandi dimensioni per trasformare i processi.

Tra tutte queste forme, il modello SaaS è il più semplice per integrare le funzioni di intelligenza artificiale, perché i fornitori di servizi possono aggiornare e mantenere le funzioni di intelligenza artificiale in modo uniforme sul back-end e i clienti non devono preoccuparsi dei dettagli tecnici.

Pertanto, da una prospettiva dall’alto verso il basso, le aziende che forniscono soluzioni di intelligenza artificiale possono aggiudicarsi alcuni ordini, ma il processo per garantire realmente il successo dei clienti può essere piuttosto difficile e gli sforzi e i guadagni spesso non sono proporzionali.

03

Quindi, esiste una nuova soluzione? Avere. Diamo un’occhiata dal basso verso l’alto.

Dobbiamo stabilire una nuova comprensione:

L’uso dell’intelligenza artificiale in azienda ha effettivamente trovato una svolta. Ci aiuta principalmente a migliorare l’efficienza nel fare le cose. L’intelligenza artificiale viene generalmente utilizzata per migliorare i processi di lavoro esistenti piuttosto che per riavviarli completamente.

Cos’è un inizio pulito?

Cioè, riprogettare completamente il processo di qualcosa da zero, senza fare affidamento su strutture e piani esistenti nel contesto del flusso di lavoro o della gestione del progetto, ciò significa abbandonare vecchi metodi e sistemi e adottare metodi completamente nuovi per risolvere la domanda o eseguire un compito.

Ad esempio, un'azienda utilizzava originariamente un sistema CRM (Customer Relationship Management) molto tradizionale. Con il passare del tempo e la crescita dell'attività, questo sistema non riusciva più a soddisfare le esigenze dell'azienda.

L'azienda ha deciso di non modificare o aggiornare il vecchio sistema, ma di sviluppare da zero un nuovo sistema CRM. Questo nuovo sistema utilizzerà lo stack tecnologico più recente, progetterà funzioni più in linea con i processi aziendali moderni e potrà integrare meglio le ultime novità Strumenti di analisi dei dati.

Questo è un esempio di "inizio pulito". Ma sai una cosa?L’intelligenza artificiale sovverte il processo di reingegnerizzazione dei processi. Nella maggior parte dei casi, l’intelligenza artificiale gestisce compiti con cui gli esseri umani hanno già familiarità e non è necessario reinventare la ruota.

Cosa significa?

Quando un'azienda inizia a utilizzare modelli di intelligenza artificiale, questi modelli devono essere strettamente integrati con il flusso di lavoro dell'azienda. Ad esempio, alcune aziende desiderano utilizzare alcuni modelli avanzati di grandi dimensioni nel campo medico o educativo, ma questo processo potrebbe incontrare molte difficoltà.

Poiché le attività e i processi di ogni azienda sono unici e anche i dati richiesti dall’intelligenza artificiale sono unici, un modello generale di grandi dimensioni potrebbe non essere adatto. Spesso è difficile applicare veramente questi concetti generali in un’azienda.

cosa fare?In questo momento sarebbe più semplice avere un piccolo modello e un assistente.

Per esempio:

I contabili delle piccole e medie imprese utilizzano solitamente software come Kingdee, UFIDA e Chanjet. In questi software sono già memorizzati molti dati; gli operatori vogliono semplicemente sfruttare la potenza dell'intelligenza artificiale per trovare rapidamente un dato o trarre una conclusione, senza dover apportare modifiche sostanziali al software originale.

Pertanto, un buon modo per applicare l'intelligenza artificiale agli scenari aziendali (ToB) è suddividere i processi aziendali complessi in tante piccole attività o piccoli scenari specifici, quindi utilizzare l'intelligenza artificiale per migliorare ogni piccolo scenario.

Vediamo anche che aziende come MicrosoftIA apertaGli investitori, così come Salesforce, leader nel settore CRM, non hanno utilizzato l’intelligenza artificiale per sviluppare nuovi prodotti.

Sebbene continuino a etichettare i prodotti con nuove funzionalità, in realtà utilizzano modelli di grandi dimensioni per assistere e migliorare i processi aziendali o le funzioni del prodotto esistenti.

In altre parole, trasformano un piccolo modello in un assistente, o in un miglioramento, che può meglio integrarsi e ottimizzare i sistemi esistenti anziché sostituirli completamente.

Questo è un po’ come i plug-in che molte aziende di intelligenza artificiale hanno recentemente realizzato lato PC. Devi solo far scorrere delicatamente il mouse o premere un tasto di scelta rapida e l'intelligenza artificiale apparirà per aiutarti. La loro funzione principale è aiutarci a prendere decisioni migliori.

04

Se non ci credi, puoi anche pensarci: per cosa hanno davvero bisogno le aziende ToB dell’intelligenza artificiale?

Secondo la ricerca di Zhiyuan, utilizzano i dati principalmente per aiutare a prendere decisioni nelle operazioni, nella gestione, nel processo decisionale e nel marketing.Quindi, per le aziende di intelligenza artificiale, come possono essere pratiche ed economicamente vantaggiose? La chiave è ottenere una replica rapida e coprire più scenari a un costo molto basso.

Come copiare?

Un modo è incapsulare l’intelligenza artificiale in un agente intelligente in grado di richiamare dati locali.Questo è il motivo per cui Kimi Chat ridurrà i costi di memorizzazione nella cache della cache perché il salvataggio del testo locale utilizzato di frequente può aiutare a migliorare la precisione dell'assistente.

Ma qui sorge la domanda: come renderlo accurato, versatile e allo stesso tempo economico?

A questo proposito possiamo definire “alta precisione” in questo modo:Finché l'azienda è utilizzabile e la precisione è sufficientemente elevata, anche se occasionalmente si verifica un errore, gli utenti possono identificarlo e spiegare il motivo per cui si verifica.

"Basso costo" significa che il costo iniziale del progetto deve essere basso, può essere distribuito su una singola macchina e deve essere semplice da utilizzare e mantenere.Al giorno d'oggi, il costo dell'hardware di molti modelli di grandi dimensioni è molto elevato. Se l'azienda non è sicura di quanti soldi può guadagnare, sicuramente non sarà disposta a investire troppo.

Il vantaggio dei modelli di grandi dimensioni è che risolvono il problema della versatilità dei primi algoritmi di intelligenza artificiale.

In teoria, un modello può gestire tutti gli scenari; in pratica, dobbiamo metterlo a punto. Pertanto, definiamo "alta versatilità" la capacità di implementare strumenti e automazione, in modo che possa essere replicata su larga scala e implementata a basso costo.

Un modello di grandi dimensioni con una scala di 100 milioni ha raggiunto una precisione superiore al 95%. Successivamente, abbiamo derivato un modello piccolo da questo modello di grandi dimensioni e lo abbiamo incapsulato in un assistente, risolvendo così il problema dell'utilizzo dell'ingresso.

Immagina che un'azienda di grandi dimensioni disponga di una soluzione di grande modello super potente che agisce come un modello principale, supportando le ampie esigenze dell'intera azienda.

Questo modello di grandi dimensioni è particolarmente potente e può gestire analisi di dati complesse e fornire approfondimenti molto accurati. È particolarmente adatto per le aziende B-side che richiedono grandi quantità di risorse di calcolo ed elaborazione dati su larga scala. Ma in realtà non tutte le aziende del lato B necessitano di un sistema così imponente.

Per le imprese più piccole e medie sarà sufficiente un modello più piccolo e più mirato. Possiamo considerarlo come un “sottomodello” di un modello più ampio.

Questi modelli di piccole dimensioni ereditano le funzionalità principali dei modelli più grandi, ma sono ottimizzati e messi a punto in modo da adattarsi meglio alle esigenze aziendali specifiche e agli ambienti operativi su piccola scala.

I modelli di piccole dimensioni non necessitano della stessa potenza di calcolo dei modelli di grandi dimensioni, ma si concentrano su compiti specifici e possono essere adattati in base alle diverse esigenze, come la generazione di report di analisi intelligenti o l'esecuzione di analisi intelligenti.

Ciò consente alle piccole imprese con risorse limitate di utilizzare l’intelligenza artificiale per migliorare l’efficienza del lavoro e la qualità del processo decisionale.

Pertanto, il modello piccolo è come l'essenza estratta dal modello grande. Richiede solo le funzionalità della base di conoscenza di base. La chiave è trasformarlo in un piccolo assistente e incorporarlo nello strumento per l'uso.

Non pensare mai che questo significhi che la tua logica è corretta. Dopo la ricerca di Zhiyuan, i prodotti AI sono già stati implementati nelle imprese del lato B, pertanto, per TOB, gli scenari applicativi dell’IA sono agenti e plug-in;

Questo ha anche il vantaggio di essere facile da fornire senza dover investire costi elevati.

Riassumere

TOB AI non segue il vecchio percorso.

Se i piccoli modelli sono il punto chiave di TOB, trasformarli in agenti e assistenti intelligenti è l’anello chiave per collegare l’ultimo miglio di TOB.Dopotutto, il approccio bottom-up è incentrato sulle persone e sui compiti, non sul software.