uutiset

Teksti |. Wang Zhiyuan

Äskettäin ystäväni antoi minulle palautetta:KimiMainonta on todella kovaa.

Voit nähdä sen, kun kuuntelet NetEase Musicia tai selaat bilibiliä. Sanotaan, että tuote on tarkoitettu tavallisille käyttäjille. Elokuu on kuitenkin vasta puolivälissä, ja osa Kimin teoista saa ihmiset tuntemaan olonsa hieman erilaiseksi.

Mitä eroa sillä on?

Toisaalta 2. elokuuta Kimin emoyhtiökuun pimeä puoli(Moonshot AI) ilmoitti Kimin yritystason API:n virallisesta julkaisusta. Tämä yritystason malli tarjoaa vahvemman tietoturvan ja nopeamman käsittelynopeuden kuin tavallinen käyttäjäversio, ja se voi auttaa yrityksiä käsittelemään monimutkaisia ​​tehtäviä ja suuria tietomääriä.

Heti sen jälkeen he ilmoittivat alentavansa Kimin avoimen alustan kontekstivälimuistiteknologian kustannuksia alkuperäisestä 10 yuanista 1 miljoonalta tokeneilta 5 juaniin minuutissa. Sain tietää, että tämä hinnanalennus on ollut julkisessa betaversiossa avoimella alustalla heinäkuun 1. päivästä lähtien.

Tämän luettuasi saatat olla utelias, mikä välimuisti tarkalleen on?

Yksinkertaisesti sanottuna sen tehtävänä on tallentaa etukäteen tekstiä tai dataa, jota voidaan käyttää toistuvasti ja usein kyseltynä, mikä parantaa mallin päättelytehoa kustannuksia nostamatta.

Siksi nämä toimet saavat minut ihmettelemään, onko tekoäly löytänyt tehokkaan tien B2B-kentällä? Tutkimuskierroksen jälkeen ajattelen: kyllä.

01

Puhutaanpa ensin alan konsensuksesta:AI-sovellus on epäilemättä avain mallin menestykseen.

Tänä vuonna Maailman tekoälykonferenssissa Baidun toimitusjohtaja Robin Li keskusteli joistakin näkemyksistään suurten mallien soveltamisesta. Hän sanoi: Vaikka C-puolen kehitys on tärkeää, B-puolen sovellusskenaariot ovat sellaisia, joissa suuret mallit voivat saavuttaa parempia tuloksia.

Hän uskoo, että tekoälyn aikakaudella sovellukset, jotka voivat vaikuttaa teollisuudenaloihin ja parantaa merkittävästi tehokkuutta, ovat arvokkaampia. Hän ennakoi, että lääketieteen, rahoituksen, koulutuksen, valmistuksen, kuljetuksen ja maatalouden aloilla sovelluksia kehitetään perustuen. Räätälöidyt älykkäät agentit saavuttavat miljoonia tulevaisuudessa ja muodostavat valtavan ekosysteemin.

Tänä vuonna Baidu voitti 17 hanketta eri aloilta, kuten sairaanhoidon, rahoituksen, energian, ympäristönsuojelun ja liikenteen aloilta, kattaen suuria valtionyhtiöitä ja alan johtavia yrityksiä, ja myös summat olivat erittäin huomattavia.

Ilmeisesti Robin Li uskoo, että tekoälysovellukset on otettava nopeasti käyttöön älykkäillä agenteilla.

Älkäämme sanoko, kuuluuko se älykkään laitoksen erityispiirteisiin. Tarjousasiakirjoja on niin paljon, että ne on toimitettava yksi kerrallaan, jos jotain ei saada valmiiksi puolessatoista vuodessa.

Katsotaan mitä Moonshot AI:n perustaja Yang Zhilin ajattelee siitä.

Kesäkuussa Geek Parkin perustajan Zhang Pengin ja Yang Zhilinin välisessä keskustelussa Yang mainitsi, että he eivät sulkeneet kokonaan pois B-puolta, vaan keskittyivät pääasiassa C-puolelle. Hänen tuotteensa Kimi on saavuttanut huippuliikenteen ja käytön AI-kentällä.

Tästä huolimatta käyttäjät kohtaavat usein ongelmia riittämättömän laskentatehon vuoksi ruuhka-aikoina. Tilanteen selvittämiseksi he ovat ryhtyneet useisiin toimenpiteisiin käyttökustannusten vähentämiseksi ja tehokkuuden lisäämiseksi.

Yksi niistä on mallin päättelyn suorituskyvyn optimointi välimuistitekniikan avulla. Tämän tekniikan avulla Kimi voi vastata nopeammin monimutkaisten pyyntöjen käsittelyyn ja vähentää toistuvien laskelmien tarvetta.

Tämä parannus ei ainoastaan ​​paranna järjestelmän vastausnopeutta ja käsittelytehoa, vaan myös varmistaa dialogin tai tekstin luomisen johdonmukaisuuden ja tarkkuuden, tämä näyttää olevan ongelma tulevaisuudessa, kun edessä on mahdollisuus tehdä B-puolen liiketoimintaa suuri määrä tietopyyntöjen keskitettyä käsittelyä.

Siksi Yang Zhilin uskoo, että jos haluat siirtyä B-puolelle, sinun on ensin ratkaistava laskentatehon ongelma, ja laskentatehon vakauden varmistaminen on perusta.

Toisaalta mielestäni C-end-liiketoiminnan tekeminen ei ole niin seksikästä.

Opin monilta mainonnan harjoittajilta, että vuoden 2024 ensimmäisestä puoliskosta lähtien muuntokustannukset henkeä kohden nousevat periaatteessa 40 yuania/henkilö.

Yleistä suuntausta tarkasteltaessa voidaan kuitenkin todeta, että kilpailun kasvavat kustannukset tekoälymarkkinoilla C-end-skenaarioissa pakottavat monet tekoälyyritykset arvioimaan markkinastrategiansa uudelleen.

Siksi, vaikka C-puolen markkinoilla on suuri potentiaali, B-puolen sovellusskenaariot ovat avainalueita suurten mallien syvällisen vaikutuksen ja tehokkaiden tulosten saavuttamiseksi. Vain saavuttamalla todellisia kustannussäästöjä ja tehokkuutta yrityksissä edistää alan ja jopa koko teollisuuden kehitystä.

02

Koska konsensus on oikea. Joten miten agentit tai tekoäly tai suuret (pienet) mallit voivat astua tehokkaasti B2B-kentälle?Ensimmäinen tapa on olla B-puolen ylävirtaan.

Mitä se tarkoittaa?

Niin sanottu B-puoli ylävirtaan on toimitusketjun lähde. Esimerkiksi: Oletetaan, että on lääkeyhtiö, jolla on tarpeita ja sovellusskenaarioita tekoälyn käyttöön, mutta suureen malliyritykseen on vaikea murtautua. Mitä minun pitäisi tehdä?

Tällä hetkellä huomaat, että lääkeyhtiö käyttää jonkinlaista SaaS-ohjelmistoa. Suuri tekoälymalliyritys voi harkita yhteistyötä ohjelmistotoimittajan kanssa tällä tavalla, tekoäly voidaan lisätä olemassa oleviin ohjelmistotuotteisiin, ja lääkeyhtiö voi Käytä ohjelmistoa samalla, kun siirryt sujuvasti tekoälyn käyttöön.

Näin ajattelevat monet perinteiset B-puolen liikemiehet.

Itse asiassa B2B-ohjelmistolla on useita käyttöönottomuotoja. Ensinnäkin lokalisoitu käyttöönotto, jossa ohjelmisto asennetaan asiakkaan omalle palvelimelle tai laitteelle, jolloin asiakas voi hallita tietoja ja turvallisuutta.

Tämä menetelmä vaatii säännöllisiä päivityksiä, mikä on hankalaa ja kallista ylläpitää. Esimerkiksi aiemmin suuret valmistajat, kuten Mercedes-Benz ja BMW, käyttivät perinteisiä CRM-järjestelmiä paikalliseen käyttöönotossa agenttien hallintaan.

Paikallinen käyttöönotto kohtaa kuitenkin monia haasteita AI-integraation toteutuksessa, erityisesti esikoulutetut mallit, kun tällaiset mallit on asennettu, ne voivat vastata asiakkaiden tiedusteluihin, vaikka ne eivät olisi yhteydessä Internetiin.

Vaikka monet ToB-yritykset ovat kiinnostuneita kokeilemaan, varsinaisen toiminnan monimutkaisuus on erittäin korkea. Esimerkiksi lääkekonserneilla tai sairaaloilla on valtavat tiedonhallintatarpeet Kun ohjelmisto on päivitettävä uusien tekoälytoimintojen integroimiseksi, koko prosessi on erittäin monimutkainen.

Lisäksi projektijohtajien on selitettävä pomoilleen, miksi heidän on käytettävä paljon rahaa tekoälytoimintojen käyttöönotossa.

esimerkiksi:

Käytä 20 miljoonaa mallin rakentamiseen. Kuulostaa hyvältä, meillä on tekoälyominaisuudet, mutta todellinen tilanne saattaa saada ihmiset ajattelemaan, että tämä on vain tekoälyn kysymys-vastausjärjestelmä. Näin katsottuna tuntuu aina siltä, ​​että se ei ole hyvä sopimus.

Toinen asia on se, että vaikka yritys ottaa käyttöön mallin, entä jos työntekijät eivät voi enää käyttää sitä? Eikös nämä rahat menisi sitten hukkaan?Mikään laskelma ei sovellu tähän Tietenkään joillakin yrityksillä ei ole edes tietopohjaa, eikä tekoälyominaisuuksia tarvitse ottaa käyttöön.

Toisena SaaS-mallin avulla käyttäjät voivat maksaa maksuja tilausten, kuten yhteistyötyökalujen, kuten Feishun, kautta. Tässä mallissa SaaS-yritykset voivat integroida tekoälytoimintoja suoraan ja jopa ohittaa pienet malliyritykset ja ostaa palveluita suoraan suurilta malliyrityksiltä muuttaakseen prosesseja.

Kaikista näistä muodoista SaaS-malli on helpoin integroitava tekoälytoimintoja, koska palveluntarjoajat voivat päivittää ja ylläpitää tekoälytoimintoja yhtenäisesti taustapäässä, eikä asiakkaiden tarvitse huolehtia teknisistä yksityiskohdista.

Tästä syystä ylhäältä alaspäin tarkasteltuna AI-ratkaisuja tarjoavat yritykset voivat saada joitakin tilauksia, mutta prosessi, jolla asiakkaat todella menestyvät, voi olla melko vaikeaa, eivätkä ponnistelut ja voitot usein ole oikeassa suhteessa.

03

Onko siis uutta ratkaisua? on. Katsotaanpa sitä alhaalta ylöspäin.

Meidän on luotava uusi ymmärrys:

Tekoälyn käyttö yrityksessä on itse asiassa saavuttanut läpimurron. Se auttaa meitä parantamaan asioiden tekemisen tehokkuutta.

Mikä on puhdas aloitus?

Toisin sanoen prosessin suunnitteleminen kokonaan uudelleen ilman olemassa olevia rakenteita ja suunnitelmia työnkulun tai projektinhallinnan yhteydessä, tämä tarkoittaa vanhojen menetelmien ja järjestelmien hylkäämistä ja täysin uusien menetelmien käyttöönottoa ongelman ratkaisemiseksi tehtävä.

Esimerkiksi yritys käytti alun perin hyvin perinteistä asiakkuuksien hallintajärjestelmää (CRM). Ajan kuluessa ja liiketoiminnan kasvaessa tämä järjestelmä ei enää pystynyt vastaamaan yrityksen tarpeisiin.

Yritys päätti olla muokkaamatta tai päivittämättä vanhaa järjestelmää, vaan kehittää uuden CRM-järjestelmän tyhjästä. Tämä uusi järjestelmä käyttää uusinta teknologiapinoa, suunnitellaan toimintoja, jotka vastaavat paremmin nykyaikaisia ​​liiketoimintaprosesseja ja integroivat paremmin uusimmat ominaisuudet. Tietojen analysointityökalut.

Tämä on esimerkki "puhtasta alusta". Mutta tiedätkö mitä?Tekoäly kumoaa prosessin uudelleensuunnittelun.

Mitä se tarkoittaa?

Kun yritys ottaa käyttöön tekoälymalleja, nämä mallit on integroitava tiiviisti yrityksen omaan työnkulkuun. Jotkut yritykset haluavat esimerkiksi käyttää edistyneitä suuria malleja lääketieteen tai koulutuksen aloilla, mutta tämä prosessi voi kohdata monia vaikeuksia.

Koska jokaisen yrityksen liiketoiminta ja prosessit ovat uniikkeja ja tekoälyn vaatimat tiedot ovat myös ainutlaatuisia, yleinen suuri malli ei välttämättä sovellu näiden laajojen käsitteiden soveltamiseen yrityksessä.

mitä tehdä?Tällä hetkellä olisi helpompi saada pieni malli ja avustaja.

Esimerkiksi:

Pienten ja keskisuurten yritysten kirjanpitäjät käyttävät yleensä ohjelmistoja, kuten Kingdee, UFIDA ja Chanjet. Näihin ohjelmistoihin on jo tallennettu paljon dataa operaattoreille, he haluavat vain käyttää tekoälyn voimaa löytääkseen nopeasti datan tai tehdäkseen johtopäätöksen ilman, että heidän tarvitsee tehdä suuria muutoksia alkuperäiseen ohjelmistoon.

Siksi hyvä tapa soveltaa tekoälyä yritysskenaarioihin on jakaa monimutkaiset liiketoimintaprosessit useisiin pieniin tehtäviin tai tiettyihin pieniin kohtauksiin ja käyttää sitten tekoälyä jokaisen pienen kohtauksen parantamiseen.

Näemme myös, että Microsoftin kaltaiset yrityksetOpenAISijoittajat sekä CRM-alan johtava Salesforce eivät ole käyttäneet tekoälyä uusien tuotteiden kehittämiseen.

Vaikka ne edelleen merkitsevät tuotteita uusilla ominaisuuksilla, ne itse asiassa käyttävät suuria malleja olemassa olevien liiketoimintaprosessien tai tuotetoimintojen auttamiseksi ja parantamiseksi.

Toisin sanoen ne jalostavat pienen mallin avustajaksi tai parannukseksi, joka voidaan integroida ja optimoida olemassa oleviin järjestelmiin paremmin kuin korvata ne kokonaan.

Tämä on vähän kuin laajennukset, joita monet tekoälyyritykset ovat äskettäin tehneet PC-puolelle. Sinun tarvitsee vain liu'uttaa hiirtä varovasti tai painaa pikanäppäintä, ja tekoäly ponnahtaa esiin auttamaan. Niiden ydintehtävä on auttaa meitä tekemään parempia päätöksiä.

04

Jos et usko, voit myös miettiä sitä: Mitä ToB-yritykset todella tarvitsevat tekoälyn?

Zhiyuanin tutkimuksen mukaan he käyttävät dataa pääasiassa päätöksentekoon toiminnassa, johtamisessa, päätöksenteossa ja markkinoinnissa.Joten kuinka tekoälyyritykset voivat olla sekä käytännöllisiä että kustannustehokkaita? Tärkeintä on saavuttaa nopea replikointi ja kattaa useita skenaarioita erittäin alhaisin kustannuksin.

Kuinka kopioida?

Yksi tapa on kapseloida tekoäly älykkääksi agentiksi, joka voi kutsua paikallista dataa.Tästä syystä Kimi Chat vähentää välimuistin välimuistin kustannuksia, koska usein käytetyn paikallisen tekstin tallentaminen voi parantaa avustajan tarkkuutta.

Mutta tässä on kysymys, kuinka tehdä siitä tarkka, monipuolinen ja edullinen samaan aikaan?

Tässä suhteessa voimme määritellä "korkean tarkkuuden" seuraavasti:Niin kauan kuin yritys on käyttökelpoinen ja tarkkuus riittävän korkea, käyttäjät voivat tunnistaa sen ja selittää, miksi se tapahtuu, vaikka virhe sattuisi satunnaisesti.

"Alhaiset kustannukset" tarkoittaa, että projektin alkukustannusten on oltava alhaiset, se voidaan ottaa käyttöön yhdellä koneella ja sen on oltava yksinkertainen käyttää ja huoltaa.Nykyään monien suurten mallien laitteistokustannukset ovat erittäin korkeat.

Suurten mallien etuna on, että ne ratkaisevat varhaisten tekoälyalgoritmien monipuolisuusongelman.

Teoriassa yksi malli pystyy käsittelemään kaikki skenaariot käytännössä, meidän on hienosäädettävä se. Siksi määrittelemme "korkean monipuolisuuden" kyvyksi toteuttaa työkalut ja automaatio, jotta se voidaan kopioida suuressa mittakaavassa ja toteuttaa alhaisin kustannuksin.

Suuri malli, jonka mittakaava on 100 miljoonaa, on saavuttanut yli 95 %:n tarkkuuden. Sitten johdimme tästä suuresta mallista pienen mallin ja kapseloimme sen avustajaksi, mikä ratkaisi sisäänkäynnin käytön ongelman.

Kuvittele, että suurella malliyrityksellä on supertehokas iso malliratkaisu, joka toimii kuin emomalli ja tukee koko yrityksen laajoja tarpeita.

Tämä suuri malli on erityisen tehokas ja pystyy käsittelemään monimutkaista data-analyysiä ja antamaan erittäin tarkkoja näkemyksiä. Se sopii erityisesti B-puolen yrityksille, jotka vaativat suuria määriä laskentaresursseja ja laajamittaista tietojenkäsittelyä. Mutta itse asiassa kaikki B-puolen yritykset eivät tarvitse näin valtavaa järjestelmää.

Pienille ja keskisuurille yrityksille pienempi, tarkempi malli riittää. Voimme ajatella sitä suuremman mallin "alamallina".

Nämä pienet mallit perivät ydinominaisuudet suuremmista malleista, mutta ne on optimoitu ja viritetty niin, että ne sopivat paremmin tiettyihin liiketoiminnan tarpeisiin ja pienimuotoisiin toimintaympäristöihin.

Pienet mallit eivät vaadi yhtä paljon laskentatehoa kuin suuret mallit, vaan ne keskittyvät tiettyihin tehtäviin ja niitä voidaan säätää erilaisten tarpeiden mukaan, kuten älykkäiden analyysiraporttien luomiseen tai älykkään analyysin tekemiseen.

Näin pienet yritykset, joilla on rajalliset resurssit, voivat käyttää tekoälyä työn tehokkuuden ja päätöksenteon laadun parantamiseen.

Siksi pieni malli on kuin suuresta mallista poimittu olemus Se tarvitsee vain perustietokannan ominaisuuksia. Tärkeintä on tehdä siitä pieni apulainen ja upottaa se työkaluun.

Älä koskaan ajattele, että tämä tarkoittaa, että logiikkasi on oikea. Zhiyuanin tutkimuksen jälkeen tekoälytuotteet on jo otettu käyttöön B-puolen yrityksissä, joten TOB:lle tekoälysovellusskenaariot ovat agentteja ja laajennuksia.

Tämän etuna on myös se, että se on helppo toimittaa ilman kalliita kustannuksia.

Tee yhteenveto

TOB AI ei seuraa vanhaa polkua.

Jos pienet mallit ovat TOB:n avainkohta, niistä tekeminen älykkäiksi agenteiksi ja avustajiksi on avainlinkki TOB:n viimeisen mailin yhdistämiseen.Loppujen lopuksi alhaalta ylöspäin suuntautuva toiminta on ihmis- ja tehtäväkeskeistä, ei ohjelmistokeskeistä.