huawei julkaisee uuden ai-tallennustilan mahdollistaakseen tekoälyn suurten mallien harjoittamisen ja päättelemisen uudella pitkän muistin paradigmalla
2024-09-21
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
huawein varapuheenjohtaja ja data storage -tuotelinjan johtaja dr. zhou yuefeng julkaisi 20. syyskuuta huawei connect conference 2024:n aikana järjestetyssä data storage summitissa uuden ai-tallennuslaitteen oceanstor a800, joka parantaa kokonaisvaltaisesti tekoälyn suurten mallien koulutusta. pitkän muistin ja päättelykykyjen uudella paradigmalla, mikä auttaa tuhansia toimialoja siirtymään digitaalisen älykkyyden aikakauteen.
zhou yuefeng, huawein varapuheenjohtaja ja data storage -tuotelinjan johtaja, piti pääpuheen
ihmisen sivilisaatio on kehittynyt muinaisesta kivikaudesta maatalouden aikakauteen ja nyt digitaalisen älykkyyden aikakauteen. data on ollut keskeinen tuotantotekijä uusien tuotantovoimien kehittämisessä. ihmiset käyttävät dataa saavuttaakseen suurta kehitystä keskeisillä tekoälyaloilla, kuten tekoälyn suurilla malleilla, ruumiillistuneella älykkyydellä ja tieteen tekoälyllä.
digitaalisen älykkyyden aikakausi on datan kulta-aikaa samalla kun tiedon laajuus kasvaa räjähdysmäisesti ja datan arvo nousee, se kohtaa myös haasteita, kuten riittämätön xpu:n ja tallennustilan kaistanleveys, laskentaklustereiden heikko saatavuus ja laajennettu. päätelmäaika, joka asettaa korkeammat vaatimukset säilytykseen. digitaalisen älykkyyden aikakausi vaatii tallennusta tekoälylle. tietojen tallennus, jossa on äärimmäistä suorituskykyä, korkea skaalautuvuus, tiedonsietokyky, kestävä kehitys, uudet dataparadigmat ja datan kudontaominaisuudet, on ainoa tie digitaalisen tekoälyn aikakauteen.
vastatakseen yllä oleviin haasteisiin huawei on julkaissut uuden ai-tallennuslaitteen oceanstor a800. se on parantanut huomattavasti päättelykykyä ja tehnyt harppauksia klusterin suorituskyvyssä ja uusissa dataparadigmoissa edistäen sovellusta. tekoälyn tuhansilla toimialoilla.
1. yksi ai-tallennuslaitteiden sarja tukee 100 000 korttitason suuria malliharjoituksia. yksi tallennuslaite voi tukea 100 000 kortin tason klusterin täydellistä yhteenliittämistä rakentamalla teknisen arkkitehtuurin, jossa on täysi käyttöliittymän verkkokorttien jakaminen sekä ohjainten ja tausta-ssd-levyjen täydellinen yhteenliittäminen. oceanstor a800 -tallennustila voi muodostaa staattisen täyden yhteyden jopa 192 000 kortin koulutusklusterin kanssa, mikä parantaa suorituskykyä 40 % ja vähentää tilan käyttöä 80 %.
2. tallennusta ja laskentaa käyttämällä tekoälyklustereiden saatavuus kasvaa 30 %. tekoälyharjoittelun keskeytyksiä esiintyy usein tilastojen mukaan pisin jatkuva harjoitusaika tekoälyn koulutuskeskuksessa on vain 2,6 päivää, jolloin gpu/npu tallentaa toistuvasti ckpt-tietoja. china mobile käyttää huawei oceanstor ai -tallennustilaa suurten mallien koulutukseen, jolloin saavutetaan 150 pb:n yksitallennusklusteri, 8 tt/s kaistanleveys ja 230 miljoonan iops-ominaisuudet .
3. tallennuspohjainen laskenta, pitkä muistimuisti parantaa päättelykokemusta ja vähentää järjestelmän kustannuksia.
pitkästä kontekstista on tullut väistämätön kehitystrendi isojen mallien päättelyyn skaalauslain mukaan riittävän korkean päättelyn laskentatehon ja välimerkkien määrän tarjoaminen voi parantaa päättelyn tarkkuutta huomattavasti. ammattimaisen tekoälyn tallennuksen avulla pitkää kontekstia ja massiivisia keskitason päättelytunnisteita voidaan tallentaa pitkään, mikä maksimoi suurten mallien loogisen ajattelun ja päättelykyvyn, erityisesti hitaan ajattelun.
alan ensimmäisenä tallennuslaitteena, joka tarjoaa pitkän muistin ominaisuudet, oceanstor a800 ottaa innovatiivisesti käyttöön monitasoisen kv-välimuistimekanismin säilyttääkseen ja käyttääkseen kv-välimuistia tehokkaasti, mikä mahdollistaa suuren mallin päättelyn, jolla on pitkä muistikapasiteetti ja vähentää toistuvia laskutoimituksia esitäyttövaiheessa. asiakkaan päättelyviive pienenee 78 % ja yhden xpu-kortin suorituskyky kasvaa 67 %, mikä parantaa merkittävästi päättelykokemusta ja pienentää kustannuksia.
digitaalisen älykkyyden aikakauden uusi tekoälyvarasto tuottaa arvoa alan skenaarioissa, kuten rahoitusluottojen, sijoitustutkimusanalyysin, lääketieteellisen terveyden sekä lääketutkimuksen ja -kehityksen yhteydessä. zhou yuefeng sanoi, että tiedon kultakaudella huawei on vapauttanut edistyneet tiedontallennusominaisuudet innovatiivisella ai-tallennustillaan ja luonut perustan digitaalisen älykkyyden aikakaudelle.
