dialogi kiinan laskentatehokonferenssissa｜akateemikko liu yunjie: kotimaisen laskentatehon on korvattava puutteensa gpu-klustereiden avulla
2024-09-29
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
tekoälyn (ai) aikakausi on myös laskentatehon aikakausi. teknologiayritykset ja teleoperaattorit kotimaassa ja ulkomailla ovat "käärineet" 10 000 korttia tai jopa yli 10 000 korttia, mutta ekologisen yhteensopivuuden ja heterogeenisen laskennan kaltaisista ongelmista on tullut myös vuoria, joita alan on kiivettävä.
kiinan tekniikan akatemian akateemikko liu yunjie sanoi 28. syyskuuta beijing news shell financen ja muiden tiedotusvälineiden haastattelussa, 2024 china computing power conference -konferenssin avajaisissa, että kotimaiset päätepisteen gpu:t eivät silti pysty kilpailemaan. vieraiden maiden kanssa lyhyessä ajassa. mahdollinen tapa korjata puutteet on rakentaa laskentatehoverkko, joka "kouluttaa koko laskentatehon" ja antaa täyden pelin gpu-klusterien vaikutukselle.
lisäksi hän huomautti, että ei voida vain arvioida, kummalla yrityksellä on enemmän etuja laskentatehoverkon rakentamisessa, vaan lähinnä teknisen arvioinnin perusteella. "se riippuu siitä, voidaanko tekniikkaasi käyttää ja kehittää, ja vastaako innovaatiosi ja valitsemasi polku tarpeisiin."
tällä hetkellä liu yunjien tutkimalla deterministisellä verkkotekniikalla voidaan säästää 60–70 % kustannuksista. hänen yhdessä muiden laitosten kanssa käynnistämä tietokoneverkkojen aikataulutusprojekti voi saavuttaa useita ulkopuolisia koulutusta 80 prosentin tehokkuuden saavuttamiseksi. pisteen koulutus.
liu yunjie, kiinan tekniikan akatemian akateemikko. kuva haastateltavan luvalla.
tietojen kiertoon ja laskentatehon käyttöongelmiin liittyvien ongelmien ratkaisemiseksi suositellaan ottamaan alan suuria malliratoja.
"kiinan on valittava suurten teollisuusmallien polku." liu yunjie korosti pääpuheessaan. hän uskoo, että kotimaiset yleiskäyttöiset suuret mallit voivat lyhyellä aikavälillä jäädä huomattavasti yhdysvalloista jälkeen, ja niitä on vaikea saada kiinni.
hän ehdotti, että jos kotimaiset malliyritykset voivat kouluttaa alan dataa hyvin ja tehdä alan suuria malleja yleisiin suuriin malleihin perustuen, ne "voivat ehdottomasti seurata kiinan polkua". hän on optimistinen tämän teknisen suunnan suhteen, koska hän uskoo, että "kiinan teollisuuden tiedot ovat täydellisimpiä ja kattavimpia."
samalla hän sanoi, että suurten teollisuusmallien kehittäminen vaatii valtion, yritysten ja pääoman yhteisiä ponnisteluja. hän kertoi shell financen toimittajalle, että tällä hetkellä kotimaisen datan jakamista ja kiertoa on vielä vahvistettava, mikä on vaikuttanut koulutusalan laajaan malliin, ja "kaikki tutkivat edelleen", minkä tyyppistä raitaa on lupaavampi.
vuoden 2024 kiinan laskentatehokonferenssissa julkistetut tiedot osoittavat, että kansallisen laskentatehon kokonaismittakaava on 246 eflopsia. liu yunjien havainnon mukaan kotimainen laskentateho on saavuttanut tietyn mittakaavan, mutta käyttöaste ei ole kovin ihanteellinen.
"jos laskentateho haluaa palvella reaalitaloutta, useiden osapuolten on oltava samaa mieltä." lisäksi hallituksen pitäisi sanoa hyviä asioita, "(koska) hallitus on ratkaissut ongelman." lopuksi yritysten on sanottava hyvin: "(koska) yritykset ovat parantaneet omaa tehokkuuttaan käyttämällä laskentatehoa ja internetiä."
hän korosti, että "yhden osapuolen sopimuksen" vaikutus ei ole kestävä, mikä tarkoittaa, että alalle ei ole muodostunut laskentatehoekosysteemiä. "jos emme ratkaise ekologista ongelmaa, emme voi käyttää sitä (laskentatehoa)."
deterministinen verkko on yksi tulevaisuuden laskentatehoverkon perustekniikoista, joka säästää 60–70 % kustannuksista.
"suuri mallikoulutus vaatii häviötöntä tiedonsiirtoa ja asettaa vaatimuksia verkon indikaattoreille, kuten pakettihäviölle, värinälle ja viiveelle", liu yunjie sanoi. kansainvälisten datastandardien esimerkkinä hän selitti, että jos pakettihäviöaste saavuttaa viisi tuhannesosaa, lähetystehokkuus laskee 50 %.
hän selitti lisäksi, että tämä on kuin käyttäisit koko 100 gt:n kaistanleveyttä tiedon lähettämiseen, ja vain 50 gt:n kaistanleveys on hyödyllinen. "kun se putoaa yhteen prosenttiin, sen tehokkuus on suunnilleen yhtä suuri kuin 0, mikä tekee harjoittelun ja järkeilyn mahdottomaksi."
rdma (remote direct memory access) -protokollaa tarvitaan verkkoon, jotta vältytään pakettien katoamiselta. tämän tekniikan avulla tietokone voi käyttää suoraan etätietokoneen muistia, lähettää tietoja muistitasolla ilman toistuvaa cpu:n puuttumista ja vähentää lähetys- ja vastaanottopään käsittelyviivettä ja resurssien kulutusta tiedonsiirtoprosessin aikana.
kuinka täyttää tiedonsiirtostandardit laajalle mallikoulutukselle ja päättelylle? liu yunjie uskoo, että deterministinen verkkotekniikka täyttää suhteellisen vaatimukset, ja hän pitää sitä "perusteknologiana tulevaisuuden laskentatehoverkkoihin". liu yunjie paljasti, että vuonna 2022 hän johti tiimin avaamaan deterministisiä verkkoja 35 kaupungissa. kaupunkien määrä on nyt kasvanut 39:ään. se voi saavuttaa alle 50 mikrosekunnin päästä päähän -viiveen ja värinän ja saavuttaa nollan pakettihäviön. .
deterministisen verkkoteknologian kehittämisprosessissa liu yunjie uskoo, että tärkein teknologinen läpimurto on valosähköinen integraatio, joka tuo läpimurtoja kaistanleveyden hyödyntämisessä, verkon kustannuksissa ja energiankulutuksessa.
kustannusten suhteen hän otti esimerkkinä tietyn autonomisen ajoyrityksen ja selitti, että 20 ajoneuvon 4 paikassa eri puolilla maata päivittäin tuottamat autonomisen ajon tiedot lähetetään ensin takaisin shanghaihin ja sitten guiyangiin koulutukseen, mikä vaatii n. kaksi 10g- ja 1g-piiri maksaa noin 10 miljoonaa yuania vuodessa.
mitä minun pitäisi tehdä, jos minulla ei ole siihen varaa? siirtyminen kiintolevyjen käyttöön tiedon keräämiseen ja sen kuljettamiseen kahden kaupungin välillä ottaen huomioon tietojen katoamisen, kiintolevyvauriot jne. maksaisi noin 1,9 miljoonaa yuania vuodessa. ja käyttämällä determinististä verkkoa palvelujen tarjoamiseen viipaloinnin kautta, "120 000 yuania vuodessa riittää."
liu yunjie korosti, että tämä kustannussäästötaso saavutetaan verkon jakamisen avulla. hänen pääpuheessaan esittämänsä tiedot osoittivat, että se on ollut käynnissä testiverkossa yli kolme kuukautta, parametrien tehokkuuden ollessa yli 95 % ja kustannussäästöillä 60–70 %.
anna täysi peli gpu-klusterin vaikutukselle korvataksesi kotimaisen laskentatehon puutteet
onko laskentatehoverkko todennäköisesti suunta, jossa kotimainen laskentateho ohittaa ulkomaisen laskentatehon tulevaisuudessa? liu yunjie sanoi, että tarkempi käsitys on "korjata puutteet". hän uskoo, että päätepisteemme gpu ei vielä lyhyessä ajassa pysty kilpailemaan ulkomaisten maiden kanssa. "en ehkä pysty vastaamaan teitä yhdessä suhteessa, mutta voin voittaa sinut hyödyntämällä ryhmän vahvuutta." hän korosti edelleen, että gpu-klusterien vaikutuksen saavuttamiseksi on tarpeen rakentaa verkko "kouluttamiseen". koko laskentatehon."
hän uskoo, että suuret mallit voivat omaksua yhteistyön harjoittamisen ja hajautetun koulutuksen. "jos 100 000 korttia koulutetaan yhdessä paikassa, hän paljasti, että hänen tiiminsä käynnisti ohjelman yhdessä kiinan tiedeakatemian kanssa." national supercomputing wuxi center ja muut instituutiot kansallisen laskentatehoverkon aikataulutusprojektilla voidaan saavuttaa jono-ongelmien ratkaiseminen minuuttitasolla, ja usealla ulkopuolisella koulutuksella voidaan saavuttaa 80 prosentin tehokkuus yhden pisteen koulutuksessa. "periaatteessa hajautettu koulutus ja yhteistyökoulutus ovat mahdollisia."
puhuessaan laskentalaitteiston ja ohjelmiston välisen kehityssuhteen koordinoinnista liu yunjie ehdotti, että ohjelmistot ja laitteistot tulisi yhdistää ja integroida kehitystä varten.
laitteiden tuotanto kuluttaa geofysikaalisia resursseja, hän sanoi. "(joka kerta) se kuluttaa vähän, resurssit ovat vähän vähemmän ohjelmisto on suhteellisen joustava, sitä voidaan muokata ja se kuluttaa vähemmän fyysisiä resursseja." lisäksi liu yunjie uskoo, että ohjelmistokehitys kuluttaa tietyn määrän henkilöresursseja, mutta tekoälyn soveltamisen jälkeen kehitystehokkuutta on nopeutunut. sitten hän ehdotti, että kaikkia ohjelmistoilla korvattavia osia tulisi kehittää mahdollisimman paljon.
"mutta ohjelmisto ei ole kaikkivoipa, ja sen on täytettävä laskentatehon edellyttämät laitteistoehdot." hän uskoo, että ne osat, joita ohjelmisto ei kestä, on kehitettävä yhdessä laitteiston kanssa.
miten luodaan jaettu laskentatehoverkkoekosysteemi? liu yunjie ehdotti, että asianomaisten ministeriöiden tulisi koordinoida ja hallinnoida sitä ja yritysten ja tieteellisten tutkimuslaitosten tulisi tehdä tiivistä yhteistyötä. "tämä on kokonaisprojekti, mutta tällä hetkellä jokainen työskentelee itsenäisesti."
beijing news shell finance -toimittaja wei yingzi
toimittaja lin zi
oikoluku liu jun
