uutiset

Tekoälyn aikakauden voimalaitos ilmestyy Pekingiin!Kotimaiset sirut on koottu ja älykäs laskentateho on käyttövalmis heti pakkauksesta

2024-08-02

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

  • Crecy tulee Aofein temppelistä
    Qubits |. Julkinen tili QbitAI

Tekoäly on epäilemättä tärkeä aihe nykyään, ja se edistää digitaalisen talouden kehitystä eri menetelmien, kuten suurten mallien, vertikaalisten sovellusten ja älykkäiden agenttien avulla.

Tekoälyä palveleva infrastruktuuri kuitenkin...Laskentateho ja data, on tekoälyn kehitystä rajoittava pullonkaula, ja siitä on tullut myös jatkokeskustelun aihe.

Miksi tämä pullonkaula on edelleen olemassa? Kuinka rikkoa se?

Olemme nähneet joitain vastauksia vuodeksi perustetun Nortel Digital Intelligencen toiminnassa -

"Tekoälytehdas", joka kerää kotimaista laskentatehoa, joka on "saatavana suoraan laatikosta", on noussut Pekingiin.

"AI Factory" kohdistuu laskentatehon ahdistukseen

Olipa kyseessä yksittäinen ammattilainen tai koko toimiala,Tehokkaan laskentatehon puuteTämä on kipukohta, joka on ratkaistava kiireellisesti.

Kysyntäpuolelta suurten mallien edustaman generatiivisen tekoälyn kukoistava kehitys, kiivas "sattojen mallien taistelu" ja johtopäätösten aikakauden tulo tuovat epäilemättä valtavan lisäyksen laskentatehon kysyntään.

Kiinan tekniikan akatemian ja yli kymmenen laitoksen yhdessä julkaisema raportti Intelligent Computing -alalehdessä huomautti, että tekoälyn vaatima laskentateho kaksinkertaistuu 100 päivän välein Tämän laskelman perusteellakasvaa yli miljoona kertaa seuraavan viiden vuoden aikana



Lisäksi tekoälyn aikakaudella laskentatehon kysyntä ei ole enää vain FLOPS:ien määrä, vaan myös laskentatehon kysynnän rakenne on kokenut suuria muutoksia.

AIGC:n aikakaudella laskentatehon rakenne on muuttunut CPU+kiihdyttimestä GPU-johtoiseksi.Laajamittainen rinnakkaislaskenta, älykkään laskentatehon osuus kasvaa nopeasti

Mutta tällä hetkellä kotimaisten sirujen, erityisesti huippuluokan sirujen, ja alan edistyneiden tuotteiden välillä on sukupolvien välinen kuilu monissa asioissa, kuten tietojenkäsittelyn suorituskyvyssä, virrankulutuksessa ja korttien välisessä tiedonsiirtonopeudessa.



Myös siruttomat tekijät rajoittavat laskentatehon tehokasta käyttöä, kuten riittämättömät verkon lähetysominaisuudet solmujen välillä, epätäydellinen tukiohjelmistoekologia ja niin edelleen.

Tässä todellisuudessa suurinta osaa kotimaisesta älykkäästä laskentatehosta ei voida käyttää tehokkaasti, mikä on synnyttänyt alan toisen huolen laskentatehosta.



Perimmäinen syy tällaiseen ahdistukseen on seKäyttäjillä ei ole selkeää ymmärrystä moniytimisen, etenkään kotimaisen laskentatehon, kyvyistä., voidaan tiivistää useisiin näkökohtiin:

  • Kotimaisista laajamittaisista moniytimisistä klustereista puuttuu valmiuksia, eivätkä ne pysty tukemaan laajamittaista laskentatehon mukauttamista ja arviointia lähellä tuotantoympäristöjä. Toisin sanoen yksisirutestaus voi tarjota vain arvioitua dataa korttien ja laskentasolmujen välisestä yhteydestä, mutta kiihtyvyyssuhteesta ei ole tietoa;
  • Olemassa oleva alusta perustuu pääasiassa eksponentiaalisiin arviointiindikaattoreihin, eikä sitä voida yhdistää käyttäjien liiketoimintaskenaarioihin. Se ei avaa täysin sopeutumislinkkiä liiketoimintaskenaarioista taustalla oleviin siruihin pystyy täyttämään omat tarpeet;
  • Kiinassa on pulaa moniytimisistä heterogeenisistä palvelualustoista, ja myös moniytimistä heterogeenisiä, hybridikoulutus- ja päättelytehtäviä yritetään.

Yleisesti ottaen kysyntäpuoli ei tiedä, mitä palveluita toimittaja voi tarjota ja millaista tukea sen varsinaiselle liiketoiminnalle on selkeä arviointi ja standardi.

Rikkoakseen tämän käsityksen ja ratkaistakseen laskentatehon ahdistuksen palapelin yritys nimesi"Spark·Smart Calculation"AIDC-brändi syntyi.

"Yksi kipinä voi sytyttää preeriapalon." Spark-nimen valinta johtuu siitä, että ratkaisun tarjoaja toivoo, että tämä tuotemerkki voi sytyttää preeriatulen ja saavuttaa valtakunnallisen replikoinnin.

Tämän suunnitelman ehdottaja oliNortel Digital Intelligence——Pekingin elektronisen ohjauksen alainen korkean teknologian yritys, joka keskittyy tekoälyyn.

Nortel Digital Intelligence uskoo, ettäLaskentateho on uusi tuottavuuden muoto tekoälyn aikakaudella

Maatalouden aikakaudella maapallo oli laskentatehoa;
Koneaikakaudella sähkö ja höyryteho ovat laskentatehoa;
Tekoälyn aikakaudella laskentateho on ensisijainen tuottavuuden muoto, aivan kuten hiili, vesi ja sähkö.

Jotta laskentatehosta tulisi sähkön kaltainen tuottavuustekijä, emme voi enää keskittyä yksinkertaiseen sirujen, palvelimien ja kaappien pinoamiseen.Muutos "laskentatehovarastosta" "AI-tehtaaksi", varustettu vastaavilla uusilla laatutuotantosuhteilla.

Tämä on myös Nortel Digital Intelligencen uusi idea Spark Intelligent Computingia rakennettaessa.

Erityisesti Spark Intelligent Computing tukee tekoälyteknologian innovaatioita ja soveltamista tarjoamalla kattavaa laskentatehoa, kuten vettä, sähköä ja hiiltä.

Toisaalta "AIDC as a service" -konseptin avulla se tarjoaa tukipalveluita, kuten perusmalleja, teollisuusmalleja ja yhden luukun työkaluketjuja, joiden avulla yritykset voivat nopeasti ja helposti rakentaa haluamiaan sovelluksia tai rekonstruoida nykyisiä tuotteita. saavuttaa innovaatioita tuotantomenetelmissä.

Tällä hetkellä "Xinghuo Intelligent Computing" -brändin ensimmäinen vertailuprojekti——Pekingin digitaalisen talouden laskentakeskusRakentaminen on alkanut, ja sitä käytetään jatkossa mallina, joka otetaan käyttöön koko maassa.

Auttaakseen paremmin laskentatehon nostamista Nortel Digitalilla on myös kaksi ydintuotetta, jotka vastaavat täysin alan laskentatehon aiheuttamaan ahdistukseen:

  • Advance·AI Heterogeneous Computing Platform, vastauksena nykyiseen huippuluokan laskentaresurssien pulaan, määritä moniytiminen heterogeeninen ratkaisu, joka vastaa parhaiten kotimarkkinoiden tarpeita;
  • Pagoda·Large Model Adaption Platform, sovittaa sirua laajasti alaspäin, jotta siru voidaan laajasti irrottaa ja mukauttaa suuresta mallista;

Nämä kaksi tuotetta ovat "yksi runko ja kaksi puolta", jotka ratkaisevat laskentatehon ahdistuksen eri ulottuvuuksista.

Advance·AI heterogeeninen laskenta-alusta, joka on täydellinen kotimainen laskentatehon todentamisalusta, voi toteuttaa useiden laskentatehojen yhtenäisen hallinnan ja ajoituksen. Samalla se on ensimmäinen, joka ottaa käyttöön tehostepohjaisen laskutuksen pyynnöstä tietämättä taustalla olevia yksityiskohtia ja toteuttaa sujuvan siirtymisen useiden laskentatehojen välillä.

Mahdollistaakseen laskentatehon paremman hyödyntämisen Spark Intelligent Computing on myös tehnyt läpimurtoja yhtenäisen viestinnän, käännöksen optimoinnin ja muiden teknisten läpimurtojen avulla heterogeenisen AI-alustan avullaParanna kotimaisten sirujen suorituskykyä 2-3 kertaa ja lisää suorituskykyä 6-7 kertaa

Samalla kun Qianjin AI -heterogeeninen laskenta-alusta tarjoaa käyttäjille laskentatehon tuen, se luo myösUusi arviointitila "siru × malli × kohtaus", auttaa rikkomaan tietojen epäsymmetriaa valmistajien ja käyttäjien välillä ja auttaa siruvalmistajia murtamaan tilanteen,Anna kotimaisten sirujen muuttua "saatavilla" "helppokäyttöisiksi"

Tämä tarkoittaa, että samalla kun se tarjoaa käyttäjille laskentatehon tuen, se edistää myös kotimaisten sirujen yleistä parantamista ja tuo lisää lähdelaskentatehoa.

Pagoda·Large Model Adaptation System on voimaannuttamisen malli- ja sovelluspuoli, tukee mallin käyttöönottoa ja hallintaa, suorittaa laskentatehon hienostunutta toiminnanhallintaa ja tukee edelleen tekoälysovelluksia.

Anna korkealaatuisen tiedon kiertää

Jos laskentatehon puutteet ovat yksi "tumma pilvi" tekoälyrakennuksessa, datapuutteet ovat toinen hyvin ansaittu.

Dou Dejing, Nortel Digitalin päätutkija ja Fudanin yliopiston tietojenkäsittelytieteen ja teknologian korkeakoulun arvostettu professori, sanoi julkisessa puheessa,Tietojen laajuus ja laatu määräävät tekoälyn "ylärajan".——Onpa kyseessä koulutus tai päättely, sen tukemiseksi tarvitaan korkealaatuista tietoa.

Esimerkkinä Llama 3.1, Metan julkaisema uusin avoimen lähdekoodin malli. Sen kolmannen sukupolven malli kuluttaa 15 T harjoitustietoa yli 16 000 H100-grafiikkasuorittimella, mikä on 7 kertaa enemmän kuin toinen sukupolvi se on toisen sukupolven malli, joka hyppää saman parametriasteikon alla.

Maassamme tiedon tarjontapuolen nykyinen tilanne on myös saman ahdistuksen edessä kuin laskentateho...Kokonaismäärä on runsas, mutta korkealaatuista dataa on tiheästi asutettu.

IDC:n arvioiden mukaan Kiinan datamäärä kasvaa 23,88 ZB:stä 76,6 ZB:iin vuodesta 2022 vuoteen 2027, mikä on maailman ensimmäisellä sijalla.

Sillä ehdolla, että määrä on jo niukkaa, edessä on arvokasta tietoa"Sitä ei voida toimittaa, sitä ei voida kierrättää eikä sitä voida käyttää hyvin."Tämä dilemma vaikeuttaa arvon käyttämistä, mikä tekee jo ennestään rajallisista tietoresursseista entistä jännittyneempiä.

Toisaalta datan integrointiaste on myös vakavasti riittämätön. Suuri tietomäärä on hajallaan teollisuuden puolella tai vertikaalisten järjestelmien sisälläei jäsenneltyä, ei voida käyttää suoraan suuriin malliharjoituksiin.

Taustalla oleva syy onTietoturvaa tukevan kypsän teknologian ja luotettavien mekanismien puuteYritykset, joilla on tietoja "eivät tiedä, eivät uskalla, eivät voi eivätkä halua" antaa tietojen liikkua vapaasti Nämä "neljän ei" status quo ovat lisänneet pulaa nykypäivän tietojoukoista ja muodostaneet loputtoman kierteen.

Eli ykkösprioriteetti onLuo luotettava ja turvallinen tietomekanismi

Tätä tarkoitusta varten Nortel Digital Intelligence on lanseerannut toisen tärkeän tuotteen --Red Lake·Trusted Data Space, jolloin tietoelementit voidaan kerätä kokonaan ja kohtaus avata kokonaan.

Red Lake·Trusted Data Space on "luotettavuuden" ympärille rakennettu monikerroksinen ratkaisu, jonka tavoitteena on elvyttää dataa, tarjota korkealaatuisia luotettavia datapalveluita ja luoda "turvallisen jakamisen ja luotettavan kierron" tietoympäristö.

Teknisestä näkökulmasta katsottuna Red Lake Trusted Data Space on varustettu luotetulla datahiekkalaatikolla, joka käyttää tekniikoita, kuten "loogista tietovarastoa" tietojen tuontiin, muokkaamiseen ja poistamiseen sekä tietosuojan ja lohkoketjun teknologiaa varmistaakseen tietoturvan ja avoimuutta, varmistaa tietojen jäljitettävyys ja läpinäkyvyys ja saavuttaa "täysi ketjun hallittavuus".

Tämä lähestymistapa tekee tiedoista uskottavia, hallittavia, saatavilla, tarkastettavia ja salattuja sen suojaamiseksi, mikä luo tiedonjako- ja sovellusympäristön, jossa monen osapuolen keskinäinen luottamus ja tiedonsiirtosopimus täyttyvät.

Tällaisilla koko prosessin ajan hallittavissa olevilla turvatoimilla tiedon omistajat voivat uskaltaa laittaa tietoresurssinsa markkinoille ja houkutella lisää tiedonhaltijoita osallistumaan prosessiin.

Varhaisen datainvestoinnin myötä myös tiedonjakelun ekosysteemi kypsyy, tiedon jakamisen muoto tulee täydellisemmäksi ja kätevämmäksi ja virtaava korkealaatuinen data ruiskuttaa enemmän tuoretta verta alan kehitykseen.

Samalla Nortel Digital on itse tuonut laadukasta dataa alalle.Vertikaalinen mallimatriisi on laadittu lääketieteen, koulutuksen, kulttuurin ja muilla aloilla., jolloin tekoälyyritykset voivat löytää paremmin toteutusskenaarioita.



Joten, kuka on Nortel Digital Intelligence, ja miten se keksi niin kattavan ratkaisun tekoälyteollisuuden kipupisteisiin?

Tekoälyn aikakauden "voimalaitos", teollisuusketjun "helmimies".

Nortel Digital Intelligence on Beijing Electronic Control Groupin alainen korkean teknologian yritys, joka keskittyy tekoälyyn ja sen paikannus onTäyden pinon AI-palveluntarjoaja

Ennen Nortel Digital Intelligencen perustamista GPT-3.5 osui samaan aikaan GPT-3.5:n julkaisun kanssa. Tuolloin tekoälyn uusi aikakausi käynnistyi täysin, ja tekoälyn kilpailu kiihtyi. Nortel Digital Intelligence syntyi ajan kehityksen ja markkinoiden kysynnän mukaisesti.

Kun se perustettiin, Nortel Digital Intelligencen ensimmäinen projekti oli Beijing Digital Economy Computing Power Center, joka sijoitettiinÄlykkään laskentatehon tarjoaminen yleisölle kattavan laskentatehon saavuttamiseksi

Toisin sanoen tämä laskentatehokeskus on kuin "voimalaitos", joka mahdollistaa laskentatehon, kuten veden, sähkön ja hiilen, tehostaa koko tekoälyteollisuutta alustasta sovellukseen.

Strategia- ja markkinointijohtaja, Nortel Digital IntelligenceYang ZhenJohdanto, tämä on ero Nortel Digitalin ja Digital Technologyn välillä. Nortel Digitalin ensisijaisena tavoitteena on tukea tekoälyteollisuutta, jotta tekoälyyritykset tai yksittäiset kehittäjät voivat nopeasti käyttää tekoälyä ja nauttia tekoälystä.

Koko tekoälyteollisuudessa Yang Zhen uskoo, että Nortel Digital Intelligence pelaa aTeollisuusketju "helmimies"Rooli - jos tässä toimialaketjussa on jo helmiä, pujota ne kiinni, jos ei, tee niitä.

Esimerkiksi kotimaisten sirujen kiihdytys, vertikaalisten mallien asettelu toimialamalleissa ja yllä mainittu luotettava tietoavaruus ovat kaikki tämän toimialaketjun "helmiä".

Sen lisäksi, että Beijing Digital Economy Computing Power Center tarjoaa laskentatehotuotteita, se on myös erityisesti suunnitellut viestintä- ja näyttötilan, jotta samoilla tai eri aloilla toimivat tekoälyn harjoittajat voivat törmätä ja kommunikoida, mikä edistää kattavampaa ja syvempää innovaatiota.

Tulevaisuudessa tämän atk-keskuksen avoin tila avataan myös yleisölle "tietotekniikan puistona", jolloin useammat ihmiset ymmärtävät tuotannon muutoksen voimaa tekoälyn aikakaudella.

Lyhyesti sanottuna Nortel Digital käyttää älykästä laskentakeskusta tukena yhdistämään alku- ja loppupään teknologioita, tuotteita ja palveluita, kuten siruja, palvelimia, suuria malleja, tekoälysovelluksia ja teollisia investointeja tekoälyteollisuuden kasvun ja vaurauden edistämiseksi. ja ajaa alueellisten talouden alojen parantamista.

Tähän mennessä Nortel Digital Intelligencellä on yli tuhat tekoälyalan ekologista kumppania, jotka kattavat tähtiradat, kuten tekoälyavusteisen lääketutkimuksen ja -kehityksen, yleiset robotit/kehittynyt älykkyys, kuljettajaton ajaminen ja tekoälyagentit.