2024-07-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Jin Lei tulee Aofein temppelistä
Qubits |. Julkinen tili QbitAI
Intelille"Valo", murtaen suurten mallien aikakauden hankalasta laskentatehoongelmasta --
Lanseerasi alan ensimmäisen täysin integroidunOCI(Optical Computing Interconnect) -siru.
△ Lähde: Intel
Sinun on tiedettävä, että kun suuret tekoälymallit noudattavat skaalauslakia, parempien tulosten saavuttamiseksi joko mallin mittakaava tai dataskaala kehittyy kohti suurempaa trendiä.
Tämä saa suuret tekoälymallit asettamaan korkeampia vaatimuksia koko laskenta- ja tallennustilalle, mukaan lukien väli I/O-viestintä, laskentatehotasolla.
Intelin läpimurto tällä kertaa on täsmälleenI/O-viestintä：
CPU:ssa ja GPU:ssa,Käytä optista I/O:ta sähköisen I/O:n sijaan tiedonsiirrossa.
Mitä hyötyä?
Pähkinänkuoressa,Tiedonsiirtoetäisyys on paljon pidempi，Määrä on suuri，Virrankulutus on alhainen——"Fyysinen rakenne" sopii paremmin suuriin tekoälymalleihin.
△ Lähde: Intel
Joten miksi Intel käyttää "light"? Miten se konkreettisesti toteutetaan?
Perinteisellä sähköisen I/O-menetelmällä (kuparijohtoliitäntä) on varmasti etunsa, kuten suuren kaistanleveyden ja alhaisen virrankulutuksen tukeminen, mutta kohtalokas ongelma onLähetysetäisyys on suhteellisen lyhyt (alle 1 metri)。
Ei ole ongelmaa, jos tämä sijoitetaan telineeseen, mutta suurten tekoälymallien laskentateho on usein palvelinklusterin tasolla.
Se ei vain vie suurta aluetta, vaan se ulottuu myös N-telineisiin. Kaapeleiden on oltava kymmeniä tai jopa satoja metrejä, ja virrankulutus on melko suuri, joten se syö kaiken telineiden tehon että ei ole tarpeeksi tehoa laskenta- ja muistisirun luku- ja kirjoitustoimintojen suorittamiseen.
sitä paitsi,Talletus-tili-suhdeToisaalta juuri suurten mallien "isojen" ominaisuuksien vuoksi alkuperäinen kerran lukemisen ja satojen laskelmien tekemisen suhde on nyt lähentynyt 1:1:een.
△ Lähde: Intel
Tämä vaatii uuden menetelmän, jolla voidaan lisätä laskentatehoa ja tallennustiheyttä samalla kun vähennetään virrankulutusta ja pienennetään kokoa, mikä lisää laskentaa ja tallennustilaa rajoitettuun tilaan.
Optisella I/O:lla ongelma on ratkaistu:
Se tukee 64 32 Gbps kanavaa yhteen suuntaan optisella kuidulla 100 metriin asti.
Kuvametafora on aivan kuten käyttökuljetus(rajoitettu kapasiteetti ja etäisyys) käytettäväksiautot ja kuorma-autottavaroiden toimittamiseen (suuremmat erät ja pidemmät etäisyydet).
Ei vain sitä, että vaikka olisi tarkoitus suorittaa suurempi tiheys ja joustavampi tiedonsiirtotyö suhteellisen lyhyellä etäisyydellä, OCI:tä voidaan verratamoottoripyörä, nopeampi ja joustavampi.
On syytä mainita, että tämä OCI-menetelmä ei ole vain teoreettinen.
Intelin mukaan he ovat hyödyntäneet todistettua piifotoniikkatekniikkaa integroidakseen piifotoniikan integroituja piirejä (PIC), jotka sisältävät sirulla olevia lasereita, optisia vahvistimia ja elektronisia integroituja piirejä.
Ja se on aiemmin osoittanut, että omalla prosessorilla pakatut OCI-sirut voidaan integroida myös SOC:iin (system-on-chip), kuten seuraavan sukupolven prosessoreihin, GPU:ihin ja IPU:hin.
Ei vielä valmis, Intel on toimittanut yli 8 miljoonaa piin fotonista integroitua piiriä, joista yli 32 miljoonaa laseria on nyt käytössä.
△ Lähde: Intel
Joten seuraava kysymys on:
Intel Researchin varapuheenjohtaja ja Intel China Researchin johtajaLaulu JiqiangViestintäprosessin aikana hän teki syvällisen analyysin ja tulkinnan tästä asiasta.
△ Song Jiqiang, Intel Research Instituten varapuheenjohtaja ja Intel China Research Instituten johtaja
Piifotoniikkatekniikka yhdistää kaksi 1900-luvun tärkeintä keksintöä: piiintegroidut piirit ja puolijohdelaserit.
Se tukee nopeampia tiedonsiirtonopeuksia pitemmillä etäisyyksillä kuin perinteinen elektroniikka hyödyntäen samalla Intelin suuren volyymin piivalmistuksen tehokkuutta.
Intelin tällä kertaa julkaisema piifotoniikan integraatioteknologia, OCI-sirut ovat saavuttaneet optoelektronisen yhteispakkauksen tason.
Tämä optoelektroninen yhteispaketti asettaa piin fotonisen integroidun piirin (PIC) ja elektronisen integroidun piirin (EIC) substraatille OCI-sirun muodostamiseksi, joka toimii integroituna liitäntäkomponenttina.
Tämä tarkoittaa, että xPU, mukaan lukien CPU, ja tulevat GPU:t voidaan pakata OCI-siruihin.
OCI-ydin muuntaa kaikki datakeskuksen CPU:sta tulevat sähköiset I/O-signaalit valoksi ja välittää ne toisilleen kahden datakeskuksen solmujen tai järjestelmien välillä optisten kuitujen kautta.
Nykyinen kaksisuuntainen tiedonsiirtonopeus saavuttaa 4 Tbps:n ylemmän kerroksen siirtoprotokolla on yhteensopiva PCIe 5.0:n kanssa ja tukee 64 32 Gbps kanavaa yhteen suuntaan, mikä riittää nykyisissä datakeskuksissa:
Se käyttää 8 paria optisia kuituja ja kuluttaa vain 5 picojoulea (pJ) bittiä kohden tai 10-12 joulea. Tämä data on kolme kertaa pienempi kuin kytkettävien optisten lähetin-vastaanotinmoduulien virrankulutus (jälkimmäinen on 15 picojoulea joulea kohden). ).
△ Lähde: Intel
Optisessa lähetyskanavassa siinä on itse asiassa 8 eri kaistaa. Jokaisen kaistan taajuusväli on 200 GHz, ja se vie yhteensä 1,6 THz:n spektrivälin lähetystä varten.
Valo vaihtelee näkyvästä valosta näkymättömään valoon. Itse asiassa sen spektrin leveys on THz:stä alkaen lähellä optista viestintää.
Joten millä aloilla OCI-ydinhiukkasia käytetään tulevaisuudessa?
Tältä osin Song Jiqiang sanoi:
Yksi on se, että voit käyttää sitä tiedonsiirron saavuttamiseen, ja voit myös pakata sen laskentapiirien, kuten CPU:n ja GPU:n, kanssa.
Piifotoniikan integraation ja edistyneen pakkaustekniikan ansiosta Intelillä on myös monia erilaisia tekniikoita, joilla saavutetaan suurempi tiheys I/O-sirujen kanssa, ja sitten ne yhdistetään muihin xPU-piiriin muodostaakseen monia erilaisia tyyppejä, jotka perustuvat tietojenkäsittelyn tyyppeihin ja yhteenliittämissiruilla on erittäin hyvät sovellusmahdollisuudet.
OCI I/O -rajapintapiirin suorituskyvyn kehityssuunnitelmasta päätellen se voi tällä hetkellä saavuttaa 32 Tbps:n siirtonopeuden teknisen ratkaisun, joka perustuu pääasiassa kolmen indikaattorin iteratiiviseen ja jatkuvaan parantumiseen, nimittäin:
Näillä kolmella indikaattorilla kerrottuna nykyinen tiedonsiirtonopeus on 2 Tbps yhteen suuntaan ja 4 Tbps molempiin suuntiin. Tulevaisuudessa voimme jatkaa kehitystä ylöspäin ja asteittain parantaa kaistanleveyden ominaisuuksia.
△ Lähde: Intel
Lopuksi Song Jiqiang selitti myös Intelin erilaistumisen piifotoniikan integraatioteknologiassa:
Suurin syy on se, että rakennamme korkeataajuisia lasersäteilijöitä kiekolle ja integroimme pii-optisia vahvistimia. Nämä ovat kaksi suhteellisen ydinteknologiaa, jotka molemmat valmistetaan kiekotasolla.
Seuraavaksi voimme valmistaa massatuotantona tällaisia erittäin integroituja lasereita, koska tämän on-chip laserin etuna on, että se voidaan siirtää tavallisilla optisilla kuiduilla.
Ja vakauden kannalta se on melkeinVirheen ilmeneminen kestää 10 miljardia tuntia。
Joten mitä mieltä olet Intelin valinnan "valosta"? Tervetuloa jättämään viesti kommenttikenttään keskustelua varten.
Viitelinkit:
[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfA
[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-IO-Chiplet-Co-packaged-with-CPU-at/post /1582541
[3]https://www.youtube.com/watch?v=Fml3yuPR2AU
Kerää ja järjestele viimeisimmät uutiset ja tee ne kaikkien tarkastettavaksi ilmaiseksi.
