notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Jin Lei proviene dal Tempio Aofei
Qubit |. Account pubblico QbitAI

Per Intel"Leggero", sfondando lo spinoso problema della potenza di calcolo nell'era dei modelli di grandi dimensioni——

Lanciato il primo sistema completamente integrato del settoreOCI(Optical Computing Interconnect).

△Fonte: Intel

Devi sapere che quando i grandi modelli di intelligenza artificiale seguono la legge di scala, al fine di ottenere risultati migliori, la scala del modello o la scala dei dati si stanno sviluppando verso una tendenza più ampia.

Ciò farà sì che i grandi modelli di intelligenza artificiale presentino requisiti più elevati sull’intero calcolo e archiviazione, inclusa la comunicazione I/O intermedia, a livello di potenza di calcolo.

La svolta di Intel questa volta è esattamenteComunicazione I/O：

Nella CPU e nella GPU,Utilizzare I/O ottici invece di I/O elettrici per la trasmissione dei dati.

A cosa serve?

In poche parole,La distanza di trasmissione dei dati è molto più lunga，La quantità è grande，Il consumo energetico è basso——Il "fisico" è più adatto a modelli di intelligenza artificiale di grandi dimensioni.

△Fonte: Intel

Allora perché Intel usa la "luce"? Come viene implementato nello specifico?

Utilizzando "luce", si è trasformato da carrozza in camion

Il metodo tradizionale di I/O elettrico (collegamento con filo di rame) presenta certamente i suoi vantaggi, come il supporto di un'elevata densità di larghezza di banda e un basso consumo energetico, ma il problema fatale èLa distanza di trasmissione è relativamente breve (meno di 1 metro)。

Non ci sono problemi se vengono posizionati in un rack, ma la potenza di calcolo dei grandi modelli di intelligenza artificiale è spesso al livello di un cluster di server.

Non solo occupa una vasta area, ma si estende su N rack. I cavi devono essere lunghi decine o addirittura centinaia di metri e il consumo energetico è piuttosto elevato, quindi consumerà tutta l'energia fornita ai rack che non c'è abbastanza potenza per eseguire operazioni di lettura e scrittura di chip di memoria e di calcolo.

Oltretutto,Rapporto depositi/contiD'altra parte, è proprio a causa delle "grandi" caratteristiche dei modelli di grandi dimensioni che il rapporto originale tra leggere una volta e fare centinaia di calcoli si è ormai avvicinato a 1:1.

△Fonte: Intel

Ciò richiede un nuovo metodo in grado di aumentare la potenza di calcolo e la densità di archiviazione riducendo al contempo il consumo energetico e le dimensioni, collocando così più elaborazione e archiviazione in uno spazio limitato.

Con gli I/O ottici il problema è risolto:

Può supportare 64 canali da 32 Gbps in una direzione su fibra ottica fino a 100 metri.

Una metafora dell'immagine è, proprio come l'usocarrozza(capacità e distanza limitate) da utilizzareauto e camionper consegnare merci (quantità maggiori e distanze maggiori).

Non solo, anche se si tratta di completare alcuni lavori di trasmissione dati ad alta densità e più flessibili a una distanza relativamente breve, OCI può essere paragonato amotociclo, più veloce e più flessibile.

Vale la pena ricordare che questo metodo OCI non è solo teorico.

Secondo Intel, hanno sfruttato la comprovata tecnologia fotonica del silicio per integrare circuiti integrati fotonici del silicio (PIC) contenenti laser su chip, amplificatori ottici e circuiti integrati elettronici.

E ha già dimostrato in precedenza che i chip OCI confezionati con la propria CPU possono anche essere integrati con SOC (system-on-chip) come CPU, GPU e IPU di prossima generazione.

Non ancora finito, Intel ha spedito oltre 8 milioni di circuiti integrati fotonici in silicio, di cui più di 32 milioni di laser sono ora in uso.

△Fonte: Intel

Quindi la domanda successiva è:

Come viene "raffinato" l'OCI di Intel?

Vicepresidente di Intel Research e Direttore di Intel China ResearchCanzone JiqiangDurante il processo di comunicazione, ha effettuato un'analisi e un'interpretazione approfondite di questo problema.

△Song Jiqiang, vicepresidente dell'Intel Research Institute e direttore dell'Intel China Research Institute

La tecnologia fotonica del silicio combina due delle invenzioni più importanti del 20° secolo: i circuiti integrati al silicio e i laser a semiconduttore.

Supporta velocità di trasferimento dati più elevate su distanze maggiori rispetto ai dispositivi elettronici tradizionali, sfruttando al tempo stesso l'efficienza della produzione di silicio in grandi volumi di Intel.

La tecnologia di integrazione fotonica del silicio rilasciata questa volta da Intel, i chip OCI hanno raggiunto il livello di co-packaging optoelettronico.

Questo co-pacchetto optoelettronico inserisce un circuito integrato fotonico in silicio (PIC) e un circuito integrato elettronico (EIC) su un substrato per formare un chip OCI, che funge da componente di connessione integrato.

Ciò significa che xPU, inclusa la CPU, e le future GPU possono essere confezionate con chip OCI.

Il core OCI converte in luce tutti i segnali elettrici I/O provenienti dalla CPU del data center e li trasmette tra loro tra i nodi o i sistemi dei due data center tramite fibre ottiche.

L'attuale velocità di trasmissione dati bidirezionale raggiunge i 4 Tbps. Il suo protocollo di trasmissione di livello superiore è compatibile con PCIe 5.0 e supporta 64 canali da 32 Gbps in una direzione, il che è sufficiente negli attuali data center:

Utilizza 8 coppie di fibre ottiche e consuma solo 5 picojoule (pJ) per bit, ovvero 10-12 joule. Questi dati sono tre volte inferiori al consumo energetico dei moduli ricetrasmettitori ottici collegabili (quest'ultimo è di 15 picojoule per bit). ).

△Fonte: Intel

In un canale di trasmissione ottica, in realtà ha 8 bande diverse. L'intervallo di frequenza di ciascuna banda è di 200 GHz, occupando un totale di spaziatura dello spettro di 1,6 THz per la trasmissione.

La luce spazia dalla luce visibile alla luce invisibile, infatti la sua ampiezza dello spettro è molto ampia, a partire da THz, è vicina alla comunicazione ottica.

Quindi in quali campi verranno utilizzate le particelle del nucleo OCI in futuro?

A questo proposito, Song Jiqiang ha detto:

Uno è che puoi usarlo per ottenere la comunicazione e puoi anche impacchettarlo con chip informatici come CPU e GPU. L'informatica e la comunicazione sono strettamente assemblate insieme.
Attraverso l'integrazione della fotonica del silicio e la tecnologia di packaging avanzata, Intel dispone anche di molte tecnologie diverse per ottenere chip I/O a densità più elevata e quindi combinarli con altre xPU per formare molti tipi diversi in base ai chip futuri e i chip di interconnessione avranno ottime prospettive applicative.

A giudicare dalla roadmap di evoluzione delle prestazioni del chip di interfaccia I/O OCI, attualmente è possibile raggiungere una soluzione tecnica con velocità di trasmissione di 32 Tbps, basandosi principalmente sul miglioramento iterativo e costante di tre indicatori, vale a dire:

• In una fibra ottica ci sono 8 bande stabili
• La velocità di trasmissione ottica dei dati di ciascuna banda è di 32 Gbps
• Può tirare 8 paia di fibre ottiche contemporaneamente senza influenzarsi a vicenda

Moltiplicata per questi tre indicatori, la velocità attuale di trasmissione dei dati è di 2 Tbps in una direzione e di 4 Tbps in entrambe le direzioni. In futuro, possiamo continuare ad evolverci verso l'alto e migliorare gradualmente le capacità di larghezza di banda.

△Fonte: Intel

Infine, Song Jiqiang ha anche spiegato la differenziazione di Intel nella tecnologia di integrazione della fotonica del silicio:

Il motivo principale è che costruiamo emettitori laser ad alta frequenza sul wafer e integriamo amplificatori ottici in silicio. Queste sono due tecnologie relativamente fondamentali, entrambe prodotte a livello di wafer.
Successivamente, possiamo produrre in serie tali laser altamente integrati, perché il vantaggio di questo laser su chip è che può essere trasmesso utilizzando normali fibre ottiche.
E in termini di stabilità, è quasiCi vogliono 10 miliardi di ore perché si verifichi un errore。

Allora cosa ne pensate della scelta "leggera" di Intel? Benvenuto per lasciare un messaggio nell'area commenti per la discussione.

Link di riferimento:
[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfA
[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-IO-Chiplet-Co-packaged-with-CPU-at/post/1582541
[3]https://www.youtube.com/watch?v=Fml3yuPR2AU