notizia

intelligent things ha riferito il 13 settembre che, secondo the information, karan batta, vicepresidente senior del colosso del software oracle (oracle cloud infrastructure), ha affermato che sebbene nvidia sia in forte espansione nella vendita di chip per data center di intelligenza artificiale, alcuni clienti che sviluppano l'intelligenza artificiale si stanno rivolgendo a smaller rivale amd.

oracle riconosce la posizione dominante di nvidia nel mercato dei chip, ma ritiene anche che sia necessario aggiungere concorrenza per controllare i costi di sviluppo dell'hardware.

i prodotti nvidia potrebbero aumentare i prezzi e molti clienti ne sono preoccupati.

i dirigenti di oracle hanno affermato che l'hardware amd può aiutare efficacemente l'azienda a prevenire le crisi causate dalla carenza di fornitura di chip nvidia, carenza che è esistita per gran parte dello scorso anno.

a partesocietà oracleinoltre, anche i fornitori di servizi cloud come microsoft hanno ridotto la loro esposizione ai giganti dell’informatica ai.nvidiaintenzione di dipendere.

1. i tagli alle forniture di nvidia sono diventati la norma e i clienti si rivolgono ad amd.

karan batta ha dichiarato: "abbiamo scoperto che il raggiungimento dell'inferenza dei chip non deve necessariamente essere legato a un fornitore specifico. karan batta lo ritiene in qualsiasi momento".dato che nvidia domina il mercato dei chip per server, ha bisogno della concorrenza per ridurre i costi dell’hardware.

che si tratti di sviluppare applicazioni ia in modo indipendente o di acquistarle da fornitori di software,una maggiore concorrenza consentirà alle aziende di controllare i costi di inferenza dell’intelligenza artificiale.

l'ultimo chip server di punta di amd nel 2023 potrebbe non essere potente quanto l'ultimo h100 di punta di nvidia nel 2022, ma i dirigenti di oracle e microsoft lo credononon hanno altra scelta che supportare amd per promuovere la concorrenza.karan batta ha aggiunto: "amd si sta impegnando molto e sta facendo un ottimo lavoro migliorando le prestazioni dei chip."

karan batta pensa,l'utilizzo dell'hardware amd da parte di oracle aiuta inoltre a proteggersi da potenziali carenze di forniture di nvidia in futuro. tali carenze si sono verificate per gran parte dello scorso anno.

karan batta ha rifiutato di rivelare dettagli specifici o nomi di clienti, ma i suoi commenti indicano che oracle spera di ridurre la propria dipendenza dal colosso dell'informatica nvidia, una mossa simile a quella di altri fornitori di servizi cloud come microsoft.

inoltre, i costi di noleggio dei chip nvidia per l’inferenza sono diminuiti, ma i suoi chip ai di punta di prossima generazione potrebbero cambiare la situazione. altri clienti nvidia hanno espresso in privato preoccupazioni simili,temono che se amd o altre società non conquistano la quota di mercato di nvidia, i prodotti nvidia continueranno a essere costosi.

anche se finora ciò non è realmente accaduto.

amd ha dichiarato che i ricavi dei data center sono aumentati del 115% nel trimestre di giugno a 2,8 miliardi di dollari rispetto allo stesso periodo dell'anno scorso, mentre i ricavi dei data center di nvidia sono aumentati del 154% nel trimestre di luglio a 26,3 miliardi di dollari.

▲grafico di confronto dei ricavi dei data center nvidia e amd (fonte: the information)

2. oracle sta collaborando con openai e xai per aumentare la portata dei cluster di chip

nel frattempo, oracle e altri fornitori di servizi cloud sono in forte espansione, affittando più server nvidia a clienti come openai e xai di elon musk.

nel mercato del noleggio di server negli stati uniti, oracle è al quarto posto dietro il servizio cloud amazon di amazon, la tecnologia cloud di microsoft azure e google cloud.oracle ha generato entrate per 2,4 miliardi di dollari da questa attività, in crescita del 45% su base annua.

oracle è entrato relativamente tardi nel cloud computing, ma è un po' fortunato perché l'anno scorso ha coinciso con la corsa delle startup ai ad accaparrarsi i server cloud. oracle non ha sviluppato un modello linguistico di grandi dimensioni come openai gpt-4, quindi non rappresenta una minaccia competitiva per i clienti dello sviluppo ai, il che gli conferisce un vantaggio sul mercato.

ora oracle sta cercando di conquistare una quota maggiore del mercato della formazione dei modelli ai, co-fondatorelarry ellisonlarry ellison ha dichiarato lunedì che oracle sta progettando un data center con una capacità di oltre 1 miliardo di watt, che sarebbe sufficiente per alimentare una città come san francisco.

karan batta ha rifiutato di rivelare i dettagli del data center o di annunciare quando sarà operativo. per supportare la sua espansione, oracle aumenterà la capacità di connettere cluster di chip ai in modo che possano funzionare come un singolo computer, una configurazione ideale per la formazione di nuovi modelli linguistici di grandi dimensioni, ha affermato.

tali miglioramenti includono modifiche al modo in cui oracle raffredda i chip che generano calore e costruisce tunnel per i cavi per collegare i chip in diversi edifici in modo che non debbano trovarsi tutti nella stessa posizione.

ha detto,oracle prevede di raddoppiare almeno le dimensioni del suo cluster di chip da 64.000 gpu a oltre 128.000. ma non ha specificato quando.

inoltre, karan batta ritiene che oracle possa ancora trarre vantaggio dalla necessità di formazione sull’intelligenza artificiale anche se le startup utilizzano altri servizi cloud per sviluppare i loro modelli principali.

ad esempio, queste aziende necessitano di hardware anche per altri scopi, come la messa a punto, in cui gli sviluppatori ottimizzano i modelli per compiti specifici.

karan batta ha affermato che alcune società di intelligenza artificiale stanno acquistando l’accesso a chip più vecchi per gestire questi carichi di lavoro.

secondo il database dell'information artificial intelligence data center,oracle potrebbe aver stretto un accordo con openai e microsoft per utilizzare una struttura in texas il prossimo anno, ma karan batta ha rifiutato di commentare la questione su società specifiche.

conclusione: più frustrazione provi, più coraggio ottieni? dichiara di essere tra i migliori in termini di capacità di calcolo dell'intelligenza artificiale

recente,oracle subisce una battuta d'arresto, perché musk ha deciso di costruire il proprio cluster gpu a memphis, negli stati uniti, invece di affittarlo da oracle, perché la società non poteva costruire rapidamente un data center.

karan batta ritiene che sia troppo presto per dire se xai sarà in grado di completare il cluster colossus di 100.000 chip h100 più velocemente di oracle.

"non ho un termine di paragone. siamo molto più veloci di xai? o siamo molto più lenti... penso che ci sentiremo come uno dei più veloci in termini di potenza di calcolo dell'ia rispetto ad altri fornitori di servizi cloud . uno."

fonte: l'informazione