berita

eksekutif oracle: chip nvidia mahal dan sulit dibeli, dan amd mulai menjadi pengganti bagi lebih banyak pengguna

2024-09-14

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

 

hal-hal cerdas melaporkan pada 13 september bahwa menurut the information, karan batta, wakil presiden senior raksasa perangkat lunak oracle (oracle cloud infrastructure), mengatakan bahwa meskipun nvidia sedang booming dalam penjualan chip pusat data kecerdasan buatan, beberapa pelanggan yang mengembangkan ai beralih ke yang lebih kecil. saingan amd.

oracle mengakui posisi dominan nvidia di pasar chip, tetapi juga percaya bahwa mereka perlu menambah persaingan untuk mengendalikan biaya pengembangan perangkat keras.

produk nvidia mungkin menaikkan harga, dan banyak pelanggan mengkhawatirkan hal ini.

para eksekutif oracle mengatakan perangkat keras amd dapat secara efektif membantu perusahaan mencegah krisis yang timbul dari kekurangan pasokan chip nvidia, yang telah terjadi hampir sepanjang tahun lalu.

selain dariperusahaan oracleselain itu, penyedia layanan cloud seperti microsoft juga telah mengurangi paparan mereka terhadap raksasa komputasi ai.nvidianiat untuk bergantung.

1. pengurangan pasokan nvidia telah menjadi hal biasa, dan pelanggan beralih ke amd.

karan batta berkata: "kami menemukan bahwa mencapai inferensi chip tidak harus terikat pada pemasok tertentu." karan batta percaya hal itu kapan sajakarena nvidia mendominasi pasar chip server, maka diperlukan persaingan untuk mengurangi biaya perangkat keras.

baik itu mengembangkan aplikasi ai secara mandiri atau membeli aplikasi tersebut dari pemasok perangkat lunak,meningkatnya persaingan akan memungkinkan perusahaan mengendalikan biaya inferensi ai.

chip server andalan terbaru amd pada tahun 2023 mungkin tidak sekuat h100 andalan terbaru nvidia pada tahun 2022, tetapi para eksekutif di oracle dan microsoft percaya bahwamereka tidak punya pilihan selain mendukung amd untuk mendorong persaingan.karan batta menambahkan: "amd berupaya keras dan melakukan pekerjaan besar dalam meningkatkan kinerja chip."

karan batta berpikir,penggunaan perangkat keras amd oleh oracle juga membantunya mencegah potensi kekurangan pasokan nvidia di masa depan. kelangkaan seperti ini terjadi hampir sepanjang tahun lalu.

karan batta menolak untuk mengungkapkan rincian spesifik atau nama pelanggan, namun komentarnya menunjukkan bahwa oracle berharap untuk mengurangi ketergantungannya pada raksasa komputasi ai nvidia, sebuah langkah yang serupa dengan penyedia layanan cloud lainnya seperti microsoft.

selain itu, biaya sewa chip nvidia untuk inferensi telah menurun, namun chip ai andalan generasi berikutnya dapat mengubahnya. pelanggan nvidia lainnya secara pribadi menyatakan keprihatinan serupa,mereka khawatir jika amd atau perusahaan lain tidak merebut pangsa pasar nvidia, harga produk nvidia akan terus mahal.

meski sejauh ini hal tersebut belum benar-benar terjadi.

amd mengatakan pendapatan pusat datanya naik 115% pada kuartal juni menjadi $2,8 miliar dibandingkan periode yang sama tahun lalu, sementara pendapatan pusat data nvidia naik 154% pada kuartal juli menjadi $26,3 miliar.

▲bagan perbandingan pendapatan pusat data nvidia dan amd (sumber: informasi)

2. oracle bekerja sama dengan openai dan xai untuk meningkatkan skala cluster chip

sementara itu, oracle dan penyedia cloud lainnya sedang berkembang pesat, menyewakan lebih banyak server nvidia kepada pelanggan seperti openai dan xai milik elon musk.

di pasar persewaan server as, oracle menempati peringkat keempat di belakang layanan cloud amazon amazon, teknologi cloud microsoft azure, dan google cloud.oracle menghasilkan pendapatan $2,4 miliar dari bisnis ini, naik 45% dari tahun ke tahun.

oracle termasuk pendatang baru dalam komputasi awan, namun mereka cukup beruntung karena tahun lalu bertepatan dengan serbuan startup ai untuk mengambil alih server awan. oracle belum mengembangkan model bahasa besar seperti openai gpt-4, sehingga tidak menimbulkan ancaman kompetitif bagi pelanggan pengembangan ai, sehingga memberikan keuntungan di pasar.

sekarang oracle ingin mendapatkan pangsa yang lebih besar di pasar pelatihan model ai, salah satu pendirinyalarry ellisonlarry ellison mengatakan pada hari senin bahwa oracle sedang merancang pusat data dengan kapasitas lebih dari 1 miliar watt, yang akan cukup untuk memberi daya pada kota seperti san francisco.

karan batta menolak mengungkapkan rincian pusat data tersebut atau mengumumkan kapan akan beroperasi. untuk mendukung ekspansinya, oracle akan meningkatkan kemampuan untuk menghubungkan cluster chip ai sehingga mereka dapat bekerja seperti satu komputer, sebuah pengaturan yang ideal untuk melatih model bahasa besar yang baru, katanya.

peningkatan tersebut termasuk mengubah cara oracle mendinginkan chip penghasil panas dan membangun terowongan kabel untuk menghubungkan chip di gedung yang berbeda sehingga tidak semuanya harus berada di lokasi yang sama.

dia berkata,oracle berencana untuk menggandakan ukuran cluster chipnya dari 64.000 gpu menjadi lebih dari 128.000. namun dia tidak merinci kapan.

selain itu, karan batta percaya bahwa oracle masih dapat memperoleh manfaat dari kebutuhan pelatihan kecerdasan buatan meskipun startup menggunakan layanan cloud lain untuk mengembangkan model inti mereka.

misalnya, perusahaan-perusahaan ini juga memerlukan perangkat keras untuk tujuan lain, seperti penyempurnaan, di mana pengembang mengoptimalkan model untuk tugas-tugas tertentu.

karan batta mengatakan beberapa perusahaan ai membeli akses ke chip lama untuk menangani beban kerja ini.

menurut database pusat data kecerdasan buatan informasi,oracle mungkin telah mencapai kesepakatan dengan openai dan microsoft untuk menggunakan fasilitas texas tahun depan, namun karan batta menolak mengomentari masalah tersebut mengenai perusahaan tertentu.

kesimpulan: semakin banyak rasa frustrasi yang anda alami, semakin banyak keberanian yang anda peroleh? diklaim sebagai salah satu yang terbaik dalam kemampuan komputasi ai

terkini,oracle mengalami kemunduran, karena musk memutuskan untuk membangun cluster gpu miliknya sendiri di memphis, as, daripada menyewanya dari oracle, karena perusahaan tidak dapat dengan cepat membangun pusat data.

karan batta yakin masih terlalu dini untuk mengatakan apakah xai dapat menyelesaikan cluster colossus yang terdiri dari 100.000 chip h100 lebih cepat dari oracle.

“saya tidak punya dasar untuk membandingkannya. apakah kami jauh lebih cepat dibandingkan xai? atau apakah kami jauh lebih lambat?… saya rasa kami akan merasa menjadi salah satu yang tercepat dalam hal daya komputasi ai dibandingkan dengan penyedia cloud lainnya ."

sumber: informasi