berita

Raksasa cloud sedang dalam pelarian, dan 2 juta CPU yang dikembangkan sendiri telah dirilis!Babak baru perombakan chip telah dimulai

2024-07-24

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


hal-hal cerdas
PengarangZeR0
Editor Mo Ying

Minggu lalu, prosesor Graviton4 yang dikembangkan secara independen oleh Amazon Cloud Technology, raksasa komputasi awan terbesar di dunia, diluncurkan sepenuhnya dan pada awalnya memberikan dukungan untuk instans baru Amazon EC2 R8g.

Kejadian ini cukup emosional, dan ada perasaan deja vu bahwa CPU server Arm telah melalui semua kesulitan dan semua kesulitan telah terbayar.

Bidang CPU server telah mengalami serangkaian perubahan. Pada awalnya, ini didominasi oleh sekelompok pendahulu set instruksi yang disederhanakan, tetapi kemudian diserang balik dan terkikis oleh arsitektur set instruksi kompleks x86. Ketika Arm, penerus set instruksi yang disederhanakan, ingin memasuki jalur pusat data, x86 telah sepenuhnya mendominasi pasar.

Faktanya, Arm sangat ingin mencoba pasar negara berkembang ini sejak tahun 2008. Akibatnya, sepuluh tahun kemudian, setelah menguji air beberapa kali, Arm gagal menimbulkan percikan sporadis.

Tiket pertama untuk memasuki pasar pusat data dikirim oleh Amazon Cloud Technology, kakak dalam industri komputasi awan.

Saat itu, Amazon Cloud Technology mengeluarkan "tiga serangan berturut-turut":

1. Pada bulan Januari 2015, secara tak terduga mereka mengakuisisi Annapurna Labs, sebuah perusahaan desain chip Israel, yang menarik perhatian industri;

2. Pada tahun 2017, Amazon Nitro, chip jaringan pertama yang dikembangkan sendiri, diluncurkan, membawa chip DPU komersial pertama di dunia ke dalam panggung sejarah;

3. Pada tahun 2018, prosesor Amazon Graviton pertama dirilis, memberikan CPU server Arm koordinat yang jelas dalam sejarah pusat data.

Selanjutnya, Amazon Cloud Technology secara intensif melakukan penelitian chip multi-baris yang disesuaikan seperti buku teks, dan pabrikan besar Tiongkok dan Amerika lainnya juga mengikuti tren prosesor yang dikembangkan sendiri. Tarik-menarik CPU server yang lama akhirnya bergeser dari penghancuran x86 secara sepihak ke momentum yang berkembang di kubu Arm.

Graviton secara bertahap menjadi CPU server Arm yang paling banyak digunakan di dunia, dan Amazon Cloud Technology dianggap sebagai "harapan seluruh desa" yang memimpin ekosistem Arm untuk memperluas wilayahnya di pusat data. Sebuah laporan oleh Bernstein tahun lalu menunjukkan bahwa Amazon Cloud Technology menyumbang lebih dari separuh pasar CPU server Arm global.


▲Amazon Cloud Technology telah merilis lima prosesor Graviton dalam lima tahun (Sumber: Zhidongxi)

Saat ini, produsen besar sudah biasa mengembangkan chip yang dikembangkan sendiri, namun hanya sedikit yang berhasil. Buku teks referensi CPU server yang dikembangkan sendiri yang ditulis oleh Amazon Cloud Technology dalam lima tahun ini layak untuk dikunyah berulang kali.

1. Enam tahun penelitian mandiri dan inovasi dalam CPU, membuka jalan bagi chip server Arm

Generasi pertama membuka jalan pegunungan, generasi kedua membangun sungai dan danau.

Ini adalah gambaran sebenarnya dari kekayaan chip server yang dikembangkan sendiri oleh Amazon Cloud Technology: prosesor Graviton yang dirilis pada November 2018 adalah produk pertama dari CPU yang dikembangkan sendiri oleh perusahaan komputasi awan besar, setahun kemudian, penerus Graviton2 muncul, menandai Saat CPU server Arm secara resmi memasuki kompetisi pasar pusat data, ia bersaing dengan x86.

Graviton2 mengintegrasikan 30 miliar transistor, memiliki jumlah inti empat kali lipat dari generasi sebelumnya, dan memiliki cache L1/L2 dua kali lipat. Bandwidth bus mencapai 2TB/dtk, mencapai peningkatan kinerja 7 kali lipat dibandingkan generasi sebelumnya. Dibandingkan dengan instans berbasis x86 serupa, kinerja instans berbasis Graviton2 meningkat sebesar 40% dan biaya per instans berkurang sebesar 20%.

Kinerja luar biasa dalam konsumsi daya rendah telah menyebabkan Amazon Cloud Technology memindahkan beban kerja umum ke Graviton2 untuk menghemat daya dan biaya. Sejak itu, tingkat adopsi seri Graviton telah melonjak, dan beban kerja yang dicakup telah diperluas dari Cache awal dan Web hingga analisis data, pembelajaran mesin, komputasi kinerja tinggi, dll.

Kesuksesan awal Graviton di pasar bisa disebut sebagai simpul yang mengubah nasib Arm.

Di balik hal ini, Amazon Cloud Technology telah banyak memikirkan inovasi yang mendasarinya: untuk pertama kalinya, Amazon tidak lagi menggunakan teknologi multi-threading sinkron, namun menyadari penggunaan eksklusif sumber daya single-thread dari inti fisik, yang memungkinkan setiap vCPU untuk secara eksklusif menempati 1 inti fisik, membuat vCPU lebih terisolasi, yang tidak akan menyebabkan gangguan kinerja karena perebutan sumber daya.


Dari generasi pertama hingga kedua, Graviton telah mencapai peningkatan kinerja yang signifikan dengan meningkatkan jumlah inti, namun pada generasi ketiga, Amazon Cloud Technology perlu menggabungkan lebih banyak inovasi desain.

Meningkatkan jumlah inti dan meningkatkan frekuensi utama adalah dua metode umum untuk meningkatkan kinerja. Graviton 3 generasi ketiga yang dirilis pada tahun 2021 tidak mengadopsi ide-ide ini. Jumlah core tetap tidak berubah dan frekuensi utama hanya sedikit ditingkatkan. Karena peningkatan frekuensi berisiko bagi pusat data berskala besar, hal ini dapat menyebabkan banyak konsumsi energi, dan memerlukan peningkatan konfigurasi daya dan pendinginan, yang pada akhirnya menyebabkan peningkatan biaya penggunaan pelanggan.

Graviton3 telah melakukan beberapa inovasi yang berbeda dari pendahulunya:

1. Menggunakan desain Chiplet, 7 cetakan silikon dikemas bersama;

2. Metode paralel tingkat instruksi diadopsi untuk meningkatkan jumlah instruksi yang dapat dieksekusi dalam satu siklus inti, memungkinkan inti menyelesaikan lebih banyak tugas;

3. Untuk bandwidth memori dan beban kerja yang sensitif terhadap penundaan, ruang memori ditingkatkan sebesar 40%, dan DDR5 digunakan untuk meningkatkan bandwidth saluran memori sebesar 50%.

Hasilnya, dibandingkan generasi sebelumnya, Graviton3 dapat meningkatkan kinerja beban kerja aplikasi sebesar 25% dan mengurangi konsumsi daya hingga 60% dibandingkan instans x86. Dengan unit akselerasi perangkat keras pembelajaran mesin bawaan, prosesor ini juga mencapai peningkatan 3x dalam kinerja pembelajaran mesin dan digunakan oleh peneliti AI dan perusahaan untuk MLOps di cloud.


Graviton3E, diluncurkan pada tahun 2022, secara khusus dioptimalkan untuk operasi instruksi floating point dan vektor. Performa komputasi vektor dua kali lipat dari Graviton3. Ini sangat cocok untuk skenario aplikasi seperti kecerdasan buatan/pembelajaran mesin dan komputasi performa tinggi.

Graviton4 generasi terbaru menggunakan inti Neoverse-V2 yang lebih baik dan meningkatkan jumlah inti menjadi 96 inti. Cache L2 setiap inti digandakan menjadi 2MB, dan bandwidth memori ditingkatkan sebesar 75%.


Setiap generasi Graviton akan mengalami peningkatan kinerja dua digit dibandingkan generasi sebelumnya, dan konsumsi daya per unit daya komputasi akan terus menurun. Konservasi energi dan pengurangan emisi sangat penting untuk pembangunan pusat data yang berkelanjutan. Pelanggan cloud terkenal seperti Twitter, Databricks, Formula 1, dan Snap semuanya telah menggunakan layanan berbasis Graviton dan memuji keunggulannya dalam pengurangan biaya dan peningkatan efisiensi.

Menurut laporan media asing, pada pertengahan tahun 2022, Graviton akan mencakup sekitar 20% dari instans CPU Amazon Cloud Technology, yang sebagian besar adalah Graviton2. Sekitar 50% dari instans mesin virtual baru Amazon Cloud Technology adalah seri Graviton.

Beberapa pelanggan cloud secara terbuka mendukung bahwa mereka telah menghemat 10% hingga 40% biaya komputasi dengan menyewa layanan Graviton.

Sebagai pengguna awal Graviton, Daewoo Unlimited telah menggunakan Graviton2 untuk mengurangi biaya operasi big data sebesar 20%; Tuya, yang menggunakan instans Graviton2 secara ekstensif, juga telah meningkatkan ke instans generasi baru, sehingga meningkatkan kinerja enkripsi dan dekripsi platform IoT. sebesar 50%.

Menurut data firma riset pasar IDC, pangsa pasar pengiriman server Arm pada kuartal pertama tahun 2023 adalah sekitar 10%. Saat ini, masalah ekologi Arm di pasar server pada awalnya telah teratasi.

Hingga saat ini, Amazon Cloud Technology telah menerapkan lebih dari 2 juta prosesor Graviton di 33 wilayah dan lebih dari 100 zona ketersediaan di enam benua di seluruh dunia. Prosesor ini menggerakkan lebih dari 150 mesin komputasi dan digunakan oleh lebih dari 50.000 perusahaan dan pengembang di seluruh dunia.


2. Satu-satunya produsen cloud yang menerapkan penggunaan arsitektur Arm dalam skala besar

Dalam proses melayani pelanggan cloud, tim Amazon Cloud Technology menemukan bahwa jika mereka ingin merevolusi harga/kinerja komputasi untuk semua beban kerja yang mungkin terjadi, tim Amazon Cloud Technology perlu memikirkan ulang seluruh instans dan menggali teknologi yang mendasarinya, termasuk chip khusus.

Mengapa chip dirancang berdasarkan arsitektur Arm?

Bagi Amazon Cloud Technology, ini adalah situasi dan rencana masa depan.

Pertama-tama, lisensi Arm relatif mudah diperoleh dan memiliki tingkat kebebasan desain yang tinggi, sehingga memudahkan Amazon Cloud Technology merancang prosesor yang lebih memenuhi kebutuhan bisnis cloud.

Kedua, penghematan daya telah lama menjadi masalah utama bagi pusat data. Mengingat skala ekonomi, penghematan beberapa watt per chip sangatlah penting. Arm telah diuji oleh pasar prosesor seluler karena keunggulannya seperti efisiensi energi yang tinggi, kepadatan daya komputasi yang tinggi, dan biaya yang rendah.

Selain itu, seperti yang kami sebutkan sebelumnya, Graviton sangat berhati-hati dalam meningkatkan frekuensi dan melengkapi kinerja melalui paralelisme tingkat instruksi yang lebih tinggi, sehingga lebih kompetitif dalam hal kinerja biaya. Di bawah penggunaan CPU yang tinggi, setiap vCPU di Graviton menempati satu inti fisik, dan tidak ada masalah perselisihan. Ia dapat mempertahankan kecepatan yang tetap cepat, dan keunggulan harganya akan menjadi jelas.

Menurut Amazon Cloud Technology, dibandingkan dengan instans R7g generasi ketujuh yang menggunakan Graviton3, kinerja instans R8g Amazon EC2 yang didasarkan pada prosesor Graviton4 generasi baru telah ditingkatkan sebesar 30%, ukuran instans lebih besar, vCPU dan memori ditingkatkan sebanyak 3 kali lipat, dan dapat memberikan harga/kinerja yang lebih baik untuk beban kerja intensif memori seperti database, cache dalam memori, dan analisis data besar secara real-time.

Dibandingkan dengan instans R7g, instans R8g dapat mempercepat aplikasi web hingga 30%, database hingga 40%, dan aplikasi Java berukuran besar hingga 45%.

Keunggulan kinerja dan efektivitas biayanya telah diverifikasi oleh beberapa pengujian aktual.


Menurut beberapa hasil uji benchmark yang dirilis oleh Phoronix, dengan jumlah vCPU yang sama, inti Graviton4 baru memiliki kinerja yang kurang lebih sama dengan Intel Sapphire Rapids, dan sebanding dengan EPYC generasi keempat AMD ketika menjalankan komputasi, enkripsi, kode berkinerja tinggi. kompilasi, ray tracing, dan database, pemodelan 3D dan beban kerja lainnya, kemajuan antargenerasi secara keseluruhan sangat baik.


▲Setelah pengujian, instans R8g berdasarkan Graviton4 lebih hemat biaya dibandingkan instans cloud Amazon Cloud Technology berbasis Intel Xeon dan AMD EPYC (Sumber: Phoronix.com)

Sebagai salah satu pelanggan pertama instans R8g, Honeycomb menyampaikan bahwa peningkatan throughput Graviton4 sangat jelas dibandingkan saat Graviton pertama kali digunakan empat tahun lalu, throughput per vCPU meningkat lebih dari dua kali lipat. Mereka berencana untuk memigrasikan seluruh beban kerja ke Graviton4 segera setelah seri instans R8g dirilis secara resmi.

Epic Games, perusahaan produksi game terkenal "Fortnite", berkomentar bahwa instans EC2 R8g berdasarkan Graviton4 terbaru adalah instans EC2 tercepat yang pernah mereka uji dan merupakan salah satu "beban kerja paling kompetitif dan sensitif terhadap latensi". dapat sepenuhnya meningkatkan kinerja server game.

Hasil pengujian awal pada SAP HANA Cloud menggunakan instans R8g menunjukkan bahwa dibandingkan dengan instans berbasis Graviton3, instans R8g dapat meningkatkan kinerja analitis hingga 25% dan kinerja beban kerja transaksional hingga 40%.


▲Perbandingan spesifikasi instans R8g yang berbeda

Sejauh ini, hanya Amazon Cloud Technology yang benar-benar merealisasikan penggunaan arsitektur Arm dalam skala besar.

Mengapa Teknologi Amazon Cloud? Seperti yang dikatakan Dai Wen, manajer umum arsitektur solusi untuk Amazon Cloud Technology Greater China pada China Summit tahun ini: "Hanya dalam lingkungan komputasi awan kita dapat memiliki peluang untuk melakukan inovasi menyeluruh mulai dari aplikasi hingga CPU."

Chip yang dikembangkan sendiri bukanlah inovasi di atas kertas. Chip tersebut memerlukan akumulasi pengalaman teknik. Chip tersebut tidak hanya harus memiliki kinerja tinggi, namun juga cukup stabil, andal, dan sangat aman.

Menggunakan mikroarsitektur Arm yang sama tidak berarti Anda dapat membuat CPU dengan kinerja yang sama, dan merancang sebuah chip tidak berarti Anda dapat mencapai kesuksesan produksi massal dan komersial. Masalah linearitas dan penundaan komunikasi yang disebabkan oleh interkoneksi ratusan inti CPU saja dapat membuat banyak tim chip bingung, belum lagi kesulitan ekologis dalam merancang chip server Arm.

Ide penelitian dan pengembangan Amazon Cloud Technology didasarkan pada pemahaman mendalam tentang beban kerja pelanggan cloud dan membalikkan penetrasi ke dalam desain chip. Pendekatan yang berpusat pada pelanggan ini memungkinkan Amazon Cloud Technologies melakukan penyesuaian dalam jangka pendek agar cepat beradaptasi dengan dinamika pasar.

Mengambil Graviton4 sebagai contoh, Amazon Cloud Technology telah merancang arsitektur CPU untuk aplikasi praktis untuk pertama kalinya. Rekayasa desain prosesor ini telah beralih dari sistem evaluasi benchmark MicroBenchmark tradisional ke metode evaluasi berdasarkan beban kerja sebenarnya. Misalnya, mengoptimalkan database Cassandra, aplikasi Groovy, dan server nginx memerlukan parameter CPU front-end dan back-end yang berbeda.

Skala pelanggan yang besar telah menciptakan hambatan bagi Teknologi Cloud Amazon. Cluster pusat datanya yang luas di seluruh dunia dapat menjadi tuan rumah penerapan prosesor seri Graviton. Efek skala yang dibentuk oleh bisnis komputasi awan terbesar di dunia dapat secara efektif mengurangi biaya Teknologi Cloud Amazon.

Layanan cloud yang terus inovatif memungkinkan Amazon Cloud Technology untuk memahami aplikasi yang paling sering digunakan dan pola konsumsi sumber dayanya, sehingga dapat memilih poin teknis dengan manfaat tertinggi bagi pengguna, melakukan pengoptimalan yang ditargetkan, dan dengan cepat meningkatkan tumpukan perangkat lunak dan perangkat keras dan bahkan desain CPU , kembangkan vCPU dan inti perangkat keras yang cocok.

Pada saat yang sama, berbagai lini produk layanan hosting Amazon menggunakan infrastruktur terpadu, sehingga inovasi Graviton dapat diterapkan ke semua layanan hosting secara tepat waktu. Pengguna dapat dengan mudah menikmati peningkatan hemat biaya yang dibawa oleh Graviton dengan mengubah pilihan komputasi.

Pengguna hanya perlu memikirkan instans mana yang dapat memenuhi kebutuhan mereka dengan lebih baik, dan Amazon Cloud Technology bertanggung jawab untuk mengurangi biaya migrasi dan pembelajaran perangkat lunak. Dengan mengintegrasikan lebih banyak layanan manajemen secara mendalam dengan Graviton, migrasi tanpa hambatan dari x86 ke Arm menjadi sederhana dan cepat.

3. Bagaimana chip yang dikembangkan sendiri mempengaruhi komputasi awan?

Saat ini, chip yang dikembangkan sendiri telah menjadi langkah standar bagi perusahaan teknologi besar. Baik itu untuk mengurangi biaya dan meningkatkan efisiensi, membangun keunggulan kompetitif, meningkatkan pengendalian, dan mengurangi ketergantungan pada perusahaan chip pihak ketiga, ini adalah cerita bagus yang dapat dengan mudah dilakukan. meyakinkan pelanggan hilir dan investor.

Namun sembilan tahun lalu, ketika Amazon Cloud Technology memimpin pengembangan chipnya sendiri, hal ini masih merupakan eksplorasi tingkat lanjut.

Melihat kembali sejarah perkembangan komputasi awan, peluncuran definisi instans EC2 (Elastic Cloud Computing) pertama oleh Amazon Cloud Technology pada tahun 2006 dianggap sebagai momen bersejarah. Selanjutnya, semakin banyak perusahaan yang secara bertahap menerima konsep komputasi awan dan mulai memigrasikan aplikasi mereka ke awan.

Kini Amazon Cloud Technology berhasil menjalankan klaster komputasi berkinerja tinggi dengan puluhan ribu node di cloud untuk melatih model besar, dan dapat menangani aplikasi streaming real-time dengan konkurensi tinggi di cloud. Hal ini sulit dibayangkan pada saat itu. Anda harus tahu bahwa instans EC2 pertama Amazon Cloud Technology memiliki frekuensi utama hanya 1,7GHz, bandwidth jaringan 250Mbps, memori kurang dari 2GB, dan disk mekanis hanya 160GB.

Pada tahun-tahun awal bisnis komputasi awan, Amazon Cloud Technology harus memecahkan banyak masalah pelik yang sangat mengkhawatirkan tim adalah jika versi Xen yang disesuaikan digunakan sebagai hypervisor virtualisasi, tidak peduli berapa banyak waktu yang dihabiskan untuk mengoptimalkan kode. , lapisan virtualisasi akan selalu memakan sumber daya host, dan CPU x86 tidak pandai menangani lalu lintas jaringan.

Hingga tahun 2013, Annapurna Labs, sebuah perusahaan chip Israel, memasuki pandangan Amazon Cloud Technology. Melalui kerja sama, Amazon Cloud Technology telah menulis pemrosesan jaringan ke perangkat keras untuk pertama kalinya. Kinerja implementasi yang mengejutkan membuat Amazon Cloud Technology mengincar mitra luar biasa ini: Pada bulan Januari 2015, Amazon Cloud Technology mengumumkan akuisisi Annapurna Labs dan sejak itu memulai perjalanan chip yang dikembangkan sendiri.

Melihat ke belakang, ini jelas merupakan investasi cerdas dalam sejarah teknologi cloud Amazon.

Hanya dua tahun setelah transaksi ini, Amazon Cloud Technology mengumumkan platform virtualisasi Nitro, yang memindahkan semua keamanan, pengelolaan, dan pemantauan ke perangkat keras, sehingga menyediakan hampir 100% daya komputasi host kepada pelanggan.

Sejak itu, komputasi awan telah memulai jalur isolasi fisik menyeluruh terhadap bisnis dan infrastruktur, dan inovasi teknologi virtualisasi yang mendasari serta pengembangan jenis server tingkat atas dapat dilakukan secara paralel.

Hal ini memunculkan titik balik penting untuk instans EC2: dari tahun 2006 hingga 2017, Amazon Cloud Technology berubah dari 1 jenis instans EC2 menjadi 70 jenis dalam 11 tahun; dan dari tahun 2017 hingga 2023, instans EC2 tiba-tiba tumbuh secara eksplosif, dari 1 hingga 2023 70 tipe dalam 6 tahun. 70 tipe telah dikembangkan menjadi 750 tipe, yang dapat menyediakan instance komputasi yang sesuai untuk berbagai beban.

Berdiri di landasan kesuksesan Nitro, Amazon Cloud Technology telah mengembangkan tiga lini produk: chip jaringan, CPU server, serta chip pelatihan dan inferensi AI: Chip jaringan Nitro telah berkembang hingga generasi kelima dan terus mengoptimalkan kinerja jaringan, kinerja penyimpanan, dan keamanan penguatan; Graviton Empat generasi dan lima model telah dirilis; chip inferensi AI Inferentia dan chip pelatihan AI Trainium, yang memberi pengguna opsi akselerasi AI selain GPU dengan memberikan contoh inferensi dan pelatihan yang lebih hemat biaya.

Hal ini memungkinkan Amazon Cloud Technology untuk mempertahankan fleksibilitas inovasi full-stack internal: mulai dari papan dan server yang disesuaikan, hingga chip yang disesuaikan secara mendalam di bagian bawah, dan kemudian ke perluasan horizontal wilayah chip yang dikembangkan sendiri, Amazon Cloud Technology akan secara bertahap beralih dari chip, perangkat keras ke perangkat lunak Integrasi dan kolaborasi tidak hanya dapat menghasilkan efektivitas biaya dan keandalan yang lebih baik bagi bisnis, namun juga membentuk daya saing intinya.

Chip yang dikembangkan sendiri ini dihubungkan dengan server penyimpanan dan sistem jaringan berkecepatan tinggi yang dikembangkan sendiri oleh Amazon Cloud Technology, sehingga memungkinkan lebih banyak chip untuk saling terhubung secara efisien, sehingga secara signifikan mempersingkat waktu komputasi. Berdasarkan inovasi ini, Amazon Cloud Technology dapat mendukung salah satu tugas paling menantang dalam komputasi awan – kecerdasan buatan dan pembelajaran mesin.

Pada Amazon Cloud Technology Summit baru-baru ini di New York, Amazon Cloud Technology mengumumkan bahwa 96% unicorn AI/ML telah menjalankan bisnis mereka di Amazon Cloud Technology, dan 90% perusahaan dalam daftar Forbes AI 50 tahun 2024 memilih Amazon Cloud Technology. Sejak tahun 2023 hingga sekarang, Amazon Cloud Technology telah resmi merilis 326 fungsi AI generatif. Pada periode yang sama, jumlah pembelajaran mesin dan layanan AI generatif yang tersedia secara resmi telah melebihi dua kali lipat dari pemasok lainnya.

Kasus penggunaan yang luas dan akumulasi teknis yang mendalam selalu berkaitan erat. Jumlah kasus penggunaan AI yang luar biasa ini memberikan Amazon cukup kasus praktis untuk memberikan pelanggan pilihan yang dapat mencapai manfaat terbaik, dan umpan balik pelanggan yang luas dapat menjadi kekuatan pendorong terbaik untuk desain chip mereka. Pengulangan teknologi chip yang berkelanjutan akan mendukung layanan cloud yang semakin hemat biaya dan mendorong pengembangan AI generatif yang inklusif.

Kesimpulan: Tidak ada chip yang merupakan satu-satunya solusi untuk komputasi awan

Ada banyak pilihan silikon di pasaran, dan penyedia infrastruktur cloud dapat berperan dalam menyatukan semuanya untuk memungkinkan inovasi yang lebih baik mulai dari infrastruktur hingga layanan cloud.

Berbeda dari perusahaan chip independen, tujuan chip yang dikembangkan sendiri oleh Amazon Cloud Technology bukanlah untuk berpartisipasi dalam persaingan pasar, namun untuk menyediakan "toko universal" kepada pelanggannya yang tidak hanya menyediakan chip yang dikembangkan sendiri, tetapi juga produk-produk arus utama seperti itu. seperti CPU Intel dan GPU NVIDIA. Pilihan ada di tangan pelanggan untuk memilih kombinasi produk yang paling memenuhi kebutuhan beban kerja mereka berdasarkan profil instans chip ini.

Evolusi enam tahun Graviton telah menceritakan kisah implementasi CPU server Arm. Arm memberi Amazon Cloud Technology dasar untuk kustomisasi CPU yang fleksibel, sementara Amazon Cloud Technology mendorong perubahan di pasar chip server dan menjadi dukungan terbaik atas keunggulan rasio biaya dan kinerja-harga Arm di pasar pusat data.

Selama Graviton masih memiliki ruang untuk mengurangi biaya dan meningkatkan efisiensi, Amazon Cloud Technology dapat terus memangkas harga dan membagi keuntungan, serta mengembalikan dividen skala dan teknologi kepada pelanggan cloud.