uutiset

Applen virallinen ilmoitus: Apple Intelligenceä tukevat mallit on koulutettu Googlen mukautetuilla siruilla

2024-07-30

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Tämän artikkelin kirjoittaja: Li Dan

Lähde: Hard AI

Julkiset asiakirjat osoittavat, että Applen oman tekoälyjärjestelmän, Apple Intelligencen, kehittäminen on erottamaton Googlen mukautettujen sirujen tuesta.

Maanantaina, 29. heinäkuuta, itäistä aikaa, Applen virallinen verkkosivusto julkaisi teknisen asiakirjan, joka sisältää yksityiskohtaisesti joitakin peruskielimalleja, jotka on kehitetty tukemaan Applen henkilökohtaista Apple Intelligence -älyjärjestelmää, mukaan lukien noin 3 miljardin kielen malli, jota käytetään tehokkaaseen toimintaan laitteessa asiakaspuolen "Apple Basic Model" (AFM) ja suuri palvelinkielimalli - Applen pilvi-AI-arkkitehtuuriin suunniteltu palvelin AFM "Private Cloud Compute".

Paperissa Apple esitteli, että asiakaspuolen AFM ja palvelin AFM ovat Applen kehittämien generatiivisten mallien perheen jäseniä. Näitä malleja käytetään tukemaan käyttäjiä ja kehittäjiä. Lehdessä Apple paljasti, että harjoitusmallissa käytetään neljännen sukupolven AI ASIC -sirua TPUv4 ja uudemman sukupolven sirua TPUv5, jonka on kehittänyt Google. Artikkelissa lukee:

"Kokeilimme palvelimen AFM:n alusta alkaen 8192 TPUv4-sirulla käyttämällä 4096 sekvenssin pituutta ja 4096 sekvenssin eräkokoa 6,3 biljoonan token-koulutuksen suorittamiseksi."
"Päätepuolen AFM on koulutettu 2048 TPUv5p-sirulle."

47-sivuisessa paperissa Apple ei maininnut Googlea tai Nvidiaa nimeltä, mutta sanoi, että sen AFM- ja AFM-palvelut ovat koulutettuja "pilvi-TPU-klustereihin". Tämä tarkoittaa, että Apple vuokraa palvelimia pilvipalveluntarjoajilta laskutoimituksia varten.

Itse asiassa tämän vuoden kesäkuussa järjestetyn Worldwide Developers Conferencen (WWDC) aikana tiedotusvälineet ovat havainneet Applen julkaisemien teknisten asiakirjojen yksityiskohdista, että Googlesta on tullut toinen Applen ponnistelujen voittaja tekoälyn alalla. Applen insinöörit käyttivät yrityksen itse kehittämää kehysohjelmistoa ja erilaisia ​​laitteistoja perusmallin rakentamiseen, mukaan lukien tensorinkäsittelyyksiköt (TPU:t), jotka ovat saatavilla vain Google Cloudissa. Apple ei kuitenkaan paljastanut, kuinka paljon Apple luottaa Googlen siruihin ja ohjelmistoihin verrattuna muihin tekoälylaitteiston toimittajiin, kuten Nvidiaan.

Siksi maanantaina sosiaalisessa mediassa X:ssä julkaistu kommentti huomautti, että kesäkuussa oli uutisia Applen Google-sirujen käytöstä, ja nyt meillä on lisätietoja harjoituspinosta.


Jotkut kommentit sanoivat, että Apple ei vihaa Nvidiaa, mutta TPU on nopeampi. On myös kommentteja, että TPU on nopeampi, joten Applen on järkevää käyttää sitä Tietysti se voi olla myös halvempi kuin Nvidian sirut.


Mediakommentit maanantaina sanoivat, että Googlen TPU luotiin alun perin sisäisiä työkuormia varten ja että sitä käytetään nyt laajemmin. Applen päätös käyttää Google-siruja mallien kouluttamiseen viittaa siihen, että jotkut teknologiajätit saattavat etsiä ja ovat löytäneet vaihtoehtoja Nvidian AI-siruille tekoälykoulutuksen suhteen.

Wall Street Journal mainitsi, että viime viikolla Metan toimitusjohtaja Zuckerberg ja Alphabet sekä Googlen toimitusjohtaja Pichai vihjasivat puheissaan, että heidän yrityksensä ja muut teknologiayritykset ovat saattaneet investoida liikaa tekoälyn infrastruktuuriin. Mutta he kaikki myöntävät, että liiketoiminnan riskit, jos näin ei tehdä, ovat liian suuret.

Zuckerberg sanoi:

"Jäljessä jäämisen seurauksena olet epäedullisessa asemassa tärkeimpien teknologioiden suhteen seuraavien 10-15 vuoden aikana."

Pichai sanoi:

Tekoäly on kallista, mutta aliinvestoinnin riski on vielä suurempi. Google on saattanut investoida liikaa tekoälyinfrastruktuuriin, mukaan lukien lähinnä Nvidia-grafiikkasuorittimien osto. Vaikka AI-buumi hidastuu, yritysten ostamia datakeskuksia ja tietokonesiruja voidaan käyttää muihin tarkoituksiin. Meille alisijoittamisen riski on paljon suurempi kuin ylisijoittamisen riski.