nuntium

Urget eget!GPU universitatis in subitis est, Li Feifei Hinton auxilium petit

2024-07-18

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


dolor rerum
Composuit Chen Junda
EditPanken

Secundum relationes instrumentorum externorum, propter pretia AI computandi botri potentiae et ordines currunt a magnis inceptis, multae universitates Americanae gravi inopia computandi vim opponunt, quae ad pigritiam in AI investigationis in universitatibus et adduxit. inopia ai talenta investigandi.

Facultatis computandi penuria in universitatibus diu circa facta est, et etiam supremae academiae et duces academici hac problemate vexantur. Mense Maio hoc anno, Stanford University professor Li Feifei dixit communitatem academicam contra magnam inopiam opum computantium AI.Stanford University NLP lab solum habet 64 GPUs (NVIDIA A100). Turing Award victor Geoffery Hinton obtuse etiam dixit cum discipuli auxilium petierunt: "Nescio quid aliud de hac re aliud facere quam imperium rogans.

Contra, Facebook parens societas Meta expectaturIngentem vim computandi botrum habet aequivalens 600,000 NVIDIA H100s, quae fere 10,000 temporum glomerorum laboratorium Stanford NLP.

Sed 64 GPUs in Stanford University NLP Laboratorium iam phantasia est multis studentibus ex aliis universitatibus. Re vera, praeter paucas universitates principales, ut Universitas Princetoniensis et RWTH Universitas Aachen in Germania,Multae academiae Nvidia A100 GPU ne habent.

In actis disceptationibus de Reddit foro, aliqui doctorales studentes ab universitatibus Americae Septentrionalis nuntiaverunt parvas universitates solum obtinere posse V100 GPU ab Nvidia ante multos annos dimissi.Status in universitatibus Europae et Asiae etiam gravior estUsura Nvidia dolor-gradus graphics chartarum pro AI investigationis . Etiam sic, potestas computandi rarissima est, et aliqui studentes schedulas graphicas suis sumptibus mercari debent vel ad subsidia computandi vim ex NVIDIA, Amazonio Cloud Service (AWS), etc.

Multae universitates etiam laborant ad statum quo mutandum laborant, ut per cooperationem inter scholam inter-scholas computando communes constituendo, vel ad alias directiones AI investigationis convertendas, quae vim computandi inferiorem requirunt.

1. Numeratio potentiae inopiae et animi exhauriunt.

Re vera, diu antehac, universitates ante investigationis AI factae sunt.Multae progressiones dividuntur ab investigatoribus in universitatibus factae.Exempli gratia, anno 2015, Jascha Sohl-Dickstein, postdocus in Universitate Stanford, primum exemplar diffusionis mundi excogitavit, cuius fundamentum est multorum imaginum posteriorum et exemplorum generationis.

Dum investigatio fundamentalis in universitatibus critica est ad undam innovationis technologicae, recens generativa AI investigatio a societatibus privatis dominata est. Maxime quia accessum habent ad vim computandi et data necessaria ad magna exempla aedificandi et instituendi sicut ChatGPT et Gemini.

Generativa AI investigationis cara est. OpenAI CEO Sam Altman aestimavit disciplinam GPT-4 constare circiter $100 decies centena millia. Meta CEO Mark Zuckerberg denuntiavit in primis 2024 consiliis mercandi 350.000 NVIDIA H100 GPUs ut Metam vim computandi expandat aequivalens 600,000 NVIDIA H100 GPUs. Ratione fundata in pretio venditionis H100 centenariorum fere 40.000 US dollariorum;Hic ordo magnus decem miliarda dollariorum erit.

Nunc nulla universitas in mundo potest hunc gradum potentiae infrastructurae computandi AI. Sicut fortis schola CS, Universitas Princetoniensis unum ex maximis botris potentiae computatis AI inter universitates Americanas habet.Sed hic botrus tantum CCC NVIDIA H100 GPUs habet, quod tantum publice mense Martio hoc anno introductum est.

Sanjeev Arora, moderator Centri pro Lingua et Intelligentia in Universitate Princetoniensi, de hac re dixit, "Si potestatem computandi non habes, magnam investigationem gerere non potes, nec etiam idoneus es colloquio participare.”。

In relata disceptatione de Reddit forum, discipulus PhD ab uno summo 5 machinae discendi laboratorium in Civitatibus Foederatis Americae dixit se ne unum quidem NVIDIA H100 tantum habere.


▲Quaestiones ex alumnis doctoralibus e summo 5 machina discendi laboratatoria in Civitatibus Foederatis (Source: Reddit)

A PhD discipulus Asiae adversus eandem dilemma. Plurimus GPUs utitur, gradus consumendi sunt, et tantum unum aut alterum pro botri sunt. Schola eius usque in praesentem diem cum octo H100s ministratorem habuit et solum accessum limitatum habuit. Discipulus doctoralis dixit;In duabus hebdomadibus satis felix fuit ut H100 GPU uteretur, plus notitiae adeptus est quam in superioribus sex mensibus collegit.


▲ Studiosus in CV investigationis in Asia versatus seriem GPUs quam usus fuerat revocavit (Source: Reddit)

Alius discipulus communicavit ut schola sua nullum subsidium computandi praebere posset. Tantum US$1,000 in nubem computandi potestatem per suam internship societatem obtinere potest.Si his lateralibus uteris ad botrum 8-obstructionum H100 currendum, eo tantum die 1 uti potes. Hic gradus potentiae computandi simpliciter non potest producere investigationem altam qualitatem. Dixit etiam hanc esse normam investigationis AI in terris tertii orbis.


▲ Discipulus magistri experientiam communicavit obtinendi calculi creditorum per societatem amet (Source: Reddit)

Facultates computandi facultates universitatum Europaearum non eu neque. Studiosus studens in Germania communicavit se valde felicem esse quod eius schola etiam 16 A100 GPUs et iusta aliorum exemplorum GPUs praebere potest.In Europa multae universitates et investigationes laboratoriae basically non praebent subsidii potentiae computandae.


▲ Studiosus Europae gratus est pro facultatibus computandis quas habet (Source: Reddit)

Alius discipulus e RWTH Universitatis Aquisgrani in Germania communicavit suam scholam plus quam CC NVIDIA H100 GPUs habere, quae multorum reticulorum invidiam attraxit. Attamen hae facultates ab omnibus collegiis et etiam cum externis institutis communes sunt.


▲ Studiosi RWTH Aachen Universitatis in Germania in potestate computandi scholas communicaverunt (Source: Reddit)

Homines industriae inopiam GPU in collegiis et universitatibus mirantur. Industria insider dixit se ad maiorem nubem computandi provisorem operari.Cotidiana contactus cum H100 GPU explica et fige software pro eo. Alius fons industriae dixit quod GPUs summus postularet ut H100 saepe graviter praeordinarentur a clientibus magnis inceptis antequam ad centra data accederent, itaque H100 plerisque investigatoribus "rarum" est.


Industria homines inopia GPUs in collegiis et universitatibus mirantur (Source: Reddit)

In opibus computandis parum valet, disciplina diuturna est valde luxuriosa. AI racemos in universitatibus computandi potestatem saepe applicari necesse est diebus vel etiam hebdomadibus in antecessum. Multae maioris exercitationis officia difficilia sunt intra unius cycli usus absolvere, et investigatores extra conatum aedificare debent LAPIS et codicem recuperare.

Penuria computandi facultates etiam quaestionem cerebri exhauriebat in collegiis et universitatibus. illi studentes, qui studentes facere investigationis generativam AI, ad magnas turmas converterunt. Quia magnae societates technologiae plerumque centenis vel millenis temporibus vim computandi habent quam universitates, hoc maxime allicit talentis AI.

2. Constituere potestatem computandi societates et directiones investigationum mutare.

Respectu discriminis in AI investigationis cadentis et AI talentum amittendi, multae universitates pro potentia computandi additional nituntur et suas investigationes tendunt ad non-intensum AI investigationis agros non-computando.

"Instituta academica ruentes ad potentiam computandam" dixit Hod Lipson, praeses machinalis machinae Mechanicae in Columbia University.Sed has duas copias, academicos, fontes apertos tincidunt et alii, etiam in evolutione huius technologiae evolutionem habere debent.

Ad sublevandam inopiam computandi potestatem in collegiis et universitatibus, multa collegia et universitates regimen in processu computandi potestatem racemis construendi implicaverunt. Primis 2024, septem universitatibus et investigationibus institutis, inter Columbia University, Cornell University, Novi Eboraci University et Rensselaer Institutum Polytechnicum, copias coniunxit cum imperio Civitatis Novi Eboraci et caritatibus ad societatem computandam potestatem vocatam Imperii AI.


▲ Socii Imperii AI confoederationis (Source: Imperii AI officialis)

Haec societas computandi potestatem $ 400 decies fere in sumptu erexit. US$275 decies centena milia hoc ex regimine venit, et reliqua pecunia ex septem universitatibus et investigationibus institutis in societate participanda venit. Utentur pecunia ad centrum computationis AI provecta aedificandum, et socii societates has facultates computantes participare possunt, cum sumptibus etiam efficaciter communicandis.

Loquens de ratione huius societatis constituendae, Officium Civitatis New York Praefectus dixit:In statu, AI facultates computandi magis magisque coactae sunt in manibus societatum magnarum technologiarum, quae ingens imperium in AI progressionem oecosystematis habent.Quam ob rem inquisitores, non quaestus et societates parvae relinquuntur;Hoc magnum momentum in AI salutem et totam societatem habet.

Academia et industria etiam strenue collaborant, quae iam in cantibus technicis technologiae communis est sicut Vallis Silicon, Seattle et Austin. Dan Grossman, decanus scholae Computer Scientiae et Engineering in Universitate Washington Socius, dixit se habere programmata quae investigatores academicos in industria etiam operari permittunt. Accedunt academici ad meliores facultates, et academiae haec ingenia retinere possunt.

Re vera, multae et magnae investigationis AI incepta quae altam vim computandi non requirunt. , ut AI explainability investigationis, AI ratiocinandi facultatem investigandi, etc. Sub necessitate computandi, investigatores universitates plus investigationis iaculis inceperunt agere ut communitas academica industria non penitus superetur.

Kavita Bala, decanus scholae universitatis Cornell's Computing and Information Sciences, universitates dixit se minus in magnarum linguarum exemplaribus aedificandis et instruendis collocare et plus in applicationibus enucleandis adhibitis in magnarum linguarum exemplaribus versari. Tales applicationes possunt adhuc acies secare et ingentes partes agere in locis applicationis singularibus.

MIT professor Armando Solar-Lezama, cuius opus in AI ad progressionem codicis levandam intendit, putat magna exempla de integro aedificare simpliciter non posse in academia. Discipuli et inquisitores in applicationibus evolvendis vel creandis data synthetica intendere possunt quae exempla magna lingua instituendi adhiberi possunt.

Solaris Lesama dixit professores in suo collegio operam navare etiam ut servientibus et astularum emptione fundendae essent, sed sumptu solum problema non fuit.Etiam si pecuniam habetis, GPU incisura summo-incisura est questus.

Conclusio: Defectio AI computandi potestatem in universitatibus pergit, et cooperatio inter plures partes spem frangendi condicionem habere potest.

Sub hodierna condicione ubi magnae technologiae societates AI investigationis dominantur, AI investigatio in universitatibus efficax est his studiis supplementum. Investigatores in universitatibus non afficientur breve tempus factores sicut relationes nummarias et mercatum exigunt sicut investigatores intra societates. Si facultates computandas plus obtinere possunt, proventus producere possunt significantibus ictum in locis, quae societates non attendunt vel operam dare nolunt.

Revera, in his paucis decenniis AI semper campus investigationis minoris fuit, et vestem altae doctrinae et machinae eruditionis habuit. Sed hoc ipsum est quod perseverant investigatores in universitatibus ut Hinton, Yann LeCun et Yoshua Bengio qui perseveraverunt in investigationibus decenniis pertinentes quas nunc AI BUTIO inventa est fundatio.

Praeter societates computandas sicut imperium AI in Civitate New York, multae universitates et instituta investigationis in America Septentrionali etiam cooperationem crucis institutionalem variarum magnitudinum ad facultates computandas participes fecerunt. Ad finem anni 2023, plus quam decem universitates in Sinis etiam in Sinis Universitas Power Foedus computantem constituit. Fortasse huiusmodi cooperationis spes efficere potest ut penuria computandi vim in universitatibus frangat.

Source: Wall Street Acta, Reddit