nuntium

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

dolor rerum
AuthorZeR0
Editor Mo Ying

Generativa AI exemplum invisibile habere videtur: semel in tempore, magnae scalae "fragor autocinetorum" horrenda erit.

Hoc anno solus Google Gemini 1.5 Pro exemplar dimissum est, exemplar generationis video Sora deductae, et OpenAI GPT-4o dimissa apud Google I/O Developer Conferentiam praebens spectatores circum orbem terrarum validam aemulationem olfaciendi inter magna exempla iter.

Si omnes priores incidentiae innuunt OpenAI consulto Google intercepisse, intra quattuor dies hebdomadem ultimam, Hugging Faciem, OpenAI, Mistralem, et Apple successive sua exemplaria levissima sua potentissima emiserunt, quae certissima est novissimae tenoris in industria AI.

Nunc, AI magna exemplaria iusta de cursu currendo non sunt"Maior et fortior";et involutus violenter"Fac parva et bene facis"。

Praeteriens GPT-4o non amplius solum KPI est. Magnae exempla ludum criticum ingressi sunt ut pro foro contendendi sint -effective--Exemplar minor est eadem opera, et praestantior effectus est iisdem parametris et pecuniae servat.。

▲ Nuper dimissi exempla leve GPT-4o mini et Mistral NeMo ultima septimana valde ducunt secundum sumptus effectus (Source: Artificialis Analysis)

Re vera, haec technologica inclinatio "magnorum exemplorum rewinding in miniaturizationem" in secundo dimidium ultimo anno scere coepit.

In ludo nummulariorum duae turmae sunt. Una est Gallica AI satus Mistral AI Facie Muri Intelligentia. In Februario hoc anno immissus est exemplar extremitatis lateris densioris MiniCPM, perficiendi Llama 2 13B excedens cum tantum 2.4 sescenti parametri.

Ambae satuss in communitate activitatis bene notae sunt, et multa exempla aperto fonte calido inscripta cumulaverunt. Praesertim, Wall-Facing Intelligentia, quae a Processing Laboratorio Universitatis Tsinghuae Naturalis Linguae exclusa est, tumultum fecit hoc anno cum eius exemplar multimodiale "confustum" per turmas e summis universitatibus in Americae Foederatae Re Publica facta est opus originale in circulis academicis domi militiaeque agnitum est, faciens fonte domestico Open AI exempla de se superbire.

Pomum etiam indagare exempla latera terminalia incepit, quae melius cum telephoniis mobilibus ab anno proximo accommodare possunt. OpenAI, quae viam dilatationis amplae et violentae secutus est, mirum novum entrantem relativum est. Lorem exemplum leve exemplar GPT-4o mini Ultimae hebdomadae significat magnum exemplar frater inceptum ab "altare" descendere et industriam inclinatio sequi coepit, ut exemplis vilioribus et facilioribus ad leverage niteretur. latiore foro.

2024 annus criticus erit magnorum exemplorum "miniaturizationis"!

▲ Incompleta statistica levium exemplorum generalium linguarum recentium anno 2024 emissarum tantum comprehenduntur in exemplari lingua generali cum modulo ≤8B moles quae explicari potest in parte fabrica, et exempla multi-modalia non comprehenduntur (Source: Zhidongxi)

1. "Lex Maurorum" in temporibus magnarum exemplorum: sola efficientia ducere potest ad sustinebilitatem

In statu magna investigationis et progressionis exemplum in inertiam cadit:Strenue miraculum。

Anno 2020, charta ab OpenAI comprobata est valida relatio inter exemplar effectus et scalae. Quamdiu praecipitas magis altum-qualitatem datam et exemplum maius instituendi, altiorem effectum consequi potes.

Hanc viam simplicem sed efficacem secuti duobus annis praeteritis annis celeris globalis genus est ad exempla maiora persequenda. Hoc periculum occultum hegemonii algorithmicae ponit. Tantum iunctae cum sufficienti pecunia et potestate computandi capitalem habent participationem certaminis diu.

Proximo anno, OpenAI CEO Sam Altman ostendit sumptus disciplinae GPT-4 minimum esseUS $ C decies . In absentia magni lucri exemplar negotii, etiam magnae technologiae societates cum profundis loculis reperient difficilem diuturnum tempus obsideri pro pecunia praestare. Ambitus oecologicus non potest sustinere hunc ludum ardentem profundo.

Interstitio perficiendi inter exempla magnas linguae supremae visibiliter angustatur. Etsi GPT-4o firmiter antecedit, differentia in probationis turpis cum Claude 3 Operis et Gemini 1.5 Pro immutata manet. In nonnullis facultatibus, decem miliardorum magnarum exemplorum melius etiam efficere possunt. Exemplar amplitudo sola non amplius est momentum momentum attingens effectus.

Non est quod suprema exempla magna invenusta sunt, est quod exempla levia plura cost-efficentia sunt.

Pictura infra est AI illatio costae tenoris chart communis ab AI architecto Karina Ngugen in suggestis socialibus exeunte mense Martio hoc anno tempus, exemplar linguarum MMLU accurationem scores altiorem obtinet, et iuncta gratuita significanter decident. Nova accuratio exemplaris circiter 80% attingit, cum sumptus perficiendi ordines magnitudinis humiliores sunt quam paucis abhinc annis.

Mundus velocissimus mutatus est, et in his praeteritis mensibus unda novarum gratuitarum exempla leve efficax facta est.

Smaller magnitudo exempla consequi potest optimum perficientur in inferioribus sumptibus (Source: Embedded AI)

" Certamen magnarum magnitudinum exemplar linguae auget - retro!"

Exemplar capacitas exemplar parametri quae in calculo = scientia densitas Mensuratio- nes haec dimensio adhiberi potest ad repraesentandum exempla eadem cum scala modulo intelligentiam validam habere posse. Magnum GPT-3 exemplar mense Iunio 2020 dimisit, 175 miliarda parametri habet.Mense Februario hoc anno, parametri moles intelligentis parietis adverso-MiniCPM-2.4B, quod idem perficiendum est, ad 2.4 miliarda redacta est, quae circa densitatem cognitionis augmenti aequivalet.86 times。

Ex his trends, Liu Zhiyuan, professor permanens sociatus Department of Computer Scientiae in Universitate Tsinghua et praecipuus physicus muri-facientis intelligentiae, nuper proposuit rationem interesting:Magnarum exemplorum aetas suam habet legem "Moorei"。

praesertim,Cum ordinato evolutione datarum, vim computandi et algorithmorum, cognitio densitatis exemplorum magnarum augere pergit, duplicando singulis octo mensibus in mediocris.。

▲Ex mutationibus in indice OpenCompass, videre possumus parvas parametri et magni effectus exempla inclinatio factas esse.

Densitatem circa chip augendo, cogitationes computandi cum potestate eadem computandi evolvent ex supercomputatoribus quae aptare possunt in compluribus cellis ad telephonia mobilia quae in loculos ferri possunt. Liu Zhiyuan nominavit legem ducendam proposuit ut "Wall-Conversus Lex".

Si hoc tenoris pergit,Exemplar instituendi cum 100 miliardis parametris, capacitatem exemplaris consequi poterit cum 50 miliardis parametris in 8 menses.。

2. Copiae in plures partes divisae sunt: ​​fons pretiosus clausus in pleno adductu est, et fons aperto Sinarum, Civitates Foederatae et Europa inter se contendunt.

Histriones hodie intrantes magnum exemplar leve certaminis in plures circulos dividuntur.

OpenAI, Google, et anthropica omnia itinera clausula ceperunt. Eorum exempla navis praetoriae qualia sunt GPT-4o, Claude 3.5 Sonnet, et Gemini 1.5 Pro gradus fortissimas operationes moderantur, et scala moduli horum exemplorum centena miliarda vel etiam trillions attingit.

Exemplar leve est detractum-down versionem exemplaris praetoriae. Post emissionem OpenAI ultimae hebdomadis, GPT-4o mini optio gratuita in foro sub 10B effecta est, virtute perficiendi eximii Gemini Flash et Claude Haiku ToB API pretium acriter demittit.

Andriy Burkov, auctor "Machinae eruditionis Engineering", infert parametrum specificationum GPT-4o mini circa 7B fundatum pretio. Murus adversus Intelligentiam CEO Li Dahai speculatur exemplum GPT-4o mini esse "latum MoE" cum magno peritorum numero, quam exemplar fabricae lateris sumptum foveant exempla magna.

Fons apertus exemplum leve et castra maius est, cum scaenicis repraesentativis e Sinis, Civitatibus Foederatis Americaeque Europaeis.

Domestica Alibaba, Wall-Intellectus Facing, Sensus Tempus et Shanghai Intelligentia Artificialis Laboratorium omnes aperta exempla oriuntur aliqua levia.Inter eos, Alibaba's Qwen exempla seriei saepe adhibita sunt in exemplaribus levibus probatio probationum, et exempla seriei MiniCPM ad intelligentiam parietariam versae etiam exempla utendi parvis parametris ad magna exempla in secundis leapfrog, et valde laudantur in aperto fonte communitatis.

Facie Wall Intelligentia est turma prompti vultus entrepreneurialis. Anno 2020, dux in Sinis iter exemplar capiens incepit Agens AI ineunte anno praeterito et plus quam 100 miliarda AI agentium in Augusto dimisit. nubes collaborationis in fine anni, et tunc intensive inducunt varios summus efficientiae, humilium industriae-consumens fabrica-parte exemplorum hoc anno.

In sex mensibus praeteritis, Wallface Intelligentia exempla turpia MiniCPM 2.4B et MiniCPM 1.2B dimisit, exemplar textum longum MiniCPM-2B-128k, exemplar multimodiale MiniCPM-V 2.0, et GPT-4V gradum perficiendi MiniCPM-. Llama3-V 2.5. Hactenus altiore volumen seriei MiniCPM download paene 950,000 cum stellis 12000 pervenit.

Hoc satus etiam efficacius efficax exemplum MiniCPM-S 1.2B in architectura sparsa efficiente implevit: scientia densitatis 2.57 pervenit ad exemplar densi MiniCPM 1.2B eiusdem scalae et 12.1 temporum Mistral-7B, adhuc deducendo. "lex murus adversus".

▲Murus faciei intelligens exemplum seriei MiniCPM cito iterat et ampliat scientiam densitatis

In leve fonte aperto exemplar castra in Civitatibus Foederatis Americae maioris societatis technologiae maiorem participationis gradum habent, in iis Meta, Microsoft, Google, Apple, Stabilitas AI, etc., et fabula "unda post tergum pulsat undam ante in litore "saepe ridiculo".

Amplexus Facies etiam exempla SmolLM induxit cum tribus modulis specificationibus hebdomadis ultimae: 135M, 360M, et 1.7B. Comparata cum exemplaribus eiusdem quantitatis, effectus est valde competitive. , Google MobileLLM-1.5B et Alibaba Qwen2-1.5B.

Lacus, quod "clausum" celebre est, fons scholae apertae notae est in agro AI: exemplar multi- modale mense Octobri proximo anno emisit; exempla cum parametris ab 2.7 miliardis usque ad 30 sescenti; et inter exempla recentissima DCLM, exhibitio versionis 6.9B Mistral 7B excedit, et MMLU score versionis 1.4B SmolLM-1.7B excedit.

▲ Lacus DCLM-Baseline utitur ad exemplar (orange), quod bonum perficiendi ad exempla fontis clausae (cruces) et alia aperta principia ponit et exempla (circulos) comparata ostendit.

Ludio repraesentativus in Europa non alius est quam exemplum magnum Francogallicum Mistral AI unicornis.Hoc modo dimisit Mistral Nemo 12B vasculum exemplum ultimae hebdomadis, quod processus contextus 128k sustinet. Eius effectus excedit Google Gemma 2 9B et Llama 2 8B .

Hi progressiones ostendunt applicationem potentialem ad magna exempla parvarum redigendarum.

Clem Delangue, co-conditor et CEO de Hugging Facie, praedixit: "Minor, vilior, velocior et magis personalia exempla 99% casuum usuum operient . Formula I decies $1 decies centena millia car ad cottidie laborandum opus non est, nec chatbotes argentariis debes vitae significationem narrare! "

3. Quomodo peritus in magno exemplari industriae quaestuosa factus es?

Rewinding et miniaturization magnarum exemplorum inclinatio inevitabilis est ut AI omnibus prodesse possit.

Non omnes applicationes amplissimum exemplar requirent potentissimum. Negotiatio certaminis sumptus-efficaces considerat et qualitatem et humilem pretium extollit. Diversae missiones et negotia valde diversa exigentias pro output qualitatem et sumptus-efficaces habent.

Exempla permagna valde ardua doctrinarum sumptibus tincidunt tincidunt afferet, et multum negotii ab exercitatione instruere erit. Exemplar magis turpis potest demittere rationem input-output et minus uti pecunia, notitia, facultates ferrariae et cyclos instituendi ad exempla competitive aedificandi, inde reducendo gratuita infrastructura, adiuvando ad meliorem accessibilitatem et ad exemplar evolutionis accelerandum.

▲ Secundum Apple DataComp-LM charta, exemplar parametri pauciores, eo minus computandi vim ac tempus ad exercitationem requiruntur.

Ad specialia applicationes, exempla leves minus notitias requirunt, quo facilius subtilius operae obvenire possunt ad effectum et efficaciam quae tuis necessitatibus occurrent consequi. Ob architecturae turpissimae, hoc genus exemplaris minus repositionis facultatem et vim computandi requirit. .

Licet leve exemplar summus perficientur parvum sit, oportet esse "Utere limitata computatione potentiae et energiae ad consummationem cognitionis in exemplar cum parametris minoribus condensandis"In limine technico non est humilis.

Disciplina processus estPrimum ut maior, deinde minor stillans essentiae cognitionis ex magnis exemplaribus. Exempli gratia, calix Google parvus exemplar multi-modalis Gemma-2 uritur utens ad exemplum 27B cognoscendum.

Sed secundum vias technicas speciales, diversi lusores diversos habent aditus.

Exempli gratia indisciplina notitia Contra, Meta superbe pascitur llama 3 15T Signa rudimenta data. Microsoft, Apple, etc tendunt ad optimam institutionem datarum et innovationem methodorum datarum. Secundum Apple DataComp-LM charta,Improving information of training sets potest trudere inter computationem et effectus, reducendo sumptibus institutionem . Nuper ultima septimana emissus, Mistral NeMo textum et codicem comprimit efficacius quam exempla priora utendo Tekken tagger provectus.

"Questus minor" etiam requiritArchitectura innovatio . Exempli gratia, Apple OpenELM exemplar hierarchicum bysso-tuning peragit consilium pro ferramentis bottlenecks ad meliorem efficientiam operantem in parte extremitatis; parietis adversus intelligentem MiniCPM-S 1.2B exemplar efficiens sparsum attingit sparsitatem fere 88%, permittens stratum plenum ligamen Consumptio ad 84% redacta est, et decoding celeritas 2.8 partibus altior est quam exemplar densum respondente sine ullo discrimine perficiendi.

▲Technical classificatio ad magnas linguas exempla cognoscendas efficaces (Source: "Extra Efficientiam: Systematicum Contemplatio Resource-Efficientis Magnae Linguae Exemplar" charta)

Exemplar magnum est consilium systematicum quod explorari debet "artificialis intelligentia scientia"Directio, id estPer continuam iterationem solutionum technicarum ut algorithmarum, architecturae, notitiae regiminis et multi- modalis fusione exempla possumus instituere exempla fidelius, praevidere et cum superiore qualitate.ad cognoscendam densitatem exemplorum magnorum continue emendavit.

Ad exempla cito instituendi et optimize, linea efficiens efficiens ut opus sit.Necesse est ut instrumentum congruum suggestum plenum processu construat atque efficiens ac scalabile exemplar disciplinae militaris efformet. . Exempli gratia, exemplar sandbox mechanismus parietis adversae celeri formationem facultatum exemplarium consequitur utendo parvis exemplaribus ad magna exempla perficienda et inter magnas et parvas formas rationes hyperparametri communicandas.

- Comparatio actualis miniCPM 1.2B et MiniCPM-S 1.2B illatio celeritatis decoding

Ut acceleremus usum magnarum exemplorum in dolor terminalibus, Facewall Intelligentia nuper aperta est industriae primum ex-the-box clientis latus magnum exemplar instrumentarium "MobileCPM" et praebebat nanny-style tutorials to help developers magna exempla in apps cum clic.

▲Wall-facie intelligens exemplar magnum terminale latus instrumentum pone "MobileCPM"

Hoc anno cum explosione machinalis AI Artifices terminales copias coniungere cum fabricarum exemplarium communibus instituerunt ad exsequendam exempla levium ponderis in amplis machinis ab extremis partibus promovere.

Cum effectus finis amentorum augetur et densitas exemplarium cognitionis augetur, exempla quae in ultimis cogitationibus localiter currere possunt, maiora et meliora fiunt.Nunc GPT-4V currere potest in parte terminali, Liu Zhiyuan praedicatProximo anno, GPT-3.5 specimina plana in operando in parte fabrica, et in proximo duobus annis, exempla gradu GPT-4o in parte extrema operari possunt.。

Conclusio: Committitur magnum exemplar competition quod non urit insanus pecuniam

In mundo technologiae historica inclinatio ut minor, vilior et facilior ad usum semper frequentetur. In aeram mainframe, risus summus finem bona luxu solum divitibus et elite pervia erant. Intrantes saeculum minicomputatorum, promotiones technicae computantes machinas plus portabiles ac faciliores ad usum fecerunt, et PCs et telephona mobile cotidie opus et vitam publicam ingressi sunt.

Sicut opus est supercomputatoribus cum ingenti potentia computandi et telephoniis gestabilibus quas vulgus in eorum loculos ponere potest, tempus generativae AI valde intelligentes magna exempla requirit, quae propius ad utentes, magis sumptus efficaces sunt, et ad certas applicationes occurrere possunt exemplum postulandi.

OpenAI GPT-4o adhuc stat in alno potentium AI magnarum exemplorum, sed iam non est invictum sicut ante. Eodem tempore, magis compacta et efficax exempla magna quae conceptum "melius melior est" provocant. Nova inclinatio "usendi parva ad magnum" expectatur mutare viam evolutionis AI et novas possibilitates aperire ad exsequendum. AI in inceptis et ambitus consumendi.

Subductio ad miniaturizationem maiorem in AI industria mutationem notat. Magnae certationis exemplar inceperunt transferre ab in melius perficiendo posito ut accuratiores necessitates in rerum natura ponat. Inter hanc insaniam, fons apertus Sinarum potentiae, quae ad intelligentiam parietariam repraesentata, strenue crescit. Per seriem innovationum technologicarum, comprobat legem cognitionis densitatis magnarum exemplorum ratione oeconomice factibilis, ac tandem usum promovet. magna exempla in applicatione missionum.