nuntium

Google 2 billion parametri Gemma 2 comprehendit cum GPT-3.5 et velocissimo in iphone decurrit

2024-08-02

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


Dolor rerum (publica ratio:zhidxcom
compilevanilla
editLi Shuiqing

Google DeepMind fons aperta parva exemplar familiae nova membra recipit!

Zhidongzhi Kalendis Sextilibus relatum est mane hoc mane Google DeepMind apertum exemplar leve in Gemma 2 2B orasse.


Gemma 2 2B

Cum tantum 2 miliardis parametri, Gemma 2 2B facile et celeriter in telephoniis gestabilibus, PCs et in aliis machinis terminalibus potest. Secundum actualem probationem electronicarum in Google AI Studio, illatio celeritas 30~40 signa/s attingit.


Developers test Gemma 2 2B

Iuxta Gemma 2 2B deductae sunt Gemma Scope, instrumentum ad exemplar interpretabilitatis amplificandum, et ShieldGemma, exemplar classificationis securitatis ad eliquationem nocivam contentorum.

Gemma Scope nititur sparsis autoencoder (SAE) ad specifica puncta amplificanda in exemplari ac JumpReLU architectura utitur ad eam optimizandam, inde adiuvans ut notitias densas et multiplices discursum in exemplari adipiscatur, permittens inquisitores "videre" exemplar simile microscopii.

ShieldGemma quattuor locis nocivis aedificatur: loquelam odio, vexationem, contentum pornographicum, et periculosum contentum, et exempla probationis excedit ut GPT-4 in responsione probat.

Gemma exemplorum series, initio Februario hoc anno edita, fons aperta exempla a Google DeepMind aedificata sunt in experimento exemplarium Geminorum. Mense Iunio, Google secundae generationis exemplar apertum Gemmae 2, inter duas magnitudinum parametri 9B et 27B eduxit.

1. Vincite magnum exemplar cum 35 temporibus parametri, quod dubium non est pro Gemma II.

Gemma 2 2B ex ampliore exemplari expolitur et est tertia Gemma 2 exemplar a Google deductae post 27B et 9B.

Exemplar leve cum tantum 2 miliardis parametri, Gemma 2 2B perficiendi pro portabilitate non immolat. In LMSYS Exemplar Amplus Arena (Chatbot Arena) nulla, Gemma 2 2B GPT-3.5 cum sexaginta punctorum 1126 superavit, necnon eius Mixtralis 8x7B et Llama 2 70B exempla cum justo temporum modulo scalae.


▲Gemma 2 2B eventus in magno exemplari arena

Nonnulli reticulati probaverunt rationem 9.9 et 9.11 problema Gemmae 2 2B "evertere" in multis magnis exemplaribus, et Gemma 2 2B celeriter rectam responsum dedit.


Gemma 2 2B responsa

Magnam commodo cursus expedita Donec. Quam celeriter exacte? Apple machina discendi indagator Awni Hannun temptavit Gemma 2 2B in MLX Celerem in iPhone 15 suum, et eius celeritas visibiliter velocis fuit.


Gemma 2 2B velocitate currens

Post actualem probationem, elit Tom Huang dixit suam velocitatem in Google AI Studio currere circiter 30~40 signa/s, quod "promplum Apple velocius" est.

Secundum instruere, Gemma 2 2B praebet methodos flexibiles instruere et efficaciter currere in variis ferramentis, incluso ore machinis, laptop vel nube instruere nititur in Vertex AI.

Developers exemplar pondus Gemmae 2 2B in tabulatis deponere possunt ut vultus Hugging Facies et Kaggle ad investigationes et applicationes commerciales, vel munus suum in Google AI Studio experiri.

Fons aperta inscriptio:

https://huggingface.co/google/gemma-2-2b

duo,Fac classifier ad quattuor genera contentorum, cum responsione rate melior quam GPT-4

Ut securitatem et accessibilitatem exemplaris emendaret, Google ShieldGemma instruxit, certa certa contentorum classificantis in Gemma 2 aedificata, quae initus et output AI exemplaris eliquare solebat exempla exsistentia in instrumento responsali Google AI toolkit.


Quomodo ShieldGemma operatur

ShieldGemma quattuor locis detrimentis aedificatur: odium sermonis, vexationes, argumenta pornographica, et periculosa contenta, et varias magnitudinum exemplarium ad varias necessitates occurrendas praebet, inter 2B, 9B, 27B. Inter eos, exemplar 2B parametri aptum est ad operas classificationis online, dum versiones 9B et 27B adhibentur ad altiorem observantiam pro applicationibus offlines praebendis.

Proventus aestimationis in notitia externa ponit, ShieldGemma exempla basilinea superavit sicut OpenAI Mod et GPT-4.


ShieldGemma iudicium results

Renuntiatio technica ShieldGemma eodem tempore etiam divulgata est, quae explicavit modum constructionis, datorum fontem et efficaciam exemplaris. In responsionis experimento quattuor genera contentorum nocivarum, responsionis rate of ShieldGemma in tribus squamis melior est quam GPT-4.


ShieldGemma responsio test

Inscriptio technica fama:

https://storage.googleapis.com/deepmind-media/gemma/shieldgemma-report.pdf

tribus,"Microscope" intus magna exemplaria ad exemplar morum resolvere cum codice ponatur

Ut in studiis internis operationis principia exemplorum linguae Google investigaret, comprehensivum et apertum sparsum autoencoder Gemma Scope immisit. Sicut microscopii fungitur, inquisitores adiuvantes "videre" intra exemplar ut melius intelligatur quomodo operatur.

Gemma Scope specifica puncta amplificat in exemplari utens Sparse Autoencoders (SAEs). Haec SAEs adiuvat parse notitiarum densarum et multiplicium in exemplari processit, eamque in formam analysi et ad intellegendum faciliorem reddens.


Sae per SAE interpretatione repraesentationem exemplar activation

Investigando has dilatatas opiniones, investigatores comprehendere possunt quomodo Gemma 2 exemplaria cognoscit, informationes processus, ac demum praedictiones facit, explorans quomodo systemata AI aedificandi faciliora ad intelligendum, certius et certius reddendum sint.

Antea, investigatio de SAE maxime in studiis interioribus operationibus unius tabulati in minima vel magna exemplar tendit. Divisio Gemmae Scopae est quod SAE in singulis stratis et sub-circulis in forma Gemmae 2 output instituat. Plus quam 400 SAEs generavit et plus quam 30 decies centena milia didicit.


▲Exemplum activation de Gemma Scope's SAE indagationis

Gemma Scope etiam novo JumpReLU SAE architecturae exercendae utitur. Difficile est architecturae originalis SAE binas metas deprehendendi quarum notae insunt eorumque vires aestimandae sunt paria pondera. Architectura JumpReLU hanc stateram facilius, signanter errores minuendo consequi potest.

Gemma Scope summam plus quam 400 liberorum SAEs aperuit, omnes ordines Gemmae 2 2B et 9B obtegens, et demonstrationes interactivas praebet.


Gemma locus interactive demonstrationem

Demo inscriptio:

https://www.neuronpedia.org/gemma-scope

Inscriptio technica fama:

https://storage.googleapis.com/gemma-scope/gemma-scope-report.pdf

Conclusio: GenerativusAIVentus ad parvum exemplar acAIsalus

Cum evolutionis generativae AI, exemplar processit ab "volumine" parametri et "volumen" scalae ad "volumen" levitatem et "volumen" securitatis, quae ostendit quod in processu technologiae exsequendi, propius utentibus, minore pretio. meliusque necessitatibus occurrere.

AI PCs et AI telephona mobilia paulatim vitam consumentium ingrediuntur. In hoc processu, quomodo "sarcina" magna exempla in pactis terminalibus machinis dum in usuario secreti et securitatis urget problema urget quod maiores AI artifices solvere debent.