nuntium

Loquamur quomodo cogitemus de magnis exemplaribus cum profundis discentibus Yann LeCun

2024-08-09

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Progressu et favore technologiae generativae AI biennio proximo, magnis adhibitis exemplaribus ad contenta generandi, paulatim vita hominum vulgarium facta est. Hic processus facilis videtur: cum instructionem inponimus, exemplar magnum potest directe respondere pro nobis emittere. Nihilominus post scaenas nemo cognoscit principia operativa interna et exemplar decernendi processus exemplaris.

Propter inexplicabilitatem exemplorum capsulae nigrae, securitas AI semper interrogata est. Itaque phisici conantur aperire capsam nigram magnarum exemplorum, quae "investigatio arca alba" in industria vocatur. Ex una parte, studium capsulae albae exemplorum adiuvari potest ut exempla nigra capsula intellegantur, magna exempla optimizing et efficientiam meliorem efficiendi. Contra, finis investigationis capsulae albi AI, subiectum ipsum, in scientiam.

Hoc tempore nos vocavimusChen Yubei, Professor Assistens, Department of Electrical and Computer Engineering, University of California, Davis, eius investigationis argumentum ad "exemplari capsulae albae" refertur. In addition, est etiam postdoctoral socius Yann LeCun, Turing Award victor et Meta princeps physicus. In hoc eventu, de recentissima investigationum progressione exemplarium capsularum nobiscum confabulabatur, ac etiam nobiscum communicavit Yann LeCun, physicus ille familiaris, qui discursibus descensionibus AI industriae expertus est, sed pure focused manet. .

Graphic by Violet Dashi. Illustrations by Nadia and Simple Line

Hi colloquiis delecti sunt

01 Cerebrum humanum et exemplar magnum

« Vallis Pii 101 »;Potesne primum breviter introducere "exemplar capsulae albae" investigandi quam facitis? Per investigationem tuam invenisti quomodo explicare quaestiones GPT initus et output?

Chen Yubei:Re vera, propositum relative magnum in hac directione est promovere altam doctrinam a subiecto mere empirico ad subiectum scientificum, vel ipsum in scientiam convertendi, quia nunc machinatio celerius relative evehitur, scientia autem relative tarda est. Exemplar adhibitum esse solebat, quod verbum emblematis appellatum est, quod aliquas repraesentationes linguae Latinae addiscere posset.

Omnes actu tunc temporis quaestionem habebant: Nostrum negotium perficiendum est melius, sed quidnam faciendum est ut haec emendare faciamus? Hoc igitur tempore valde mature egimus, quod has verborum repraesentationes aperire conabatur. Cum aperueris, phaenomena nonnulla invenies.

Exempli gratia, si verbum malum accipias, aliquas significationes in eo invenire potes. Exempli gratia, una significationes fructus repraesentare potest, alia mensa repraesentare producta, quod utique ad Apple. Sic invenies quod per verbum has significationes invenire possis, et tunc hanc methodum ad exemplar linguae magnae extendere potes.

Aliis verbis, postquam magnum exemplar linguae latinae didicimus, aliquas significationes in exemplari quaerere possumus ac deinde eam aperire conamur. Magnum exemplar linguae invenies, quod in re plures stratis habet.

In gradu primo apparebit phaenomenon quod "verbum disambiguatio" vocatur. Verbi gratia, est verbum Anglice dictum "relictum". Hoc verbum significat et sinistram et praeteritum tempus abeundi in primo stratis.

In medio termino invenies aliquas significationes novas emergere. Illo tempore res valde interesting dicta est "Unit Conversio". Cum chiliometra in miliaria convertere vis, et temperatura a Fahrenheit ad Celsium excitabitur hoc modo.

Cum longius progredieris, etiam exemplar inter has metaphyses reperies esse. Praefecti haec est ut cum repetita significatio in contextu appareat, hoc modo reducitur . Utique, hae ideae non sunt omnino novae. Re vera historica in exemplaribus visualibus habent.

« Vallis Pii 101 »;Hanc sententiam sequentes, si sciamus quam partem operis, eam multum a prospectu machinali optimize possumus?

Chen Yubei:Etiam magna quaestio est. Puto postulationem relative altam ad quamlibet theoriam pertinere quod praxim dirigere possit. Cum igitur exemplaria linguarum et repraesentationum vocabularia ageremus, una proposita tunc habuimus ut postquam intellexerimus, exempla illa nos vicissim optimizare possemus. ? Nam id efficitur nisi.

Exempli gratia, si meta significationem in magna lingua exemplar inveneris, tunc excitabitur cum meta-ntionem quandam viderit, tunc neuron hoc in discriminatorem adhiberi potest, et hoc aliquo ad opera aliqua uti potes. Mutando has significationes, studium exemplar componitur.

Quod si macula possum, tum accommodare possum. Nuper, Anthropicus simile opus operatus est, quod est invenire aliquas bias quae in exemplare linguae possunt existere, et inde aliquas mutationes facere ad illud, ut exemplar aequius et securius reddatur.

« Vallis Pii 101 »;Vidi etiam OpenAI studium egisse anno superiore, qui GPT4 ad GPT2 explicandas usus est et quomodo opera GPT2 videbat. Exempli gratia, neuron GPT 2 motum iri invenerunt cum omnia ad historiam Foederatarum Americae circa 1800 referentes respondeant. XII neuron in linea 5 excitabitur line 12. reducitur.

Si neuron quod respondet Sinensium avertit, eius facultas intelligendi Sinenses signanter decidet. Sed ulteriora neurona sunt, verbi gratia, cum neurons circiter 2000 ordines attingunt, altiore credibilitas multum decidit. Vidistin' investigationem eorum?

OpenAI investigatio: GPT4 explicet GPT2 neurons

Chen Yubei:Articulum hunc nondum legi, sed haec methodus valde similis est operandi in neurons cerebri. Aequivalet nunc si reticulum neurale est, hoc ipsum significat quod aliquo modo exsistentiam localem invenire quam penitus dispergi potest, nonnullae operationes in ea perfici possunt. Exempli causa, si aliquod neuron abscissum est, certam partem facultatis suae amissam esse putes.
Re vera, eadem ratio est de hominibus.

« Vallis Pii 101 »;OpenAI et anthropica nunc magnarum exemplorum interpretationem discunt.

Chen Yubei:Re quidem vera, nemo scit an investigatio in capsula alba exemplar prospera futura sit. De ea cum praefectis meis antea disputavi, sed omnes consentiunt hanc rem operae pretium esse. Si ad hanc rem redeamus, id quod nostra inquisitio facere vult, actu est intelligere intelligentiam artificialem, eamque per intellectum nostrum restaurare, ac deinde aliquid aliud fundamentaliter aedificare. Ita observatio, id est interpretabilitas, medium esse puto.
Aliis verbis, sive exemplar hoc aperiam, sive haec experimenta facio, sive aliquas adaptationes ad exemplar, puto has esse aliquos modos, quos in processu intelligendi conamur, sed id quod vere magnum est circa capsulam albam. exemplar adhuc mihi signum repetendi est. Quia sive cerebrum humanum est sive machina, essentia eorum doctrinarum innititur significationibus.

In nostro mundo sunt aliquae structurae, quae etiam per has structuras discere debent, easque structuras discunt. Num igitur leges post has structuras invenimus, ac quaedam instrumenta mathematicae ad eas repraesentandas, et tum ad aliud exemplar fabricandum haec ordinandum? Id si fieri potest, exspectationem emendandae roboris, securitatis et firmitatis rationum nostrarum efficiet puto.
Accedit efficientia eius auget. Hoc est aliquantulus sicut theoria thermodynamicorum apparentium post machinam vaporem primum exivit, ita sustinens transformationem suam ex perfecto artificis subjecto scientiae. Eodem modo, hodie videmur habere machinam vaporem in notitia primum.

« Vallis Pii 101 »;Sic erit acrius efficiens.

Chen Yubei:Cum ad industriam conservationem, pauca exempla interesting tibi dare possum. Primum punctum industriae salutaris est certus, quia cerebrum leve cum bulbo valet cum virtute 20 watts consumptio, et supercomputatores current plus quam unum decies watts habere possunt.

Secundum est quod si consideremus evolutionem diversorum organismi in natura, eorum efficacia evolutionis valde alta est. Exempli gratia, est genus speciale aranei quod vocatur Spider Saliens. Paucis decies centena millia habet neurons, sed potest facere lineas numerosissimas tres dimensiones ad praedam capiendam.

Aranea saliens, Wikipedia

Et una res mihi gratissima est, quam efficaciter homines utantur notitia. Praesens notitia voluminis Llama3 circiter 13 trillion signa pervenit. Sed quanta notitia potest homo recipere in vita sua? Puta nos consequi posse XXX tabulas imaginum per secundas, et cotidianum acquisitio tempus est 12 horarum, et hoc facimus per 20 annos, tunc probabiliter possumus signa 10 miliarda obtinere, et textus fere idem obtineri potest multo minor est notitia quam exemplar magnae.
Quaeritur ergo, quomodo homines talem facultatem generalem fortem obtinent per tam parvam quantitatem notitiarum? Hoc est quod mirabile invenio de efficacia cerebri humani.

« Vallis Pii 101 »;Utrum difficilius est detegere quam magna exempla operantur vel detegere quomodo cerebrum humanum operatur? Durus mihi sonat.

Chen Yubei:Ambo difficultatem suam habent, sed in accessu similes. Sive cerebrum humanum est sive exemplar linguae magnae, conamur illud observare et videre quid respondeat.

Haec methodus ex investigatione in cortex visuali a David Hubel et Torsten Weisel videri potest, qui Praemium Nobelianum in Physiologia in 1980s vicit. Simplex Cellam invenerunt et studere conati sunt quomodo hi neurones motus gignunt cum aliquid vident, et varias responsionis status neuronorum analyses cum res varias vident, ut cum omnino non respondent et cum valde excitantur. ac deinde receptaculum neuronis invenerunt.

DH Hubel et TN Wiesel victores Praemium Nobelianum 1981 in Physiologia seu Medicina

Studium nostrum exemplorum linguarum magnarum hodie reapse similis est. Exspectamus varias initationes, et tunc intellegimus quae neurons intra exemplar intersunt in quibus initibus. Sed adhuc sunt differentiae.

Prima differentia est quod multae limitationes ad observandum cerebrum humanum sive per methodos interfaces obturaculum in electrodes vel in-computatrum-computatrum meliorem methodum, longo termino resolvere potes, et exemplar per aliquas differentias modos etiam ulterius resolvere potes.

Sed incommodum est quod facultas magnarum exemplorum longe minor est quam cerebri, praesertim magnarum linguarum exempla, quia solum mundum ex lingua discit, ita intellectus mundi est incompletus, sicut homo alii sensus praeter linguam.

E contra, cerebrum magis signa dimensiva procedere potest, et sensus valde dives est. Aliquando cogitamus de quaestione, an lingua perfecta sit? Si nulla est aliis sensibus sustentatio, omnes notiones in lingua independenter existere possunt, aut aliorum sensuum auxilio indigent ad verum intellectum assequendum.

Exempli gratia, si obiectum "refrigerator" non se habet ad passiones calidas et frigidas in rerum natura, sed solum describit statisticas qualitates habens ostium, talis descriptio imperfecta erit.

« Vallis Pii 101 »;Re quidem vera, cum cerebro comparata, magnae venae exemplar adhuc multum caret. Sed quia eam separare et considerare possumus, adhuc paulo longius quam ambitio cerebri secreta reserans, cogitas.

Chen Yubei:Difficilis intellegendi magnae linguae exemplar est quod multis modis eam observare potes et plus intelligere potes. Verbi gratia, si duae machinae sunt, una machina plene observabilis et altera ex parte observabilis, tunc intuenti loquendo, machina quae plene observatur facilius est ad intelligendum. Utique, aliquas facultates habet quas machina haec non habet, unde non potest aliqua intellectus humani cerebri reponere.

« Vallis Pii 101 »;Etiam in audientibus me introducam quod ante Yubei neuroscientiam studuit. Putasne igitur te subiectum subiectum adiuvare te in investigatione currente in campo AI? Suntne nonnullae methodi inquisitionis interdisciplinariae, quae ab invicem cognosci possunt?

Chen Yubei:Maior in neuroscientia computativa non sum. Meus gradus adipiscing erat in Department of Electronics apud Tsinghua University, et Department of Electrical Engineering and Computer Science in Berkeley. neuroscience.

Quod ad quaestionem modo attinet, studium neuroscientiae solere me incitari existimo. Quia cum scias has rationes in natura quidque facere possint, licet varias notiones habere et ad rem praesentem re- spicere.

Exempli gratia, imago est signum initus duarum dimensivarum, cuius elementa sunt horizontalia et verticalia, ac deinde craticulam format. Sed retina humana non sic apparet. Primum est genus receptoris cum diversis perceptionibus. Receptor valde densissime, sed non admodum regulariter dispositus est, densissima in medio, et utrinque sparsa.
Cum tale signum initus inspicias, imprimis reticulas convolutiones neuralis invalidas esse solemus, quia etiam convolutio hic non definitur. Cum igitur hanc condicionem in systematibus biologicis conspicimus, retractemus unde hae convolutiones sic dictae oriantur.

« Vallis Pii 101 »;Num igitur rationem retractare oportet? An hoc modo perficiendum est?

Chen Yubei:Ita. Puta te unum diem excitare, et omnia neurona tua dissipantur. Potesne adhuc mundum intelligere? Quia quod vides pictura non est amplius, et reticulis convolutionibus neuralibus amplius uti potes ad hoc faciendum.

Quamquam hanc quaestionem non penitus solvuntur, actu pertractavimus. Quamquam omnia neurona mea turbata sunt, hoc est, elementa in imaginis receptoris nostra turbata sunt, est quaedam relatio inter elementa proxima finitima. Exempli gratia, cum imaginem intuemur, reperiemus si pixel rubet, elementa circumquaque magis rubra sint elementa simul.

Tunc hoc tempore, addita structura sicut Transformer in magna lingua exemplaris, hanc imaginem re- praesentare possumus, et haec repraesentationis effectus satis bonus est. Hoc exemplum est explorare nonnulla de exercitia nostra hodierna, quae natura incitata est, et nonnullas varias methodos deinde proponimus.

Black Box Model, AIGC imago per Firefly

« Vallis Pii 101 »;Multae adhuc exstant similitudines inter investigationes magnarum AI exemplorum et cerebri hominis neuroscientiam. Eruntne neuroscientistae, qui in transversis campis investigationes ex eorum prospectu tecum cooperabuntur?

Chen Yubei:Re vera, multi sunt neuroscientistae, statistici et mathematici, qui aliquas structuras in significationibus naturalibus intelligere volunt, ac etiam attendere quomodo neurons in cerebro operantur, et deinde duo miscere conantur ut quasdam minimalists significationum repraesentationes proponere.

Exempli causa, phaenomenon in cerebro invenies, hoc est, cum multa neurona sint, neurona operantia simul actu admodum sparsa. Exempli gratia, si adsunt 1 decies centena millia neuronorum, pauca tantum milia operari possunt.

Secundum hoc, methodus sparsa coding in campo neuroscientiae primis annis proposita est. Hoc est, num aliquae repraesentationes ignobiles dimensiones sparsae in hoc signo summus inveniri possunt? Algorithmus ex hac idea constructus simillimus est repraesentationi neurons quas in cerebro observatis, ita hoc est insuetus successus in primis neuroscientiae computationalis.

Sicut hodie, tota investigationis campus noster nomen habet Statistics signum Naturale. Propositum est aliquas structuras fundamentales post signa aperire ut exempla in actu relative tarda. Existimo enim, quod ex una parte res sit perplexa, sed etiam quia pauci sunt in hac parte collocare.

02 "Current consequendi" of Black Box Model

« Vallis Pii 101 »;Ut simpliciter ponatur, nimis pauci sunt qui nunc exempla capsulae albae student. Sed antequam magnorum exemplorum eveniant, nonne apparatus traditus discendi etiam in categoriam capsulae candidae investigationis exemplar incidit?

Chen Yubei:Haec propositio recte considerari posse existimo. Haec praevia machinarum exempla discendi sunt relative simplicia et secundum quid intelligibilia.

« Vallis Pii 101 »;Cur igitur progressus investigationis hodiernae totius capsulae nigrae exemplar capere potest ut exemplar capsulae albae in angulis, tanto velocius?

Chen Yubei:Cum haec quaestio quaeritur, timidi erimus paulo ante respondendo.

« Vallis Pii 101 »;Quid timidus?


Chen Yubei:Cum haec quaestio acerrima est, revera quaeritur utrum exemplar capsulae albae sit, an via comprehensibilis quam nobis tradenda sit. Ex nostra aetate, non amplius scientiae in agro AI studiobimus, omniaque in futurum empirica subiecta erunt? Sed tamen non puto.
Nunc ad interrogationem tuam redeo, quidnam in hoc processu factum sit? Primum exemplar capsulae nigrae minus sarcinas habet. Si vis hanc methodum ad opus et methodum explicabilem esse, nimis multa sunt requisita. Tunc exemplar arcae nigrae dat unum ut primum operetur.

Secunda ratio est secundum quid ab omnibus neglecta, quae est incrementa notitiarum contra inclinationem, vel scalam expansionem.

Richard Sutton scripsit blogum ante et memoravit inesse aliquid quod ante XX annos non fractum est, quod cum plus notitiae et calculi habeamus, algorithmos invenire debemus qui vere expandunt datae a. Hoc magni ponderis aspectus reor exemplar capsulae nigrae vel progressus empirici nostri currentis.

Hoc est dicere, cum maiora data, meliora data, plura calculi, et maiora exempla habeamus, tunc plura discere possumus. Sed si ad hanc rem redeamus, quisque studium in capsula alba exemplar habet, quod ipsum exemplar simplex esse debet.

Comparatio inter Box Nigrum ML et Arcam albam ML

« Vallis Pii 101 »;Quare exempla capsulae albae esse debent simplices? Hoccine est, si nimis est implicatum, difficile erit consilium?
Chen Yubei:Ita. Re quidem vera brevia solum intelligi possunt cum theoriam agendo, et simpliciores etiam atque etiam oportet. Attamen, cum homines simplicitatem exemplaris consectantur, etiam iterum atque iterum reddunt. Deinde cum plures notitiae sunt, exemplar continuare non poterit, et eius facultates limitatae erunt.

Ita etiam hanc difficultatem puto quod omnes obiter student cum exemplaribus capsula alba et simplicibus exemplaribus praeteritis. Exemplar non solum opus est ut operemur, sed etiam interpretationibus eius indigemus impedimentis, sed etiam ut simplex opus sit. Cum mutaveris, errores inducis, errores accumulabis, nec postea progredi poteris.
« Vallis Pii 101 »;Nunc autem celeri progressione capsulae nigrae exemplorum, incipimus iterum eam solvere.
Chen Yubei: Ita. Hocque tempus cum illud solvemus, hanc quaestionem revisere possumus. Hoc est, ut exemplar in illo gradu perfecte simpliciorem reddere non necesse sit, potest adhuc magis implicatam mundi partem repraesentare.

Sed simul, adhuc speramus id esse secundum quid intellegibile, ut si una die ad exemplar capsulae candidae consequi possimus, omne conatum cogitamus ante id quod est oversimplification, sed speramus omnem simplicitatem progredi posse. Non etiam opus est ut exemplar capsulae albae omnino facere possimus. Fortasse exemplum capsulae albae facere possumus quae non tam potens est quam exemplar magnum, sed relative simplex est.
Utile est nobis post doctrinam essentiam intelligere, et hic intellectus permittit nos ut amplissima exempla eruditionis efficientiam emendare sinamus. Cum Yann pluries ante tractavi quaestiones efficientiam, id quod si ratio post hoc evolvitur, augere possimus efficientiam operandi usu iussu magnitudinis.
« Vallis Pii 101 »;Yann sententia est quod mavult exemplar capsulae albae vel exemplar capsulae nigrae evolvere?
Chen Yubei:Yann physicus notus est propter artes machinales, tot conatus suos adhuc involvunt ut hoc primum opus faciat. Sed Yann etiam exemplar inquisitionis capsulae sustinet. Dum cum eo disputabat, sentiebat hanc viam explorare valere, sed nesciebat an ad finem nimis ambitiosum deduceretur, sed aliquis id faceret.
« Vallis Pii 101 »;Exemplar arcae nigrae sentit sicut problema machinalis est, exemplar arcae albae quod scientifice explicandum est. Etsi ex prospectu mercaturae, ratio eius input-outputatio alta non est, si haec res tandem fieri potest, magni pretii tamen erit securitati AI et eius applicationes commerciales futurae.
Chen Yubei:Quod ad mercaturam attinet, equidem existimo intentionem primigeniam omnium qui investigationem principalem AI faciunt non habere aliquam applicationem pro intentione prima, sed per puram curiositatem de eventu intelligentiae agi quae ipsi auxilio operandi. Investigatio ipsa non ad aliquem usum destinata est.

Praeterea, cum hanc capsulam exemplar et efficaciam ultimam persequamur, etiam quaestionem quaeramus, hoc est, an exemplar linguae magnae, quam nunc aedificamus, nonnisi per huiusmodi scalam vel legem scalam effici possit ut bene sit iustus ambulare? Non puto. Quia homines non possunt tam magnam copiam notitiarum accipere, quam facultatem generalem relativam obtinere cum parva copia rerum datarum etiam magni momenti quaestionem quaerimus.


« Vallis Pii 101 »;Hoc etiam problema pervestigatum est in capsula nigra exemplarium scholarium. Quod discipuli et scholae currently sunt exemplar arcae albae discunt?

Chen Yubei:Nunc maxime tres copiae AI. Prima vis quaedam est experientiae quam generavimus in processu discendi haec exempla machinativa, et deinde eam visualisandi, qualis est quae in agendis anthropica et OpenAI nuper involuta sunt.

Investigatio anthropica: Features interpretabiles extrahendi e Neuralis Network Claude 3 Sonnet

Secunda est neuroscientia computationale, quaerit cerebrum humanum intelligere et vias invenire in quibus aliqua memoria existat.

Alia sententiarum schola est inspicere fundamenta signi in prospectu mathematico et statistico. Nimirum inter haec tria genera multum transitorium erit.
« Vallis Pii 101 »;Quod genus ad te pertinent?
Chen Yubei:Equidem plus minusve omnibus tribus coetibus moveor. Cum essem apud Berkeley, matrona mea et magister Ma Yi omnes ad scholam neuroscientiae et mathematici statisticae pertinebant, et Yann in machinatione magis exercitatus erat. Hos tres modos etiam placabiles puto, quia tandem nos movent in eandem partem.
« Vallis Pii 101 »;Utra est? Suntne nunc eventus phased?
Chen Yubei:Ultimus gradus est exemplar intelligere. Fuerunt quidam phased ante consecuti, ut an reticulas aliquas facere possimus cum duobus vel tribus ordinibus, et videre possumus quid discat in singulis accumsan. Denique inveni possibile esse numerum repraesentare. Si vis repraesentare, omnes ictus eius cognosces, et similes ictus simul coniunges, et deinde proximum repraesentationis gradum, strato iacuit, construere potes. reperit denique numerum.
« Vallis Pii 101 »;Nunquid investigatio vena tua ducet ad exemplar optimiizationis capsulae nigrae?

Chen Yubei:Primum, ut intellectus eius profundiorem reddat, exemplar arcae nigrae optimize possis et efficaciorem reddere. Secundum est exemplaria capsula nigra coalescere, ita multum supervacaneum extenuandum. Eodem tempore est alia columna operis in quo laboratorium meum, quod non solum ad perceptionem, sed etiam ad studium temperandum est.

Cum has magnas linguas exempla das facultatem mutuae cum mundo, potesne eandem facultatem generalizationis in dicione moderandi habere? Quid significat? Hoc est, ratione sensibili, me mala, pira, deinde persici didici.

Itane in agro imperium potest similis effectus fieri? Exempli causa, si robot progredi discit et in loco salire, potestne cito verti in robot quod simul prosilit et ambulat?


" Vallis Pii 101 " ;: Si interrogatus es ad conclusionem, censes utendo exemplari arcae albae investigationis ad recludendum arcanum magnae operationis exemplar, ubi est vectis progressus?
Chen Yubei:Revera, nemo nostrum scit quam longus iste progressus sit. Progressio linearis necessario non est, quantum salire similior potest. Cum novus intellectus exeat, statim magnum gradum progredi potes.

Si vis ChatGPT capsam albam facere, hoc longe remotum esse puto, sed exemplum satis bonum, plene comprehensum efficere posse, quod facultates AlexNet tempore effingere possit. Hoc exemplar facere potest recognitionem Imagenet. Intellegere possumus quomodo quisque gradatim agit, quomodo in felem et canem gradatim vertit, et deinde quae fabrica huius cat et canis generantur.

Exemplum de WordNet usus est ab ImageNet

« Vallis Pii 101 »;Estne imagoNet agnitio capsulae albae vel capsulae nigrae?

Chen Yubei:Sed quomodo operatur. Intellectus quidam ex primis visualisationibus factis a Matthaeo Zeiler et Rob Fergus et multis inquisitoribus fuit, sed nemo exemplar creare potuit ubi singulos gradus comprehendere et adhuc bene operari potuimus.
« Vallis Pii 101 »;Ita fortasse propositum est exemplar arcae albae ridiculo esse. Exempli gratia, primus gradus est explicare quomodo opera ImageNet. Postquam mysterium solvitur, explicare possumus quomodo quaedam exempla parva operantur, sicut usus GPT 4 ad explicandum quomodo GPT 2 opera, et deinde paulatim maiora exempla explicabimus exemplar operum.
Chen Yubei:Ita. Puto hoc processum adhuc diu multumque occupat, et plures homines in hac parte collocare opus est. Quia maxime jobs currently sunt in ipsum agrum. Si in scholis ponimus, tunc vere debes habere aliquas notiones originalium, pro dicere te scandere, et ibo ad scalam, omnis est scala, et in fine nulla est distinctio, totum pendet ab. Qui Qui apparatus est optimus et qui habet maxime notitia?

03 Quod scio de Yann LeCun

« Vallis Pii 101 »;Deinceps tecum colloqui volo cum consiliario tuo postdoctorali, Yann LeCun. Primum me introducam Yann LeCun ". "Pater Penitus".

LeCun nunc princeps AI physicus apud Metam est et professor in Universitate New York est. Retia neuralis convolutionis (CNN) in 1980s pinxit, quae technicae artis fundamentum facta est visionis computatricis recentioris. LeCun, una cum Gaufrido Hinton et Yoshua Bengio, 2018 Turing Award operam suam in alta doctrina accepit.
Potesne explicare Praecipuum investigationis scientificae Yann eventum nostris amicis non-technicis et quare tam clarus est?

Chen Yubei:Yann campum retis neuralis AI ab annis 1980 studuit et multa cacumina et canalia et variarum cogitationum declinationem expertus est. Tamen semper in retiacula alta discendi institit et homo est qui per tenebras ambulavit.

Exempli gratia, difficillimum erat evulgare articulos ad altam doctrinam in 2000. Quam difficile erat? Si verbum Neural vel Network in tuo articulo existit, probabilitas tua reiecta valde alta est. Si Network Neural est, fundamentaliter reiicietur.

Ita tempus obscurum illis tunc fuit, et sumptu affecta est. Sed in his tenebris perseverare potuerunt et numquam desistunt, et tandem ex tenebris ex hac ambulaverunt. Hodie, retiacula alta neural mundum mutaverunt diebus.

Yann LeCun

« Vallis Pii 101 »;Cur coetus eius eligis cum discipulus postdoctoral eras?
Chen Yubei:Hoc magis interesting valebat. Omnino temporis eram confusa nec etiam cogitabam de graduating istius semestri. Quia propositum meum est exemplar capsulae albae facere in Ph.D. meo, et effectus comparabilis cum AlexNet, sed nondum paratus est.

Cogito si investigationem meam continuare volo, quis me ad postdocum adire debeo? Fui in tempore conventus, et tunc in visneto Yann conveni. Im actu non homo praecipue speculativus. Omnes puto Yann ut postdocum invenire vult, cum eum conveni, maxime volui loqui de eius opinionibus de labore meo et de futuro AI .

Quam ob rem sermo in conventu valde bonus erat. Cogitavit etiam de investigationis directione et de quibusdam quaestionibus quas cogitavi, sed de retiacula neural prospectu. Tunc ergo me interrogavit si positionem postdoctoralem applicandi interesse vellem.


« Vallis Pii 101 »;Qualis oraculi est? Multum spatii ad explorandum discipulis dat, et multum adiuvat cum omnibus discutere.
Chen Yubei:primumSecunda condicio iam non possibilis est ei.

Similis est actu meo supervisori PhD, est acerrimus in aliquas partes generales, sed aliam inter eos similitudinem esse puto, quod pertinaciter in eo quod credunt, id est, tibi directionem et scopum dabit. Sed non refert quomodo adeas, sive in navi sive in curru, istas singulas non continebit.
Eius directio generalis annis non mutata est. Disciplina in duas partes actu divisa est. Una pars est sui ipsius vigilantia in perceptione. Alia pars maioris momenti est vigilantiam sui facere in corporato modo, vel nunc agimus exemplar mundi, quod directio credit in se.

Hoc nomen ei actualiter dedi, quia articulum vocatum exemplar Mundi a David Ha et Jürgen Schmidhuber scriptum legi, et nomen satis frigus putavi.

Architectura systema intelligentiae sui iuris, Mata AI

« Vallis Pii 101 »;Investigationes in Yann directione alia ab illa OpenAI et anthropica censes?
Chen Yubei:Si vere aliud dicere vis, cogito id quod Yann vult, exemplar habere plures notas necesse est. Primum est facultas incorporandi, quod significat non solum acervum notitiarum, sed exemplar per seipsam potest tandem explorare mundum.
« Vallis Pii 101 »;Quid interest? Videtur quod omnes sperent tandem talem exitum assequendum.
Chen Yubei:Executio alia est. Exempli gratia, OpenAI puto esse Lex Scaling, quae significat plura et meliora data, deinde plura calculi et exempla maiora. Sed Yann adhuc magis est scientificum. Sentiet non satis iustam constructionem datam esse.
« Vallis Pii 101 »;Ita Yann est actu equivalent to arca nigra et arca alba investigationis simul.

Chen Yubei:Puto Yann revera non multum curat utrum hoc in scientia explicari possit. Nunc, opiniones eius maxime empiricas et machinationes puto ipsum bonum.

« Vallis Pii 101 »;Cum OpenAI probavit Scaling Lex bonos consequi posse eventus, putasne Yann in methodis scientificis investigandi et cogitando mutavit? An adhuc valde haerens in prima linea?

Chen Yubei:Imo non repugnat legi Scali. Vera differentia possibilis est quod multum laboris OpenAI usque ad extremum in machinando productum ordinatur et ad supplicium est, sed Yann investigationem facit in forma magis scientifica.

Cum de his rebus cogitat, non multum cum fructibus actu. Quia nimium diu in hoc campo fuit et plus quam octo annos in hoc campo penitus implicatus est, ideo potest adhuc propositis suis adhaerere cum his rebus inspiciendis.

« Vallis Pii 101 »;Intelligentia identitate discere autonome est primum notam investigationis Yann.

Chen Yubei:Est etiam aliquid quod Yann semper credidit in nomine JEPA, Artificium Embedding Praedictivae Architecturae. Hoc est dicere, exemplar utique habere debet facultatem independentem discendi, sed maioris momenti quam hoc est quod exemplar etiam aliquas altiores gradus discendi normas addiscere potest.

Re vera, in praesenti sunt duo coetus singularia non sunt praecipuae informationes cum iudicando de systemate.

« Vallis Pii 101 »;Estne hoc diversum a tua matrona Ma Yi apud Berkeley?

Chen Yubei:Nam in hac consideratione nulla est essentialis inter eos contentio, sed modus significandi aliter est. Magister Ma sentit leges huius mundi esse simplices. Yann putat has singulas partes actu detrimentum esse in amni operibus vel aliquibus iudiciis, ut necesse sit illas leges altas invenire.

Eaedem sunt duae, quia summus ordo regulas plerumque simplices. Magister Ma saepe dicit omnia compressionem esse. Si ex parte Yann spectes, compressionem quidem rectam invenies, sed hierarchicae notae structuram actu differre.

Quia rerum complexus est mundus, si singula in rerum fodere, invenies res multum esse structuras humiles actu. Structura est in notitia, et omne quod habet structuram, est imago declinationis a strepitu; id est, omne sine structura strepitu est, et omne quod sonum relinquit, est structura.

Has structuras discimus, sed variae sunt structurae gradus. Sed cum ascenderis ad planitiem, ad ampliorem modum, invenies structuram re vera non esse amplius.

Ita sententia Yann est pressio illa recta, sed opus est ut hierarchica doctrina omnes structuras in signo discat ac superiores altioresque structuras discat. Attamen structura antecedens saepe non ideo magnam proportionem totius compressionis facit, et per ipsum processum amitti potest, quia numerus rerum in humili gradu est, et copia notitiarum sicut strepitus est maxima; altiora sunt.

Quare? Quia munus tuum optimized iacturae munus obiectivum est, sive hanc regulam inveneris sive hanc regulam non invenias, parvam ictum in damno tuo habere potest. Praecipua haec duo puncta esse puto, unum mundi exemplar, alterum hierarchicum repraesentare.

Yann LeCun loquebatur ad NYU

« Vallis Pii 101 »;Qualitates autem maxime tibi videtur imprimere?

Chen Yubei:Quod mihi praecipue impressit, verisimiliter fuit intentio et puritas, cum quibus res agebantur.

Uno tempore pransus sum cum Yann, et dixit me habere omnia quae volebas cum esses adulescens, sed non multum temporis amplius, ut tantum uti possit reliquum tempus ad faciendum quae vere credit.

Cum his phisicis laboras, eorum ingenio affici potes, ut etiam antequam ad statum nunc sint et res quas habent, mundum ex eorum prospectu parum videre possis.

Cum ergo res eliges aut facias, excedere locum tuum potes, et cogitare quid facturus sim si unum diem omnes similes ei habuero.

« Vallis Pii 101 »;Num quid de vestris iudiciis mutavit?

Chen Yubei:Etiam de hac re me faciet electiones multum faciens. Memento mei prima die PhD studio meo praefecti duo mihi narravit.

Una est quia non indiget me ut plures articulos edam, sed spero articulos quos possum evulgare per tempus iter facere posse, ita ut etiam si hunc articulum 20 post annos legam, adhuc recens erit. Quod quidem difficillimum est, quia multum laboris distinctum sensum temporum habet, sed nonnullae cogitationes vere altae adhuc centum annorum durant cederet. Sed tormentum animae movet, hoc est, utrum persistere possit in aliquo opere faciendo quod cum tempore potest esse.

Secundum est, quod sperat scolasticus se habere habitum. Hoc est, cum hoc facias, hoc opus non esse quod tibi opus est, sed hoc opus quod speculativum est. Quod quidem in eis est similis complexionis, id est, non sperant turbam sequi, sed suum habitum habere, et vocem aliquam habere propriam.

Cum igitur directionem inquisitionis eligo, subinde iudicabo utrum opus quod facio speculativum sit an verum firmamentum.

Magnam de illis rem cogito, praesertim Yann, est te per hoc tempus prope desperatum et in aurora adducturum potes. Homines qui inexpertis canalibus satis subsidere non possunt. Cum per obscurum tempus transieris, utere visione et perseverantia tua ire per hoc breve tempus, et tunc probo quod rectum est ipsum dolor sit amet.

« Vallis Pii 101 »;Suntne aliquae opiniones scientificae Yann quod cum te dissentiunt?

Chen Yubei:Interdum obtusus esset. Exempli gratia, nuper dixit quod si indagator es, magna exempla linguae studere non debes. Haec sententia multas habet interpretationes. Sentire licet nonnullas structuras in magna lingua exemplorum esse, quae ad intellegendum ac pervestigandum valent.

Scilicet, id quod Yann vere dicere vis est quod modo dixi, speculativum opus non faciunt sicut A et B. Spero indagatores perseverantiam aliquam habebunt et contributiones magis originales inveniunt. Si hoc modo diceretur, ego magis consentirem profecto. Sed ut magna V, interdum verba eius excutient te et felis multum disputationis. Locus est quem valde interesting invenio.

« Vallis Pii 101 »;Etiam apud Metam functus es.

Chen Yubei:Prima res debet aedificare META AI. Cum Meta AI aedificare vellet, Mark primum eum invenit. Praeterea, quod in primis annis apud Bell Labs laborabat, statum campanae Labs rursus desiderabat, ergo etiam specimen quoddam laboratorium tale replicandi habuit. in Meta. Huic notioni adhaerens, coetus etiam optimorum hominum in Meta AI reparavit et exercuit, magnas ad hunc campum contributiones faciens ac totius campi evolutionem promovens.

« Vallis Pii 101 »;Fontem apertum magni ponderis existimandum esse puto eius collatio. Exempli gratia, causa quare Meta llama aperto fonte iter accepit, valde consentaneum esse debet cum altiore notione Yarn.

Chen Yubei:Ita, ita, fons apertus est quidem id quod Yann instat. Sed nescio an Meta manebit ut fons aperta sit in futuro, quia tamen, Meta faciet etiam certamen, sed hoc puto notionem Yann esse actualiter ex tota evolutione pendere potest.

« Vallis Pii 101 »;Putasne totam investigationem in magnis exemplaribus nunc a doctis agi oportere? An lente fiet res machinalis?

Chen Yubei:Primis diebus physicus agitatus est. Biennio praeterito, opinor, principale progressus est ab executione rei. Auctus est notitia? Ditior facta est eius distributio? Possuntne calculi paralleli? Omnes res maximae in ipso agro causantur. Progressio ab 0 ad 1 requirit scientifica interruptiones, sed ab 1 ad 100 requirit facultatem rigorem et exsecutionem machinativam.

« Vallis Pii 101 »;Omnes exspectamus ad GPT 5 nunc. Putasne si GPT 5 exeat, eritne plus quaestionis scientificae vel quaestionis machinalis?

Chen Yubei:Longum iter esse puto in ipsum. Sed simul puto quod, etsi robustissimum modo invenimus nunc legem Scalam, non satis certum est.

Quid ergo aliud opus est? Cogito quid opus est aliqua efficientia alta sicut homines. Urguet notitia, sed potest etiam aliquid aliud esse, sic puto si loquimur de processu ducendi ad AGI, debere esse aliquas mutationes magnas relative ab 0 ad 1 .

« Vallis Pii 101 »;Etiamsi progressus scientificus est, multum tamen loci emendandi operandi est.