Patefacio tardus charta est exempla superpotens exempla se explicant

Text/AI Future Guide auctor Hao Boyang

Editor/Zhou Xiaoyan

Hodie OpenAI novam chartam dimisit, quae est "opus posthumum" defuncti OpenAI Super Alignment team. Novam rationem proponit ad meliorem exemplar interpretabilitatis, quae est ut exemplar suam logicam explicet, quo facilius explicatur, quo melius.

Haec opinio revera non nova est, sed omnes prompti verbi propositi ad id faciendum usi sunt. Usus suggerit ut vincula cogitationis cogant AI ad explicandas responsiones suas. Sed annon melius esset si exemplar in primo loco explicando melius esset? Tunc tibi aliquas adaptationes in forma disciplinae processu facere debes. Ad hoc propositum assequendum, OpenAI methodum quae "inspectabilitatis institutio" appellatur. Methodus quae "ludum certificatorem-verificatorium" nominat, adhibetur ad emendandi facultatem se explicandi. Tandem reperit hanc methodum quidem utilem esse.

Quam exacte hoc faciunt?

Valde callidissimum AI (vocemus "proveram" instituere volumus ad problemata mathematica solvenda. Speramus hanc AI non solum rectam responsionem dare posse, sed etiam clare exponere ac facile hominibus intellegere. Attamen, si recte AI modo recta responsionem prosequamur, potest explicari modus admodum implicatus et difficilis ad problemata solvenda.

Exempli gratia, in exemplo infra, responsio per exemplum recta est, sed argumentatio methodi valde ineffabilis est. Hoc difficultatem facit pro usoribus ordinariis, etiam clientibus in industriis qui altam praecisionem requirunt, diiudicare num verae sint eorum notiones.

Itaque, ut hanc condicionem vitaret, inquisitores ingeniosi methodi accesserunt;

1. "Ai referendarius" creant (vocatur "validator"). Hic referendarius non tam callidi est quam AI problema solvendum, sed eius officium est iudicare num responsum problema solvendum AI recte et perspicuum sit.

2. Tunc problema solvendum AI quaesiverunt duas partes agere: "bonus discipulus" (utilis AI), recta et clara responsa dare conatur; verum apparent sed etiam subtiliter falluntur.

3. Ambae "discipuli" referendarius AI persuadere conantur suam responsionem rectam esse.

4. Subinde referendarius AI melior et melior fit ad responsa rectam et non rectam identitatem. Eodem tempore, "bonus discipulus" AI, difficultates clarius explicare didicit, dum "injuriosus discipulus" AI didicit subtilius errata facere.

5. Processus repetit quasi ludus permanentis.

Hic processus est "ludus certifier-verificatorius". Hoc modo, post multiplices disciplinarum vias, explicationes exemplarium magis magisque clarescunt. Verbi gratia, post unum circum huiusmodi disciplinae exemplar multo melius interpretatio est.

(Proventus primae circum disciplinae iam explicatae sunt)

Post quinque orbes, exemplar thema vobis in sono magistri scholae fundamentalis basicaliter potest explicare.

(Proventus quinti circum disciplinae)

Et hoc referendarius AI "verificatorium" etiam evolvit sub calliditatis AI. Melior factus est diiudicando utrum responsiones verae an falsae sint. Etiamsi callidus AI astutiam phantasticam facit, facilior erit in ea invenire densas.

(Responsio haec est ex Cunning AI, quod satis honestum est)

(Procedente tempore, gradu calliditatis AI etiam melioris)

In processu, investigatores OpenAI modum vocati etiam inveneruntPhaenomenon "intellegibilitatis tributum" quo facilius AI output est, eo magis verisimile est certum gradum agendi vel accurationis immolare.

Figuram fecerunt ad hoc phaenomenon repraesentandum.

In pictura; X-axis: subtiliter exemplar generantis significat, Y-axis: accurate aestimatores humanos repraesentat, hic uti mensura legibilitatis. Exemplar quod doctrinarum subsidii directe praestat (RL) sine "inspectabilitas disciplina" validas facultates habet sed interpretabilitas pauperum. Exempla, quae "inspectabilitas disciplinae" subierunt, accurate emendare possunt, eadem interpretabilitate servata. Est autem modus.

Quidnam haec investigatio facit? Ex praedictis etiam exemplis possumus videre explicationem methodi, quae facilior est referendarius AI ad intelligendum, facilior etiam nobis hominibus ad intelligendum.hoc Ostendit nos posse uti exemplaribus minoribus, facilioribus-ad-exemplaribus ut reponantur opiniones annotationes hominum (ut RHLF) ad intellegentiam amplis exemplaribus outputis emendandam. Magnam spem ad hunc modum dat charta. Contendunt « talem autonomiam magni momenti esse ad noctis superintellectus AI systemata futurorum, eo consilio ut AI systemata cum humanis valoribus et exspectationibus sine recta humana inspectione certo alignum sit.

Memini auctoris operis Super Alignment team ideam de infirmis exemplis utendi ad exempla fortis invigilare. Videtur quod, contra exemplar originalem super alignment, vere conantur variis modis uti ad illud assequendum. Misericordia est res mutatas, turmas reliquit, omnesque audimus nunc novissimam verberationem esse.