nuntium

Confer cognita abuti privata notitia! Academia Scientiarum Sinensis et alii methodum "Multi-gradus Erroris Minimization" emiserunt |

2024-08-01

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


Nova Sapientia Report

Editor: LRST itaque somnolentus

[Introductio ad Novam Sapientiam]. Investigatores proponunt novam multi-gradum errorem minimizationis (MEM) methodum generandi exempla multi-modalia indisciplinata ut personales notitias ab abusu multimodis oppositorum doctrinarum exempla defendant. Per sonum imaginis optimizing et triggers textorum, MEM methodus exemplar efficaciter fallit, suam facultatem discendi in notitia privata minuens et validam translationem inter alia exempla demonstrat.

Doctrinae multimodae oppositivae (ut CLIP) significantem progressum in nulla classificatione iactum consecutus est, cognita ex millionibus imaginum-captionum binarum e Interreti abrasarum.

Nihilominus haec fiducia periculum secretitim imponit, sicut hackers uti possunt notitias imaginum-textuum ad exemplar institutionis sine licentia, quae includere potest notitias personales et sensitivas-sensitivas.

Recentes laboris proponit quod breves cum praesidio stabiliri possunt exempla indisciplinata generando, addendo perturbationes imperceptibiles ad imagines formandas.

Attamen hae methodi ad singula negotia classificationis modales ordinantur et in multi- modali doctrina oppositiva inexplicabilia manent. Haec charta primum hunc locum explorat, perpendendis methodis existendi in paribus imaginatio-captionibus aestimandis, ubi methodi superiores non possunt efficaciter generare ad multi- modales notitias propter defectum pittaculorum in hoc missione et efficaciam habent limitata in compendiis constituendis.

In hac charta multi-gradum Erroris Minimization (MEM), novam optimiizationis processum ad exempla multi-modalia non discenda generanda proponimus. Errorem minimizationi (EM) compages extendit ad optimize imaginem strepitus et textorum additiciorum triggerum, qui meliorem spatium dilatat et exemplar utiliter fallens ut breves inter strepitus notas et textus triggers discat.


Paper link: https://arxiv.org/abs/2407.16307

Code link: https://github.com/thinwayliu/Multimodal-Unlearnable-Examples

Speciatim descensus proiectus gradiens adoptatur ad problema solvendum strepitum minimizationis, et methodus HotFlip ad clivum approximare adhibetur ac verba substituendi ad meliorem textum felis inveniendum.

Plurimi experimentorum efficaciam methodi probaverunt, eventus retrevales post tutelam media fere sunt coniecturae incerti, et valde transferri potest inter exempla diversa. Charta et codice huius operis fons aperta sunt.

Investigatio Background

Superioribus annis, cum multimodae eruditionis ortus, investigatores acre studiosos facti sunt in exemplaribus quae multiplices formarum notitiarum genera coniungunt sicut textus, imagines, et audio.

Inter eos, multi-modalis doctrinarum oppositorum modus in hoc campo clarus factus est. Exemplaria ut CLIP et CONLINIS usu dispendii oppositorum disciplinae ad augendam relationem inter imagines et textus, necessitatem manualis annotationis minuendo, et utilitates in imagine demonstrando. divisio, potentia in operibus ut generatio.

Attamen horum exemplorum institutio in magna copia notitiarum multi- modalium nititur, quae saepe ex schedulis publice in promptu veniunt, sicut CC12M, YFCC100M et LAION5B, sed hae notulae adhuc insufficientes sunt et magnum pondus notitiarum personalium sensitivarum possunt continere; excitato Curas de secretorum ruptionibus.

Missionem consideramus quae multimodis indisciplinatis exemplis generare intendit ut cum periculorum secretorum adiunctis discendi multimodis oppositivis coniungatur. In hoc missione intendunt paria textuum imaginum tamquam multi-modales notas repraesentativas. Ponitur users saepe communicare imagines personales cum textu in instrumentis socialibus adlevatis, sicut Facebook, in iis privatis informationibus identitatis sicut facies, nomina, numerus telephonicus, oratio.

Nunc, hackers conantur colligere magnum numerum talium imaginum-textuum paria interretialem et instituendi vel cantilenae magnae exempla utentes multimodis artibus oppositorum discendi, sicut in dimidia figura 1 sinistra monstratum est.

Haec exempla imprudenter utentes capiunt notitias privatas et vultus faciales, ducens potentialem liberorum secretorum. Protectores contendunt ne huiusmodi notitias sensitivas ab abusionibus legitimis abusus, modos non-docbiles in notitia multimodis exsequantur. Hae methodi rationes privatas utentis inaccessibiles faciunt ad exemplar exercitatum in talibus exemplis multimodis indisciplinatis, cum non impediat commercium usoris post imagines et textuum dispositis, sicut in dimidia parte rectae figurae 1 ostenditur.


Figura 1: Inscriptiones in Facebook inadvertenter informationes personales revelare possunt (reliquit), sed notitia multi-modalibus exemplis non discendis defendi potest, ne alienum exempla ab accessu privatae notae (recte) defendi possit.

motivation

Recentes investigationes intendunt quo minus alienum usum notitiarum in classificatione imaginum per indiscreta exempla intendunt. Hae methodi exemplar impediunt ne notas imaginum addiscendas adhibendo perturbationes subtiles ad notitias, etiam notas disponibilitates impetus vel impetus veneficii indiscretas.

Maxime dividitur in impetus et exemplum agentis in exemplum minus agentis impetus, ubi agentis minus exemplar oppugnat sonum generant in pixel gradu, dum exemplar agentis substructio impetus plumarum graduum strepitus per exemplar agentis generant.

Nihilominus omnes agentis-liberi exemplar modi pro classificatione omittunt sonitum imaginum generare in missionibus multimodis quia hae methodi contendunt invenire seriem sonituum specierum imaginum ad certum categoriam pertinentium, cum imagini-textus paria non sunt pittacia in. datae a.

Solum igitur exemplar-

Error-minimum Sonitum (EM) methodum:


Intactae adversaria perturbatio.(UAP) modus:


Etsi EM et UAP ad paria imaginum subtilissima applicari possunt, tutelam efficientem consequi non possunt, praesertim UAP. Causas exploramus cur hi methodi efficaciam ab imaginum classificatione ad multi- modalem doctrinam oppositivam decrescant.

In classificatione imaginum, EM et UAP imagines optimize cum eodem pittacio in spatium plumae confluunt, causando exemplum ut faciliter has crepitus additas capias et correlationem cum pittacio discas, ut in Figura 2(a).


Figure 2: Comparatio diversorum methodorum in traditionalis classificatione et multi- modali doctrinarum oppositorum. Imago repraesentat et est par titulus.Area caerulea est expectata terminus sententiae ad exemplar quod in exemplis non-discibilibus exercitatum est

Sed in multi-modalibus discendi oppositis, ad EM et UAP modos efficaciter applicandos, directio imaginis optimized sonitus ad lineamenta textus referri debet, efficiens lineamenta imaginum ut vel prope vel procul ab his spectibus fiant. .

Sed diversa paria notarum textuum late spargi possunt in notitiarum imaginum-textu. Ut in Figura 2(b) et (c), dissimiles classificationis ostenditur, difficilius est exemplar capere comparationem inter subtitles et sonum ab EM et UAP genitum.

In Figura 2(c), discendi spatium UAP consilio magis implicatum est, cuius tutelae effectum non est bonum.

methodo


Figura III: Framework multi-gradus erroris minimization methodi (MEM)

Propter dispersionem imaginum textuum paria, procurator modi exemplarium fundatorum adhuc tutelam efficacem consequi non potest. Intuitive amplificationis consilium est imagines optimizare et simul textum ad maius spatium optimization obtinendum ac concursum suum in diversis paribus in pluma spatium promovere.

Propterea repraesentationes imaginum et textus optimized plumae similes distributiones exhibent, quae exemplar faciliorem reddit ad eorum compendia discenda, sicut in Figura 2(d).

Ad hunc finem methodum EM accipimus tamquam compages fundamentales et proponamus addere additis brevibus textibus triggers antequam subtitles ad detrimentum oppositum extenuandum, secundum occasum adversariorum impetus in opera textus. Methodus nostra concipi potest ut problema optimization iterativae trium graduum, similis processui multi-gradi EM.

Speciatim exprimimus strepitum δ et textum felis t sequentially reducere dispendium antithesis inter imaginem optimized I + δ et textus optimized T t, ubi felis repraesentat qui textum T mundum diversis positionibus inserere potest.

Simplicitatis causa, in hoc articulo textum felis in principio textus addere placet. Ideo modus erroris nostri multi-gradus minimizationis (MEM) formari potest:


Problemata superius iterative optimized modos in EM referendo. Descensus clivus projectus (PGD) adhibetur ad problema solvendum strepitum minimizationis in Eq.

Egregie ad diminutionem strepitus ad titulos mundissimos mitigandos, eas augemus in batches titulos mundas ruentes et additis congruentibus textui triggers. Itaque, obversis cum semantice sub titulis perperam, hic sonus genitus magis in texturis triggers quam subtitulis partiales intendere potest. Ergo consequi possumus optimam δ secundum hanc formulam iterativam;

Ad quaestionem felis minimizationis textus, felis sequentia primum initialized repetitur verbum "" vel "a" pro omnibus initibus.

Praeterea, textus felis optimized in HotFlip fundatur et effectus notae substitutionis a gradiente approximatur. Per adaequationem embedding cuiuslibet excitato signo ad minuendum primi ordinis Taylor approximationem CLIP detrimentum circa signum currentis embedding:


Denique trabem quaerere possumus uti ut quaeramus unumquodque textum optimalem trigger in statuto tags candidatorum. Candidati k summo ex superiori aequatione consideramus et quaerimus a fronte ad tergum ad singulas positiones flip-flop et singulas fasciculos usuras iacturam in batch currente ustulo.

Vallae et al. In Figura 3, videre possumus compagem pro usu nostro MEM ad exemplaria multi- modalia sine doctrina generare.

Effectus experimentalis

Effective praesidium


Table 1: Comparatio efficacitatis indisciplinatorum exemplorum ex pluribus modis generatis in diversis notitiis

Tabula 1 ostendit eventus retrievales in diversis notitiis. Plane UAP nullum fere praesidium praebet notitiae multi-modalis, dum EM aliquem gradum tutelae exhibet.

Nihilominus noster MEM semper validum praesidium praebet notitiae multi-modalis, reducendo retrievali observantiam ad dimidium fere temere coniecturae. MEM-V, praesertim, maiorem effectum effecit in redigendo exemplar piratici perficiendi quam MEM-3 ob textum felis longioris eius.

Figura 4 ostendit disciplinae detrimentum curvae declinationis ad formandas in exemplis non-discibilibus diversis methodis generatis et in retrieval Medr in mundo test statuto. Observari potest ex (a) quod, quamvis EM iacturam fecerit citius quam normalem disciplinam, methodos nostras MEM-3 et MEM-5 minora damna in prima aevi habere, quod exemplum breves celeriter discere posse ostendit.

Ex (b) invenimus Medr omnium exemplorum humiliorem esse quam cum passim coniectura, sed exemplar indisciplinatis exemplis exercitatum sistit discendi velocissimum, ad pessimos retrievales eventus, et non auget sicut tempus auget. Observationes praedictae consentaneum est cum eventibus in Tabula 1 .


Figura 4: Curva mutatio monumentis disciplinae detrimentum et test indicator Medr

Crucem-exemplum portability


Mensa 2: Transferability de exemplis non-discibilis generatis ex MEM-3 methodo quae fundatur in exemplar ResNet50 in architecturae diversis exemplaribus

Ponamus tutelam datam esse cistae nigrae omnino positam, ubi protector architecturae piraticae exemplaris ignorat. Ideo aestimamus effectum MEM generatum in ResNet50 procuratoris exemplar in diversis exemplaribus caesim, inclusis ResNet101 et ViT. Eventus in Tabula 2 monstrantur. Invenimus haec exemplaria inter alia exempla feliciter transferri posse et ad exemplorum CLIP observantiam degradare.

Visual analysis


Figure V: Operam map visualizationis: quatuor exempla comparans in data munda et indisciplinata exemplaria cum diversis modis

Figura 5 ostendit attentionem calores exemplorum in notitia munda et non-docta exemplaria a diversis modis generata. Imaginibus, Grad-CAM utimur ad visualisandum exemplar intentionis, dum pro textu, Gradientibus Integratis utimus operam ad visualize utimur. Levior color, altior intentio exemplaris.

Notatu dignum est ad exempla in Figura 5 (1), (2) et (3) omnia focus in media area, quae ad titulos refertur.

Exemplar autem formatum in speciminibus a MEM-3 in Figura 5 genitis (4) accurate cognoscere non potest imagines mundas quia sonum tantum lineamenta discit. Etiam in textu, exempla in tribus primis missis in keyword "vitrum", dum exemplum in posterioribus tribus primis verbis inducit triggers creare shortcuts.

Proventus visualizationis hi ostendunt EM et UAP non efficaces esse ad multi- modales notitias tuendas, cum MEM significanter efficax est.


Figure 6: t-SNE visualisation of clean samples and MEM-3 optimized samples inlearables samples under clean model and poisoned model

Pluma distributio exemplarium mundis sub normali exemplaribus insitum est ac pluma distributio indisciplinatorum exemplorum optimized per MEM3 in exemplar venenati in Figura VI. Triangulis utimur ad repraesentandas lineas imaginum, circulos ad lineamenta textuum repraesentanda, idemque color quinque imagines identicas, sed transformatas imagines in dataset eorumque diversis descriptionibus respondentes repraesentat.

Ex (a) notare possumus sub puro exemplari, easdem imagines ac textus interne colligari, ac paria inter se coniungi imaginum textus.

Sed in (b), eadem imago et textus divergunt, et tantum paria imaginum et textus inter se iunguntur. Ex quo patet quod methodus nostra efficaciter promovet exemplar ad discendas breves inter strepitus et textus triggers.

Causa Study: Face Privacy Praesidium

Causam studium deduximus applicando strepitum MEM nostrum ad missionis reali-mundi: imagines faciei personales tuentes et informationes cognatas sicut nomina in instrumentis socialibus adlevatis.

Experimenta deduximus utentes in datorum PubFig, ampla faciei real-mundi dataset, continens 58,797 imagines CC hominum ex Interreti collectas. Ad aestimationem retrievalis, passim unam imaginem photographicam uniuscuiusque celebritatis ponimus ut test institutum et omnes reliquas imagines ad exercitationem adhibemus.

Pro-tentio realistica nomina eorum mutavimus et copiam textuum exemplorum huic nomini generationi subtiliori comparanti comparavimus. Postmodum utimur MEM ad exemplaria indisciplinata generanda ac perpendenda utendo diversis exemplis caesim. Eventus in Tabula 3 monstrantur.

MEM vetat haec exempla subtilia a correlationes discendi inter lineamenta faciei et nominis, quo minus accurate personae retrevalationis in testi statuto impediuntur.


Tabula III, Praesidium effectum exemplorum indisciplinatorum generatur a ResNet50 bene-tuning in diversis exemplaribus prae exercitatis.

conclusio

In hac charta multimodas notitias praesidiis exploramus, speciatim in paria imagines textuum collocantes, ubi multimoda exempla indisciplinata generamus ne abusibus multimodis doctrinarum oppositivis. Priores methodi classificationis hoc contextu extendunt, limitationes revelantes ob auctas moditates et notitias dispersas.

Sub lumine harum inventionum, novam methodum generativam vocatam multi-gradus erroris minimizationis (MEM), quae in compage EM fundatur. MEM compendia inter strepitus et textos efficaciter confirmat et translationem inter varia exemplaria caesim demonstrat.

Ceterum efficaciam adventus nostri comprobamus variis instrumentis visualisationi adhibitis. Noster labor novam directionem aperit quae expectatur aliis modalitate paria applicanda sicut paria audio-texta et imaginem audio.

de auctor

Auctores huius articuli sunt ab Instituto Notitiae Technologiae, Academia Scientiarum Sinensium, Universitas Technologica Nanyang, Universitas Nationalis Singapore et Universitas Sun Yat-sen. Auctor album: Liu Xinwei, Jia Xiaojun, Xunyuan, Liang Siyuan, Cao Xiaochun.

Inter eos primus auctor est Liu Xinwei discipulus doctoralis in Instituto Notitiae Technologiae, Academia Scientiarum Sinensis. Auctores respondentes sunt Professor Cao Xiaochun Solis Yat-sen University et indagator postdoctoralis Jia Xiaojun de Nanyang Universitas technologica.

Notae:

https://scst.sysu.edu.cn/members/caoxiaochun.html

https://jiaxiaojunqaq.github.io