nuntium

Tempus spatium praedictum cum nulla exemplaria praestari potest! HKU, Sinarum Meridionalis Universitas Technologiae aliique exemplar magnum spatii temporis dimiserunt UrbanGPT | . KDD 2024

2024-07-31

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


Nova Sapientia Report

Editor: LRST

[Introductio ad Novam Sapientiam]. UrbanGPT porttitor spatiotemporalis est exemplar linguae magnae, quae spatiotemporalem dependentiam componit et technologiam bene-tuning instruit ut facultates generales et praedictionem accuratam in variis urbanis muneribus demonstret. Haec technica technicae artis fiduciae in magna copia intitulatarum notitiarum perrumpit, accurate praedictiones etiam cum notitia vix est, et validum subsidium ad administrationem urbanam et ad consilium praebet.

Praedictio spatiotemporalis technicae artis in profundis analysi et praenuntiatio dynamici urbani ambitus dedicatur. Non solum attendit tempori mutationes, sed etiam in extensione spatii considerat. Technologiae tendit ut trends et exempla futurae vitae urbanae in variis aspectibus, mercationibus, migrationibus et sceleribus venditis patefaciant. Etsi multa studia in retia neurali adhibendis ut accurationem notitiarum spatiotemporalium praenuntiationis meliorem efficiant, plerumque methodi magnas notitias disciplinae exigunt ad certa spatiotemporalia lineamenta generanda.

Attamen in actualibus missionibus urbanis vigilantiae, notitiae saepe insufficientes sunt, praesertim in quibusdam casibus, ubi difficillimum fit notitias intitulatas colligere, provocationem ulterius examinare. Ideo, praesertim criticum est exemplar evolvere quod diversis contextibus spatiotemporalibus accommodare potest ac validas facultates generales habere.

Inspirati per magnarum linguarum exempla significantium progressum (LLMs) in multiplicibus agris, investigatores ab Universitate Hong Kong, Universitas Technologiae Australis Sinarum aliarumque institutionum emisit novam spatiotemporalem magnae linguae exemplar UrbanGPGT, quod spatiotemporalem dependens encoders et disciplinam denique- componit. technologiae technologiae deductae, finis est spatiotemporaliter amplam evolvere exemplar linguae, quae late ad munera urbana applicari potest.


Project link: https://urban-gpt.github.io/

Code link: https://github.com/HKUDS/UrbanGPT

Paper link: https://arxiv.org/abs/2403.00813

Video ostentationem: https://www.bilibili.com/video/BV18K421v7ut

Haec coniunctio exemplar praebet ut profundam comprehensionem complexarum necessitudinum in tempore et spatio obtineat et praedictiones plus comprehensivas accuratasque praedictiones, cum notitia circumscribitur, praebeat.

Ad huius accessionis efficaciam probandam, magna experimenta in multiplicibus publicis datastibus, quae variis spatiotemporalibus praenuntiationis operibus implicantur, peragimus. Proventus experimentales constanter ostendunt UrbanGPT constanter formas summo exemplo in effectu existentes. Hi eventus magnas potentias demonstrant magnas linguae exempla in spatiotemporali discendi causa perferendis cum notitia minus intitulata est.

Overview

Existens challenges

C1.Quamvis spatiotemporales retiacula neuralis existentes bene secundum praedictum accurationem perficiant, tamen in magna copia rerum intitulatarum datarum premebantur.

In ambitus verae urbanae magnae, notitiae inopiae notabile impedimentum est. Exempli causa, sensoriis per urbem disponis ad monitor negotiatio fluxus vel qualitas aeris impossibilia propter sumptus curas. Praeterea exempla exsistentia saepe sufficienti facultatibus generalizationibus carent, quae praenuntiationis officiorum regionalium vel urbis obversantur ac necessaria sunt ut spatiotemporales features efficaces generandae retineantur.

C2. Ut in Figura 2, magnae linguae exemplar LLaMA ostendere potest exemplaria negotiationis ex textu initus innixa. Aliquando tamen errores praenuntiationis laborat, cum de temporis serie numerorum notitiarum cum multiplici spatiotemporalium dependentiarum complexus est.

Eodem tempore, dum exempla collocantur praescripta bene in descriptione spatiotemporalium dependentiarum perficiunt, male possunt in missionibus zephyris obvenire, quod ad fontem datastae competit.

C3. Multum interest inter singularem rationem notitiarum spatiotemporalium et scientiarum in magna lingua exempla inscripta. Quomodo hanc differentiam coarctare ac deinde spatiotemporalem amplam linguae exemplar construere cum facultate generalizationis excellenti in amplis officiis urbanis est momenti exitus quae solvenda est.


Figura 1: Comparatus cum LLM et spatiotemporal graphi retiarii neuralis, UrbanGPT melius habet praedictionem perficiendi in nulla-semplaribus missionibus.

Existens challenges

(1) Ad cognitionem nostram, hoc est primum conatus linguam spatiotemporaliter magnas creare exemplar, quod varias phaenomena urbana per multiplices notitiastas praenuntiare possit, praesertim cum limitata institutione data.

(2) Haec charta spatiotemporalem vaticinii compagem nomine UrbanGPT introducit, quae magna exempla linguae praebet ut complexas nexus inter tempus et spatium penitus cognoscat. Cum arte spatiotemporalis dependentiae coniungens cum instructione technologiam subtiliter iungendo, spatiotemporalis notitia efficaciter in exemplar linguae inseritur.

(3) Extensiva experimenta in notitias reales mundi reales comprobant UrbanGPT praestantes facultates generalizationes in ambitu discendi ambitus nullae spatio-temporales. Hi eventus non solum efficientiam exemplaris demonstrant in exemplaria praenuntianda et spatiotemporalia intelligendi, sed etiam facultatem suam demonstrant accurate praedictiones, non obstante exemplorum defectu, praebere.

methodo



Figura II: UrbanGPT altiore compage

spatiotemporal dependentiae encoder

Etsi magna exemplaria linguarum mirabilem successum in textu linguarum expediendo consecuti sunt, adhuc praesentes provocationes in spatiis mutationibus et dynamicis exemplaribus in spatiotemporalibus datae.

Ad hanc quaestionem pertractandam, hoc studium innovative accessum proponit, dum spatiotemporalem dependentiam integrat, ut exemplorum capacitatem ampliorum linguae in spatiotemporali contextu capiendorum seriei temporalium dependentiarum capiat.

In specie, in spatiotemporal encoder constituimus, ex duobus nucleis componentibus constat: unum est stratum convolutionis diffusionis gatum, et alia iniectio iacuit in multi- gradu ratione.

Formula superior est initializationis spatio-temporalis emplicationis, ex data originali spatio temporis temporali. Er' frustum est Her, operationes residuas ad ablatione clivosi sublevandos adhibita.

Una dumtaxat diffusione convolutionum utimur ad correlationes temporales encode.

Munus sigmoidea activum δ ad moderandum gradum informationis retentionis in operationibus multi- strati convolutionis.

Postquam per stratas convolutionis temporis dilatatas processui, accurate comprehendere possumus seriem temporis dependentiam intra multiplices gradus temporis continuos, inde repraesentationes varias temporales generare. Hae repraesentationes multiplicis gradus dependentiarum temporalium operiunt, dum evolutionis temporalis rationes manifestant in diversis granularitatis gradibus.

Ad hanc informationem temporalem perfecte servandam, iniectio iniectio multi- gradatim ordinatur ad connexiones inter diversos gradus capiendas et complendas;

Inter eos est convolutionis kernel formae. pluma repraesentatio

Ad obire multiplicia condiciones quae in variis scaenae urbanis oriuntur, spatiotemporalis encoder in hac charta designata non nititur in certa graphi structura cum correlatione spatiali dispensando. Causa est, quia in ambitu nulla praedictionis iacto, nexus locales inter entia saepe ignota vel difficilia praedicunt. Tali consilio UrbanGPT dat facultatem ac flexibilitatem suam in amplis missionibus urbanarum applicationis conservandi.

Spatiotemporale mandatum bene-tuning compage

Data spatio-Text Alignment

Ut exemplaria linguae spatiotemporales dynamicas penitus perspiciant, in tuto ponunt cohaerentiam textuum contentorum et spatiotemporalium notarum clavis. Haec constantia dat exemplar ut multiplices notitiae rationes multiplicet, et ampliores notas repraesentationum generant. Coniungendo textum cum notis contextualibus in spatiotemporali dominio contentum, exemplar non solum informationes completivas capere, sed etiam altiorem gradum, magis expressivas semanticas lineas extrahere.

Ad hoc assequendum, charta haec modulum leve pondus noctis induit ut spatiotemporalis dependentiae repraesentationem proiciamus.

Operatio proiectura exercetur utens parametris linearibus iacuit, ubi dL dimensionem occultam vulgo in exemplaribus linguae magnae adhibitis repraesentat. Proiectura inde per speciales notas in instructione repraesentatur: , ...., , . Hic, et specialia symbola ad notare principium et finem spatiotemporalis informationis. Possunt incorporari exempla in magna lingua vocabulario amplificando.

Locus possessor significat pittacium spatiotemporalem, qui vectori H in strato abscondito respondet. Hoc artificio utens, exemplar potest comprehendere dependentiae spatiotemporales, quae signanter auget facultatem praenuntiationis spatiotemporalis munerum in ambitibus urbanis perficiendi.

Tempus et spatium promptum mandatum

Cum spatiotemporales praedictiones faciunt, notitiae tam temporales quam spatiales continentes clavem semanticam informationem, quae pendet pro exemplo ut spatia spatiotemporalia in certis condicionibus capiat.

Exempli causa, negotiatio fluit significanter mane et in horis apicem, et exemplaria negotiationis variantur inter areas commerciales et residentiales. Ideo tempus ac spatium informationes inducentes, ut promptum textum in spatiotemporali praedictio molis efficiunt, significanter efficacius praenuntiationis exemplar emendare possunt. Peritia magnarum linguarum exemplorum in textu intellegentiae levamus ut huic informationi procedamus.

In architectura UrbanGPT, notitias temporales et spatiales variarum granularitatum integramus sicut instructionis initus ad exempla magnarum linguae. Tempus informationes comprehendit dies et puncta temporis in hebdomada, dum notitia spatii spatia urbis areas, divisiones administrativas et puncta circa usuram (POIs), sicut in Figura III ostensum est.

Haec diversa elementa integrantes, UrbanGPT penitus cognoscere et intelligere potest dynamicos spatio-temporales diversarum regionum ac temporum in complexu locorum spatio-temporum, ita ut ratiocinationem suam capacitatem in nullas-semplaribus adiunctis augeat.


Figura III: Spatiotemporal cueing instructiones modum translitterandi tempus et locus-conscius informationes

Instructio spatiotemporalis innisus in magna lingua exemplorum

Duae impugnationes maiores sunt cum instructiones ad exempla magna linguarum cannarum (LLMs) ad generandum spatiotemporaliter descriptiones textus praedictas. Ex altera parte, spatiotemporalis praedictio plerumque fundatur in notitiis numeralibus, quarum structurae et exemplaria diversae sunt a semanticis et syntacticis relationibus, quae exempla linguae in lingua naturali bonae sunt.

Ex alia parte, LLMs consueverunt uti multi-classificationis detrimentum functiones ad verba praenuntiare in scaena prae- structa, quae in generatione probabilitatis distributiones vocum proveniunt, dum temporis spatium praenuntiationis munerum continuarum valorum coactionem requirunt.

Ad has difficultates expugnandas, UrbanGPT accessus amet suscipit. Valores futuros spatiotemporales directe non praedicit, sed praenuntiatio auxiliares figmenta gignit. Hi figunt postea per regressionem tabulatum discursum qui exemplar absconditum tabulatum repraesentationis in accuratiores praedictiones transformat. Aditus UrbanGPT dat spatiotemporalia praedicta efficacius.

Occulta repraesentatio praedictae notae in superiori formula exprimitur, ubi notam praenuntiationis induci potest per vocabularium LLMs dilatando. W1, W2, W3 sunt pondus matrices regressionis iacuit, et [⋅, ] est splicing operatio.

experimentum

Nulla specimen praedictionem perficiendi

Praedictiones de locis invisibilibus in eadem civitate

Praevidens in regione crucis, notitia certis locis intra eandem civitatem utimur ad futuras condiciones praedicendas in aliis locis quae ab exemplari tactus non sunt. Per intimam analysin perficiendi exemplaris in tali opere praedicationis crucis-regionis, notamus:

(1) Praeclara nulla facultas praedictionis-sample. Datae in Tabula 1 demonstrant praeclaram exhibitionem exemplaris propositi ultra exemplar baseline in regressionis et classificationis operibus in diversis schedulis. UrbanGPT praestantia observantia duobus nucleis elementis maxime tribuitur.

i) Spatiotemporalis notitia-text alignment. Contextuum spatiotemporal aligning significationibus cum textu exemplaris linguae intellegendae facultates criticae ad successum exemplaris. Haec integratio exemplar praebet ut plena notitiarum dynamicarum urbanarum notitiarum spatiotemporalium significationibus elaboratas utatur, eamque coniungens cum profundis contextuum contextuum e magnis linguae exemplaribus comprehensis, ita ut praedictum exemplar facultates in zephyris missionibus ponatur.

n) Eine-tuning of instructions spatiotemporal. LLMs per commensurationem adaptivam efficacius informationes praecipuas in instructionibus haurire potest eorumque cognitionem de complexu relationis spatii temporisque factorum emendare. Disciplinam spatiotemporalem componendo subtiliter ac spatiotemporalem dependentiam encoders, UrbanGPT cognitionem universalem et spatiotemporalem in spatiotemporalem retinet feliciter et accurate praedictiones in missionibus zephyris assequitur.

(2) In profundis intellectus urbana semantics. Urbana semantica altas pervestigationes praebet in proprietatibus spatii et temporis. Exemplar in multiplicibus datastibus exercendo, eius intellectus spatiotemporalium dynamicorum per diversos temporum aetatum et locorum locorum augetur.

E contra exempla basilinea tradita magis in spatiotemporali dependentiae descriptam intendunt, neglectis semanticis differentiis inter regiones, periodos et genera notitiarum. Divites semanticae informationes in UrbanGPT inserentes, signanter meliorem eius facultatem reddemus accurate praedictiones in regionibus invisibilibus zephyris.

(3) Praedictionem meliorem efficiendi in ambitus notitiae sparsae. Praedicendo spatiotemporales rationes in ambitibus sparsis punctis datos provocare est, praesertim quia exempla tendunt ut in eiusmodi adiunctis deficiat. Exempli gratia, in missionibus sicut crimen praedicentes, notitia saepe sparsa est, quae exemplar baseline male in transversis regionalibus praenuntiationis operibus exercet et humilem ratem habet, suggerens ut quaestio superflua sit.

Ad hanc provocationem adpellare, nostrum exemplar innovat ratiocinationem quae spatiotemporalem discendi cum ampla lingua exemplar componit atque optimizat eam per spatiotemporalem institutionis efficacem methodum subtiliter. Hic accessus auget facultatem exemplaris intelligendi et spatiotemporalem datam repraesentandi, integrando uberem semanticam informationem, ut eam ad notitias sparsas aptius et signanter meliorem praedictionem accurationem attingat.


Table 1: Cross-regional zero-sample praedictio missionis perficientur comparationis

Crucem-urbem praedictionem tasks

Ut facultatem predictive exemplaris per diversas civitates experiretur, delevimus datas taxi Chicago pro experimentali verificatione positas. (Nota quod haec dataset usus non fuit in periodo disciplinae). Ut in Figura IV demonstratum est, probatio eventus monstrabit exemplum exhibeat melius agendi quam methodi comparativae in omni tempore puncta, quae efficaciam UrbanGPT in transversis urbis cognitionis translatione probat.

Coniungendo spatiotemporalem encoder cum spatiotemporali instructione subtiliter technologiae, exemplum capere potest leges spatiotemporales quae cum universalitate et particularitate cohaerent, ut accuratiores praedictiones efficiant. Exemplar praeterea spatiotemporales formas in diversis locis functionibus et periodis historicis coniungere potest comprehendendo diversis locorum locorum, temporum factoribus, ac scientiarum eruditarum translationem. Hic comprehensivus spatiotemporalis intellectus clavem perceptiones praebet ut accurate praedictiones zephyri in missionibus crucis urbanis.


Figure IV: Crux-urbs nulla-specimen praedictum sem perficientur comparationis

Typical vaticinium procuratio tasks

Hoc capitulum ad UrbanGPT perficiendum in ambitu praemeditati plene praevidetur. Speciatim aestimamus effectum exemplaris temporis spatiotemporalis praenuntiationis munium, adhibitis probationibus notitias spatio temporis magno. Exempli gratia, exemplum in notitia 2017 data exercetur et in 2021 notitia probata.

Test eventus ostendunt UrbanGPT signanter exemplar basilineum in diuturno temporis spatio praenuntiationis munia formare, quod excellentem suam generalem facultatem in rebus diuturnis praedictionibus effert. Haec factura necessitatem minuit crebris recuperandis vel incrementalibus updates, ut exemplar aptius fiat ad missiones applicationes practicas. Praeterea eventus experimentales etiam confirmant informationes textus adiectis inducendis non solum non afficit ad exemplar perficiendum, sed etiam strepitum non inducunt, quod amplius probat efficaciam adhibendi magnas linguarum exempla ad accessionem spatiotemporalem praedictionis munia.


Mensa II: Praedictio perficientur iudicium in fine-ad-finem praeerant occasu

ablatio experimentum

(1) The weight of spatiotemporal context: STC. Cum spatiotemporal notitia a textu instructionis remotum est, exemplar effectus recusavit. Hoc potest ob defectum notitiarum temporalium, quae exemplar solum in spatiotemporali encoder innituntur ut processus temporis actis notae et opera praedictionis perficiat. Eodem tempore, defectus notitiarum localium, etiam spatium facultatis exemplaris correlationes locales comprehendendi limitat, difficiliorem reddit spatia spatiotemporalia in diversis regionibus analysi.

(2) Effectus multi-datae doctrinae bene tuning: Multi. Exemplar tantum in NYC-taxi dataset erudimus. Defectus notitiarum in aliis indicibus urbanis limitat facultatem exemplaris dynamici qui motus spatiotemporales patefacit. Male ergo exemplar praestat. Exemplar, varias notitias spatiotemporales a diversis urbibus integrans, efficacius comprehendere potest notas singulares et evolutionem spatiotemporalium exemplarium in diversis locis geographicis.

(3) Munus spatii temporis encoder: STE. Cum spatiotemporal encoder ab exemplari remoto, eventus ostendunt hanc absentiam significanter vim praedicatam magnarum linguae exempla reducere in spatiotemporal praenuntiationis operibus. Hoc munus clavis spatiotemporalis encoders effert in meliori exemplari praedictio perficiendi.

(4) Regressio iacuit in instructione bene-tuning: T2P. Instruimus UrbanGPT ut praedictionem suam directe e forma texentium consequitur. Pauperes effectus exemplaris maxime debentur fiduciae multi- classum amissionis functionum propter ipsum in disciplina processus, quod ducit ad mismatch inter probabilitatem distributionis exemplaris et continuum valorem distributionis quae requiritur ad operas spatiotemporales praedictionis. Ad hanc quaestionem solvendam, regressionem predictorum in exemplar introduximus, quod insigniter melius facultatem exemplaris generandi accuratiores praedictiones numerales in operibus regressionis induxit.


Figure 5: UrbanGPT ablatio experimentum

Exemplar robur studio

In hac sectione, stabilitatem UrbanGPT aestimamus in diversis missionibus spatiotemporalis exemplaris tractandis. Regiones secundum magnitudinem mutationum valorum (ut taxi negotiationis) distinguimus per tempus determinatum. Minor variatio plerumque significat regionem stabilem formam temporalem habere, dum maior variatio implicat rationem spatiotemporalem magis diversam habere regionem, quae communis est in locis activorum commercium vel in frequentioribus locis.

Ut in Figura VI ostensum est, pleraque exemplaria in regionibus inferioribus discrepantia bene faciunt, eo quod exemplaria in his regionibus spatiotemporalibus constantiora sunt et praevidenda. Exemplar autem baseline male facit in locis cum superioribus discrepantia, praesertim in locis ubi discrepantia est in (0.75, 1.0] intervallo, quod fieri potest quia exemplar baseline difficultatem habet in spatiotemporalibus exemplaribus implicatis in his locis sub accurate inferendis. In administratione urbana nulla-semplum, ut negotiatio insignem potestatem et celeritatem securitatis, accurate praedictum frequentium vel prosperorum regionum crucialus est, UrbanGPT significantem agendi rationem ostendit in (0.75, 1.0] intervallo, quod in nulla exemplaria effectum suum probat. .


Figura VI, exemplar robur studio

causa studio

Casus studium efficaciam diversorum exemplorum magnarum linguarum perpendat in missione missionum nulla-sample spatiotemporalis praedictio, et eventus monstratur in Tabula III. Investigationes eventus ostendunt varias LLMs species posse praedictiones generare secundum instructiones provisum, quod efficaciam prompti consilii comprobat.

Speciatim ChatGPT maxime innititur historicis mediocris praedicationis, quin explicite incorporetur notitias temporales vel spatiales in eius exemplar praedictionis. Etsi idoneus ad tempus specificas periodos et regiones dividendas, Llama-2-70b provocationes offendit in dependentiis tractandis in serie temporis numerali, quae subtilitatem suarum praedictionum afficiunt.

E contra, Claude-2.1, notitia historica efficacius compenditare et resolvere potest, apicem horae exemplaria ac puncta interest ut accuratius mercaturae praedictiones perveniant.

UrbanGPT proposuimus arcte spatiotemporalem contextum coniungit significationibus cum facultatibus ratiocinationis magnarum linguarum exemplorum per spatiotemporalem disciplinam subtiliter-hendi, quae signanter emendat accurate praedicendi valores numerales et per spatiotemporales trends. Hae inventiones potentiam et efficaciam UrbanGPT illustrant in spatiotemporali universali exemplarium capiendorum, ut praedictum nullum-sample spatiotemporalem fieri possit.


Tabula 3: Zero-sample praesagium de birotae negotiationis causa in urbe New York a diversis LLMs

Summarium et Outlook

Hoc studium UrbanGPT proponit, spatiotemporalis linguae exemplar magnae cum bonae facultatis generalizationis in diversis ambitibus urbanis. Ut integrationem inconsutilem spatiotemporalis contextui significationibus et magnarum linguae exempla consequamur (LLMs), haec charta in spatiotemporali institutionis methodum subtiliter amet proponit. Aditus UrbanGPT facultatem dat discendi exemplaria universalia et spatiotemporalia in variis urbanis notitia. Per amplam analysim experimentalem, efficientia et efficacia architecturae UrbanGPT eiusque partes nuclei probantur.

Etsi hodiernae eventus hortantur, nonnullae tamen sunt provocationes quae in futura investigatione superandae sunt. Primum actuose plura genera notitiarum urbanarum colligemus ad facultatem applicationis UrbanGPT augendae in latius campis computandi urbanis. Secundo, aeque refert mechanism UrbanGPT intelligere decernendo. Etsi exemplar bene in terminis faciendis praestat, coniecturas praebens interpretabilitas exemplarium etiam clavis directio est ad futuram inquisitionem. Opus futurum dedicatum erit ut UrbanGPT ut suum praedictum eventum explicet, quo suam perspicuitatem et fiduciam usui augeat.

Notae:

https://arxiv.org/abs/2403.00813