Chronos, een reeks vooraf getrainde modellen in GluonTS, verschilt op verschillende belangrijke manieren van andere vooraf getrainde modellen:
1. Zero-Shot-voorspelling: Chronos is ontworpen voor zero-shot-tijdreeksvoorspellingen, wat betekent dat het nauwkeurige probabilistische voorspellingen kan genereren voor nieuwe tijdreeksen die niet tijdens de training worden gezien. Dit staat in contrast met andere modellen die afstemming op specifieke datasets vereisen om goede prestaties te bereiken[1][2].
2. Taalmodelarchitectuur: Chronos-modellen zijn gebaseerd op taalmodelarchitecturen, die tijdreekswaarden tokeniseren in buckets en deze als tokens behandelen. Deze aanpak maakt een efficiënte verwerking en voorspelling van nieuwe tijdreeksgegevens mogelijk[2][3].
3. Voortraining: Chronos-modellen zijn vooraf getraind op een groot corpus van open-source tijdreeksgegevens, aangevuld met technieken voor het genereren van synthetische gegevens. Door deze voortraining kunnen de modellen algemene patronen en kenmerken in tijdreeksgegevens leren die kunnen worden toegepast op nieuwe, onzichtbare gegevens[2][3].
4. Modelmaten: Chronos-modellen zijn verkrijgbaar in vijf maten: klein (8M-parameters), mini (20M), klein (46M), basis (200M) en groot (710M). Deze formaten bieden verschillende niveaus van complexiteit en rekenvereisten, waarbij grotere modellen krachtigere hardware vereisen voor efficiënte gevolgtrekking[2].
5. Gevolgtrekking: In tegenstelling tot andere modellen voeren Chronos-modellen geen taakspecifieke training uit. In plaats daarvan voeren ze tijdens de inferentie een duurdere berekening uit die lineair schaalt met het aantal tijdreeksen in de dataset. Dit maakt ze geschikt voor grootschalige, zero-shot voorspellingstaken[2].
6. Fijnafstemming: Hoewel Chronos-modellen zijn ontworpen voor zero-shot-prestaties, kunnen ze worden verfijnd op specifieke datasets om hun nauwkeurigheid verder te verbeteren. Deze verfijning kan worden gedaan met behulp van algemene deep learning-technieken en -instrumenten[3].
Samenvattend onderscheidt Chronos zich van andere vooraf getrainde modellen in GluonTS vanwege de focus op zero-shot forecasting, taalmodelarchitectuur, pre-training en efficiënte inferentiemogelijkheden. Deze functies maken het tot een krachtig hulpmiddel voor het verwerken van grootschalige, onzichtbare tijdreeksgegevens.
Citaties:[1] https://ts.gluon.ai/stable/
[2] https://auto.gluon.ai/stable/tutorials/timeseries/forecasting-chronos.html
[3] https://arxiv.org/html/2403.07815v1
[4] https://github.com/awslabs/gluonts
[5] https://ts.gluon.ai/stable/tutorials/forecasting/quick_start_tutorial.html