Chronos erineb teistest eelnevalt väljaõppega mudelitest glüontsites peamiselt selle vundamendi kaudu kui eelkraaditud keelemudel, mis on kohandatud aegridade prognoosimiseks. See kasutab trafopõhist arhitektuuri, mis on algselt loodud keele modelleerimiseks, kuid kasutab seda aegridade andmete tõlgendamiseks ja ennustamiseks uuesti. See lähenemisviis on vastandatud traditsiooniliste ja sügava õppe mudeleid, mida tavaliselt koolitatakse nullist üksikute andmekogumite või aegridade kogudes, mis on spetsiaalselt vormindatud ülesannete prognoosimiseks.
Chronos märgistab aegridade väärtused fikseeritud sõnavaraks, kasutades skaleerimist ja kvantimist, mis võimaldab tal koolitada trafopõhiseid keelemudeleid, nagu näiteks T5 perekonnast suured ja mitmekesised aegridade korporad. Teisendades aegridade prognoosimise järjestuse modelleerimise probleemiks, mis sarnaneb keele modelleerimisega, areneb Chronos eeltoodud keelemudelites eeliste prognoosimiseks. Treening kasutab tõenäolise prognoosimisraamistikus rist-entroopia kadu, toetades rikkaliku ebakindluse kvantifitseerimist otse ennustusväljundites.
Mudelit eeltöötletakse laialdaselt avalikult saadaolevate aegridade andmekogumite kogumisel, millele on lisatud sünteetilisi andmeid, mis on loodud Gaussi protsesside abil üldistamise parandamiseks. This diverse and large pretraining corpus enables Chronos to perform well on tasks where no task-specific training has occurred, which is known as zero-shot forecasting. Null-laskude sätetes genereerib Chronos uue, nähtamatu aegridaga prognoose, millel on märkimisväärne täpsus, sageli sobivad või ületavad mudeleid, mis on nendel andmekogumitel spetsiaalselt koolitatud.
Chronose mudeleid võrreldakse tavaliselt kahe laia mudeli klassiga: klassikalised statistilised meetodid (nagu Arima, ETS, hooajaline naiivne) ja spetsialiseeritud sügavaõppe mudeleid, mis on koolitatud konkreetsete prognoosimisandmete jaoks (nagu Deepar, TFT, N-BEATS ja palju muud). Erinevates võrdlusalustes, sealhulgas 42 erinevat domeeni ja sagedusi hõlmavat andmekogumit, edestab Chronos järjekindlalt klassikalisi lähtejooni ja enamiku ülesandepõhiseid süvaõppe mudeleid domeenisisestes andmekogudes, kus see on eeltoodud. Null-laskude andmekogumite puhul, mis ei ole näha ennetähtaegselt, säilitavad Chronos mudelid endiselt konkurentsivõimelisi jõudlust, edestades paljusid kohalikke mudeleid ja sobitades parimate nende ülesannete jaoks spetsiaalselt koolitatud sügava õppe mudeleid.
Üks peamisi eristajaid on Chronose võime tõhusalt karbist välja töötada, ilma et oleks vaja ülesandepõhist häälestamist või ümberõpet, võimaldades palju lihtsamat ja kiiremat juurutamist torujuhtmete prognoosimisel. Sellegipoolest saavad kasutajad oma andmekogumites Chronosid valikuliselt täpsustada, et täpsust veelgi täiustada, kui piisavad andmed ja arvutusressursid on olemas.
Arhitektuuri osas võtab Chronos kasutusele trafo kujunduse, kuid rakendab selle aegridade andmetele sisendite kodeerimisega, mis tähistavad skaleeritud ja kvantifitseeritud numbrilisi väärtusi, mitte sõnade või tekstimärke. See lähenemisviis võimaldab tal kasutada trafode pikamaa sõltuvusi ja keerulisi ajalisi mustreid modelleerivaid tugevusi, haldades samal ajal ka ebakindlust.
Chronose mudeleid on erineva suurusega, kümnetest miljonitest kuni sadade miljonite parameetriteni (20–710 m), mis kajastab mudeli mahutavuse ja arvutuslike nõudmiste vahel kompromisse. Hoolimata sellest õnnestub Chronos hoida suhteliselt mõõdukat mudeli suurust võrreldes väga suurte keelemudelitega, muutes selle juurdepääsetavale praktikutele, kellel on tagasihoidlikud GPU ressursid. See vastandub mõnele muule suurele eelkoolitatud aegridade mudelile või ansamblitele, mis võivad nõuda treenimiseks ja järeldusteks olulisemat arvutamist.
Treeningrežiim sisaldab põhjalikke andmete suurendamise strateegiaid, sealhulgas sünteetilise andmekogumi genereerimist, et parandada mudeli vastupidavust erinevatel domeenidel ja proovivõtusagedustel. See sünteetiline suurendamine võimaldab mudelil üldistada aegridade karakteristikuid, mida saadaolevates päris andmekogumites tugevalt ei esinda.
Arvutuslikust ja juurutamise seisukohast on Chronos suur mudel ja võib vajada olulisi ressursse treenimiseks ja peenhäälestamiseks ning tõhususe tagamiseks on soovitatav GPU kiirendus. Võrreldes klassikaliste traditsiooniliste mudelitega on sellel kõrgemad järelduste mälu ja arvutusnõuded, kuid neid kompromisse on sageli õigustatud parema täpsuse ja üldistamise võimalustega. Dockeri pildi suurus kronos võib olla suurem kui tüüpilised klassikalise masinõppe mudelid, mida on oluline kaaluda ressursside piirangute või mitme paralleelse esinemisjuhtumiga tootmiskeskkonnas.
Chronose jõudlus on hoolikalt võrreldav mitme hinnangu korral. Domeenisisestes seadetes, kus võrdlusuuringuteks kasutatavad andmekogumid kattuvad eelkoormusega, saavutab Chronos erinevate mõõdikute edetabeli täpsuse, edestades järjekindlalt statistilisi ja sügavõppe aluseid. Null-laskude hindamisel andmekogumitega, mis on välja jäetud ennetähtaegselt, edestab Chronos endiselt kohalikke statistilisi mudeleid ja isegi mõnda ülesandeõpetatud sügavaõppe mudelit, näidates tugevat üldistust. Näiteks tõenäosusliku prognoosimise korral on see mitme konkureeriva meetodi seas tipus.
Chronos eristab end ka oma tõenäosuslike prognoosimisvõimaluste kaudu, tootes jaotust, mitte ainult punktide hinnanguid, mis annab rikkalikumat teavet prognoosimise määramatuse kohta. See vastandub mõnele klassikalisele mudelile või deterministlikele prognoosimismeetoditele, mis annavad välja ainult ühehinnangulised ennustused.
Lisaks on Chronos joondatud masinõppe arenevate suundumustega, kus domineerivad sihtasutuste mudelid ja ülekandeõppe tehnikad. Raamides aegridade prognoosimist keele modelleerimise probleemina, avab Chronos võimalusi integreerimiseks suurte keelemudelite (LLM -ide) ja sihtasutuste mudeliuuringute arendamiseks. See disain teeb sellest tulevaste uuenduste lootustandvaks platvormiks domeenide ühtse modelleerimise lähenemisviisides.
Võrdlused teiste eelkraabitud aegridade mudelitega nagu Moirai-1,0-R, Lag-lllama, lMMtime, ForeclastPFN ja peenhäälestatud GPT-2 mudelitega näitavad Chronos järjekindlalt ees või võrdselt, ületades need sageli null-laskumise ülesannete täitmiseks. Chronose järelkontroll parandab veelgi tulemusi, muutes selle üheks tipptasemel prognoosidest nii tavapärases kui ka nullvõõrases kontekstis. See edestus on tingitud selle koolitusest väga mitmekesisel korpusel koos keelemudelipõhise tokenize-and-predicti lähenemisviisiga.
Kokkuvõtlikult eristab Chronos end teistest eeltöödeldud mudelitest, kasutades põhimõtteliselt erinevat arhitektuuri, mis on inspireeritud trafokeele mudelitest, kasutades suurejoonelist eelnevat tokeniseeritud aegridadelt ja saavutades tugeva null-võttega prognoosimise jõudluse. See tasakaalustab mudeli suurust ja arvutusvajadusi suure täpsuse ja üldisusega, toetab tõenäolist prognoosimist ja peenhäälestamist ning esindab uut paradigmat aegridade prognoosimisraamistikes, mis ületab edusamme NLP ja aegridade analüüsis.