Jaké jsou klíčové rozdíly v předběžných datech použitých pro Grok 3 a GPT-4O

1. Školení infrastruktury a výpočetní síla: Grok 3 byl vyškolen na Xai's Colossus Supercluster, který je jedním z největších tréninkových klastrů AI na světě a využívá více než 100 000 GPU NVIDIA H100 GPU. To poskytlo výrazně více výpočetní síly ve srovnání s předchozími modely, což umožnilo rozsáhlý trénink ve velkém měřítku [1] [3]. Naproti tomu konkrétní podrobnosti o infrastruktuře GPT-4O nejsou tak veřejně podrobné, ale je známo, že OpenAI také používá rozsáhlé výpočetní zdroje.

2. Údaje o školení: Grok 3 byl vyškolen na kombinaci veřejně dostupných internetových dat a proprietárních datových sad od X (dříve Twitter), což mu poskytlo přístup k datům a aktuálním událostem v reálném čase [1] [7]. GPT-4o, stejně jako jiné modely GPT, je vyškolen na obrovském datovém souboru na internetu, ale postrádá integraci dat v reálném čase, z níž Grok 3 těží.

3. kontextové okno a zpracování dat: Grok 3 má kontextové okno až 1 milion žetonů, což mu umožňuje efektivně zpracovávat rozsáhlé dokumenty a složité výzvy [1]. Zatímco GPT-4o má také velké kontextové okno, Grok 3 je speciálně zvýrazněn pro svou schopnost efektivně zvládnout dlouhé sekvence.

4. Přístup dat v reálném čase: Grok 3 těží z přístupu dat v reálném čase prostřednictvím jeho integrace s X, což zvyšuje jeho schopnost diskutovat o aktuálních událostech a analyzovat nové informace [5]. GPT-4o nemá tento přístup v reálném čase, protože jeho tréninkové údaje jsou obvykle odříznuty v určitém okamžiku.