Kokie yra pagrindiniai išankstinių duomenų, naudojamų 3 ir GPT-4o, skirtumai

1. Mokymo infrastruktūra ir skaičiavimo galia: „Grok 3“ buvo apmokyta Xai „Colossus“ superklasteriu, kuris yra viena didžiausių AI treniruočių klasterių pasaulyje, naudojant daugiau nei 100 000 NVIDIA H100 GPU. Tai suteikė žymiai daugiau skaičiavimo galios, palyginti su ankstesniais modeliais, leidžiančiais plačiau mokyti masiniu mastu [1] [3]. Priešingai, konkreti informacija apie GPT-4O mokymo infrastruktūrą nėra tokia viešai išsami, tačiau žinoma, kad „Openai“ taip pat naudoja didelio masto skaičiavimo išteklius.

2. Treniruotės duomenys: „Grok 3“ buvo išmokytas viešai prieinamų interneto duomenų ir patentuotų duomenų rinkinių iš X (buvusi „Twitter“), suteikiant jam prieigą prie realaus laiko duomenų ir dabartinių įvykių [1] [7]. „GPT-4o“, kaip ir kiti GPT modeliai, yra mokomas didžiuliame interneto duomenų rinkinyje, tačiau jam trūksta realaus laiko duomenų integracijos, kuriai naudinga „Grok 3“.

3. Konteksto langas ir duomenų apdorojimas: „Grok 3“ turi iki 1 milijono žetonų konteksto langą, leidžiantį jam efektyviai apdoroti išsamius dokumentus ir sudėtingus raginimus [1]. Nors „GPT-4o“ taip pat turi didelį konteksto langą, „Grok 3“ yra specialiai paryškinta dėl jo sugebėjimo efektyviai valdyti ilgas sekas.

4. Realaus laiko duomenų prieiga: „Grok 3“ nauda iš prieigos prie duomenų realiojo laiko per integraciją su X, o tai padidina jo sugebėjimą aptarti dabartinius įvykius ir analizuoti naują informaciją [5]. „GPT-4o“ neturi šios prieigos prie realaus laiko, nes jo mokymo duomenys paprastai yra nutraukti tam tikru metu.