Deepseek dosáhl vysoké přesnosti na benchmarku AIME 2024 pomocí několika inovativních technik:
1. Zaměřené generování dat tréninku: DeepSeek vygenerovala data školení, která by mohla být automaticky ověřena, zejména v doménách, jako je matematika, kde je korektnost jednoznačná. Tento přístup jim umožnil zaměřit se na vytváření vysoce kvalitních a relevantních údajů, které přímo přispívají ke zlepšení výkonu modelu [1].
2. Funkce efektivní odměny: Vyvinuly vysoce efektivní funkce odměny, které určené k určení, které nové příklady školení by model skutečně zlepšilo. Tato strategie pomohla vyhnout se plýtvání výpočetním zdrojům na redundantních datech a zajistit, aby se model poučil z nejcennějších příkladů [1].
3. destilace a optimalizace modelu: Techniky destilace modelu DeepSeek k vytvoření menších modelů, které stále dosáhly působivých výsledků. Například jejich destilovaný model 7B překonal přesnost větších modelů s otevřeným zdrojovým kódem, jako je QWQ-32B-Preview, přestože mají méně parametrů. To ukazuje, jak zaměřené školení může vést k silnému výkonu ve specifických oblastech se skromnými výpočetními zdroji [1].
4. Test-Time Compute and Readonting Stroves: Deepseek modely, jako je Deepseek R1, využívají techniku nazvanou „Test-Time Compute“, která umožňuje modelu trávit více času a výpočetní síly na každý problém. Tento přístup napodobuje jednání podobné člověku, což má za následek přesnější a promyšlenější reakce. Vzhledem k tomu, že model generuje delší uvažovací řetězce, může řešit stále složitější problémy s větší přesností [6].
5. Transparentnost a multi-agentská architektura: Deepseek modely, zejména DeepSeek-R1, využívají architekturu s více agenty, která integruje různé zdůvodňovací cesty. Tato synergie pomáhá zmírnit zkreslení specifické pro úkol a zvyšuje konzistenci snížením variability. Strukturovaný přístup umožňuje modelu dynamicky upřednostňovat řešení s vysokou důvěrou a zároveň iterativně rafinovat méně určitých výstupů [3].
Tyto techniky kolektivně přispívají k působivému výkonu Deepseeka na benchmarku AIME 2024, což ukazuje, jak strategické metody tréninku a návrh modelu mohou překonat surovou výpočetní výkon při dosahování vysoké přesnosti.
Citace:
[1] https://www.geekwire.com/2025/deepseeks-new-model-shows-that-Ai-Expertise-Matter-Than-compute-in-2025/
[2] https://www.reddit.com/r/localllama/comments/1ibxhwp/deepSeeKr1distillqwen32b_2024_aime_i_performance/
[3] https://arxiv.org/html/2503.10573v1
[4] https://www.prompthub.us/blog/deepseek-r-1-model-overview-and-it-ranks-against-openais-o1
[5] https://aws.amazon.com/bedrock/deepseek
[6] https://smythos.com/ai-agents/agent-architectures/deepseek-r1/
[7] https://www.amitysolutions.com/blog/deepseek-r1-ai-g--from-China
[8] https://cloudsEcurityalliance.org/blog/2025/01/29/deepseek-rewriting-the-rules-of-ai-development
[9] https://www.inferless.com/learn/the-pultimate-guide-to-deepseek-models