DeepSeek ha raggiunto un'elevata precisione sul benchmark AIME 2024 impiegando diverse tecniche innovative:
1. Generazione dei dati di formazione focalizzata: dati di formazione generati in profondità che potrebbero essere verificati automaticamente, in particolare in semi come la matematica in cui la correttezza è inequivocabile. Questo approccio ha permesso loro di concentrarsi sulla creazione di dati di alta qualità e pertinenti che contribuiscono direttamente al miglioramento delle prestazioni del modello [1].
2. Funzioni di ricompensa efficienti: hanno sviluppato funzioni di ricompensa altamente efficienti progettate per identificare quali nuovi esempi di formazione migliorerebbero effettivamente il modello. Questa strategia ha contribuito a evitare di sprecare risorse computazionali sui dati ridondanti, garantendo che il modello appreso dagli esempi più preziosi [1].
3. Distillazione e ottimizzazione del modello: DeepSeek ha usato le tecniche di distillazione del modello per creare modelli più piccoli che hanno ancora ottenuto risultati impressionanti. Ad esempio, il loro modello 7B distillato ha superato l'accuratezza di più grandi modelli open source come QWQ-32B-Preview, nonostante avessero meno parametri. Ciò dimostra come la formazione focalizzata possa portare a forti prestazioni in settori specifici con modeste risorse computazionali [1].
4. Catene di calcolo e ragionamento del tempo di prova: i modelli DeepSeek, come DeepSeek R1, utilizzano una tecnica chiamata "Calcolo del tempo di prova", che consente al modello di trascorrere più tempo e potenza computazionale su ciascun problema. Questo approccio imita una deliberazione simile all'uomo, con conseguenti risposte più accurate e ponderate. Poiché il modello genera catene di ragionamento più lunghe, può risolvere problemi sempre più complessi con una maggiore precisione [6].
5. Trasparenza e architettura multi-agente: i modelli DeepSeek, in particolare DeepSeek-R1, utilizzano un'architettura collaborativa multi-agente che integra diversi percorsi di ragionamento. Questa sinergia aiuta a mitigare i pregiudizi specifici dell'attività e migliora la coerenza riducendo la variabilità. L'approccio strutturato consente al modello di dare la priorità dinamicamente a soluzioni ad alta fiducia mentre perfezionando iterativamente meno output [3].
Queste tecniche contribuiscono collettivamente alle impressionanti prestazioni di DeepSeek sul benchmark AIME 2024, mostrando come i metodi di allenamento strategici e la progettazione del modello possono superare il potere computazionale grezzo nel raggiungere un'elevata precisione.
Citazioni:
[1] https://www.geekwire.com/2025/deepseeks-new-model-shows-that-expertise --matter --more-than-compute-in-2025/
[2] https://www.reddit.com/r/localllama/comments/1ibxhwp/deepseekr1distillqwen32b_2024_aime_i_performance/
[3] https://arxiv.org/html/2503.10573v1
[4] https://www.pompthub.us/blog/deepseek-1-model-overview-and-how-it-larks-against-openais-o1
[5] https://aws.amazon.com/bedrock/deepseek
[6] https://smythos.com/ai-agents/agent-architectures/deepseek-r1/
[7] https://www.amitysolutions.com/blog/deepseek-r1-ai-giant-from-china
[8] https://clouddecurityalliance.org/blog/2025/01/29/deepseek-rewriting-the-rules-of-evelopment
[9] https://www.inferless.com/learn/the-ultimate-guide-to-deepseek-models