Deepseek osiągnął wysoką dokładność w odniesieniu AIME 2024, stosując kilka innowacyjnych technik:
1. Skoncentrowane generowanie danych szkoleniowych: Dane szkoleniowe wygenerowane przez DeepSeek, które można automatycznie weryfikować, szczególnie w dziedzinach takich jak matematyka, w których poprawność jest jednoznaczna. Takie podejście pozwoliło im skupić się na tworzeniu wysokiej jakości, odpowiednich danych, które bezpośrednio przyczyniają się do poprawy wydajności modelu [1].
2. Wydajne funkcje nagrody: Opracowały wysoce wydajne funkcje nagrody zaprojektowane w celu określenia, które nowe przykłady treningowe faktycznie poprawiłyby model. Ta strategia pomogła uniknąć marnowania zasobów obliczeniowych na zbędne dane, zapewniając, że model wyciągnięty z najcenniejszych przykładów [1].
3. Destylacja i optymalizacja modeli: Deepseek zastosował techniki destylacji modeli do tworzenia mniejszych modeli, które wciąż osiągały imponujące wyniki. Na przykład ich destylowany model 7B przekroczył dokładność większych modeli typu open-source, takich jak QWQ-32B Preview, pomimo mniejszej liczby parametrów. To pokazuje, w jaki sposób ukierunkowane szkolenie może prowadzić do dobrej wydajności w określonych domenach o skromnych zasobach obliczeniowych [1].
4. Łańcuchy obliczeniowe i rozumujące czasowe: Modele Deepseek, takie jak Deepseek R1, wykorzystują technikę o nazwie „obliczanie czasu testowego”, która pozwala modelowi spędzać więcej czasu i mocy obliczeniowej na każdym problemie. Takie podejście naśladuje ludzkie obrady, co skutkuje dokładniejszymi i przemyślanymi reakcjami. Ponieważ model generuje dłuższe łańcuchy rozumowania, może rozwiązać coraz bardziej złożone problemy z większą dokładnością [6].
5. Przezroczystość i architektura wielu agentów: Modele Deepseek, szczególnie Deepseek-R1, wykorzystują wielokrotnie agentną architekturę, która integruje różnorodne ścieżki rozumowania. Ta synergia pomaga złagodzić uprzedzenia specyficzne dla zadania i zwiększa spójność poprzez zmniejszenie zmienności. Podejście ustrukturyzowane pozwala modelowi dynamicznie priorytetowo traktować roztwory o wysokiej pewności siebie, jednocześnie iteracyjnie udoskonalając mniej niektórych wyjść [3].
Techniki te łącznie przyczyniają się do imponującej wydajności Deepseek w zakresie Benchmark AIME 2024, pokazując, w jaki sposób strategiczne metody szkolenia i projektowanie modeli mogą przewyższyć surową moc obliczeniową w osiąganiu wysokiej dokładności.
Cytaty:
[1] https://www.geekwire.com/2025/deepseeks-new-model-shows-that-ai-expertise-might-matre-more-than-Compute-in-2025/
[2] https://www.reddit.com/r/localllama/comments/1ibxhwp/deepseekr1distillqwen32b_2024_aime_i_performance/
[3] https://arxiv.org/html/2503.10573v1
[4] https://www.pompthub.us/blog/deepseek-r-1-model-overview-and-how-it-ranks-against-openais-o1
[5] https://aws.amazon.com/bedrock/deepseek
[6] https://smythos.com/ai-agents/agent-architectures/deepseek-r1/
[7] https://www.amitysolutions.com/blog/deepseek-r1-ai-giant-from-china
[8] https://cloudsecurityalliance.org/blog/2025/01/29/deepseek-rewriting-the-ules-of-ai-development
[9] https://www.inferless.com/learn/the-ultimate-guide-to-deepseek-models