Deepseek kodlayıcı V1 ve V2, kodlama görevleri için tasarlanmış gelişmiş AI modelleridir, ancak mimarlık, yetenek ve performansta birkaç önemli farklılık sergilerler.
Anahtar Farklılıklar
Mimari ve Tasarım **
- Deepseek kodlayıcı V1, öncelikle kod oluşturma ve analize odaklanan temel bir modeldi. Geleneksel bir transformatör mimarisi kullanılarak inşa edildi ve sınırlı bir bağlam uzunluğuna 16 bin jeton vardı.-Daha sonra piyasaya sürülen Deepseek kodlayıcı V2, daha karmaşık görevleri daha verimli bir şekilde işlemesine izin veren gelişmiş bir uzmanlar karışımı (MOE) mimarisi kullanır. Bu model, 128k jetonların çok daha uzun bir bağlam uzunluğunu destekleyerek daha büyük kod snippet'lerini ve daha karmaşık sorguları ele alma yeteneğini önemli ölçüde geliştirir.
Eğitim Verileri ve Performans **
- Eğitim Verileri: Kodlayıcı V1,% 87 kod ve% 13 doğal dil karışımı ile yaklaşık 2 trilyon jeton üzerinde eğitildi. Buna karşılık, kodlayıcı V2, öncekinin ötesinde kodlama ve matematiksel akıl yürütme yeteneklerini artırarak 6 trilyon ek bir jeton daha önce eğitim gördü.-Performans kriterleri: Kodlayıcı V2, hem kodlayıcı V1 hem de GPT4-turbo gibi diğer kapalı kaynak modellerine kıyasla çeşitli kodlama kriterlerinde üstün performans göstermiştir. Özellikle kod içinde matematiksel akıl yürütmeyi içeren görevlerde, hem akıl yürütme hem de genel dil yeteneklerinde ilerlemeleri sergiliyor.
Programlama Dili Desteği **
- Kodlayıcı V1 sınırlı bir programlama dilini destekledi. Bununla birlikte, Coder V2 bu desteği 86'dan 338 programlama diline önemli ölçüde genişleterek, farklı kodlama ortamlarında çalışan geliştiriciler için çok daha çok yönlü hale getirdi.parametre sayımı **
- Her iki model de aynı toplam parametre sayısını 236 milyar ** paylaşıyor; Ancak, aktif parametreler biraz farklılık gösterir. Coder V2, temel modelinde 2,4 milyar aktif parametreye ve talimat takip eden görevler için optimize edilmiş talimat modelinde 21 milyar'a sahiptir.Kullanımlar **
- Deepseek kodlayıcı V1 temel kodlama görevleri için uygun olsa da, kodlayıcı V2, kodun tamamlanması, ekleme, otomatik kod incelemesi ve performans optimizasyonu önerileri dahil ancak bunlarla sınırlı olmamak üzere daha geniş bir kodlama uygulaması dizisi için özel olarak optimize edilmiştir.Özetle, Deepseek kodlayıcı V2, ileri mimarisi, genişletilmiş programlama dili desteği, gelişmiş eğitim veri kullanımı ve çeşitli kodlama ölçütlerinde gelişmiş performans metrikleri ile V1 üzerinden önemli bir yükseltmeyi temsil eder.
Alıntılar:
[1] https://huggingface.co/deepseek-ai/deepseek-coder-v2-base
[2] https://blog.promptlayer.com/deepseek-v2-vs-coder-v2-a-comparative-analysis/
[3] https://play.ht/blog/deepseek-v3-vs-r1-vs-coder/
[4] https://arxiv.org/html/2406.11931v1
[5] https://deepgram.com/learn/best-local-doding-llm
[6] https://www.reddit.com/r/localllamama/comments/1dhx449/deepseekcoderv2_breaking_the_barrier_of/
[7] https://deepseekcoder.github.io
[8] https://arxiv.org/pdf/2406.11931.pdf
[9] https://github.com/deepseek-ai/deepseek-coder/?tab=readme-ovfile