Deepseek Coder V1とV2はどちらも、タスクのコーディング用に設計された高度なAIモデルですが、アーキテクチャ、機能、パフォーマンスにいくつかの大きな違いを示します。
##キーの違い
###アーキテクチャとデザイン**
-DeepSeek Coder V1は、主にコード生成と分析に焦点を当てた基礎モデルでした。従来のトランスアーキテクチャを使用して構築され、16Kトークンのコンテキスト長が限られていました。
-Deepseek Coder V2は、後でリリースされ、強化された混合物（MOE）アーキテクチャを利用して、より複雑なタスクをより効率的に処理できるようにします。このモデルは、128Kトークンのはるかに長いコンテキストの長さをサポートし、より大きなコードスニペットとより複雑なクエリを処理する能力を大幅に改善します。
###トレーニングデータとパフォーマンス**
- トレーニングデータ：Coder V1は、87％のコードと13％の自然言語で混合された約2兆トークンでトレーニングされました。対照的に、Coder V2はさらに6兆個のトークンでさらにトレーニングを受け、その前任者を超えてコーディングおよび数学的推論機能を強化しました。
- パフォーマンスベンチマーク：Coder V2は、Coder V1やGPT4-Turboなどの他のクローズドソースモデルの両方と比較して、さまざまなコーディングベンチマークで優れたパフォーマンスを実証しています。特に、コード内の数学的推論、推論と一般的な言語能力の両方の進歩を紹介するタスクに優れています。
###プログラミング言語サポート**
-Coder V1は、限られた範囲のプログラミング言語をサポートしました。ただし、Coder V2はこのサポートを86から338のプログラミング言語に劇的に拡張し、異なるコーディング環境で作業する開発者にとってはるかに多用途なものにしています。
###パラメーターカウント**
-両方のモデルは、2360億の同じ合計パラメーター数を共有しています**。ただし、アクティブなパラメーターはわずかに異なります。 Coder V2には、基本モデルに24億のアクティブパラメーター、指導モデルが210億個のアクティブパラメーターがあり、指導に従うタスク用に最適化されています。
###ユースケース**
- DeepSeek Coder V1は基本的なコーディングタスクに適していましたが、Coder V2は、コードの完了、挿入、自動コードレビュー、パフォーマンス最適化の提案など、より幅広いコーディングアプリケーション用に特別に最適化されています。
要約すると、DeepSeek Coder V2は、高度なアーキテクチャ、プログラミング言語サポートの拡張、トレーニングデータの利用の強化、さまざまなコーディングベンチマークの改善されたパフォーマンスメトリックを備えたV1をめぐる大幅なアップグレードを表しています。
引用：
[1] https://huggingface.co/deepseek-ai/deepseek-coder-v2-base
[2] https://blog.promptlayer.com/deepseek-v2-vs-coder-v2-a-comparative-analysis/
[3] https://play.ht/blog/deepseek-v3-vs-r1-vs-coder/
[4] https://arxiv.org/html/2406.11931v1
[5] https://deepgram.com/learn/best-local-coding-llm
[6] https://www.reddit.com/r/localllama/comments/1dhx449/deepseekcoderv2_breaking_the_barrier_of/
[7] https://deepseekcoder.github.io
[8] https://arxiv.org/pdf/2406.11931.pdf
[9] https://github.com/deepseek-ai/deepseek-coder/?tab=readme-ov-file