New RelicのAI監視は、DeepSeekで構築されたアプリケーションを含むAIスタック全体で包括的な可視性を提供するように設計されています。この機能は、いくつかの重要な機能を提供することにより、DeepSeekアプリケーションでボトルネックを識別するのに役立ちます。
1.完全なAIスタックの可視性：新しいRelicは、アプリケーション、インフラストラクチャ、およびAIレイヤー全体で全体的なビューを提供します。これには、応答時間、トークン使用量、エラー率などのメトリックが含まれます。これは、DeepSeek [1] [4]で構築されたようなAIアプリケーションでパフォーマンスボトルネックを識別するために重要です。
2。ディープトレースの洞察：プラットフォームは、開発者が複雑なAI応答のライフサイクルを追跡できるようにする詳細なトレース機能を提供します。この機能は、入力の処理方法と出力の生成方法を分析することにより、DeepSeekモデルのパフォーマンスの問題のトラブルシューティングに特に役立ちます[7]。
3.リアルタイムの洞察：New RelicのAIモニタリングは、AIスタック全体にわたるリアルタイムの洞察、サービス、インフラストラクチャ、AIレイヤーを提供します。これにより、スループット、レイテンシ、コストに関する包括的なメトリックを提供することにより、効率的で信頼性が高く、費用対効果の高い操作が保証されます[2] [6]。
4。モデル比較：プラットフォームにより、モデルの比較が可能になり、開発者がAIモデルを切り替えるときにパフォーマンスの影響を評価できます。この機能は、パフォーマンスとコストメトリックに基づいて最も効率的なモデルを選択することにより、DeepSeekアプリケーションを最適化するのに有益です[5] [9]。
5.データセキュリティの強化：New Relicの監視には、機密データ型を選択的に除外し、コンプライアンスを確保し、ユーザーのプライバシーを保護できるドロップフィルターなどの機能が含まれます。これは、ボトルネックのトラブルシューティング中にAIアプリケーションへの信頼を維持するために重要です[1]。
6.信頼性の保証と品質：DeepSeekを搭載したAIアプリケーションパフォーマンスを完全に可視化することにより、New Relicは企業が問題を迅速に特定して解決するのに役立ちます。この信頼性保証は、高品質のAIサービスを維持し、ボトルネックに迅速に対処するために重要です[2] [6]。
全体として、New RelicのAIモニタリングは、パフォーマンスの最適化、モデル選択、リアルタイム監視のための包括的なツールセットを提供することにより、Deepseekアプリケーションのボトルネックを特定して対処するのに役立つ設備が整っています。
引用：
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-amonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observability-for-deepseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally and-monitor-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-observability
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[9] https://newrelic.com/platform/ai-monitoring