Да, новый мониторинг ИИ Relic может отслеживать использование токенов для оптимизации затрат в приложениях DeepSeek. Эта возможность является частью комплексного решения для наблюдения New Relic, разработанного специально для мониторинга DeepSeek, генеративной модели AI (Genai). Интегрируя мониторинг искусственного интеллекта New Relic с DeepSeek, предприятия могут получить полную видимость в своих приложениях для искусственного интеллекта, включая ключевые показатели, такие как использование токенов, пропускная способность, задержка и затраты. Эта интеграция поддерживает DeepSeek и DeepSeek на литейном заводе Microsoft Azure AI, обеспечивая упрощенную настройку с улучшенной безопасностью данных [1] [2] [4].
Отслеживание токенов для оптимизации затрат:
Мониторинг искусственного интеллекта New Relic позволяет предприятиям отслеживать использование токенов, что имеет решающее значение для управления затратами на разработку искусственного интеллекта. Использование токенов является важным фактором в определении стоимости запуска моделей ИИ, так как многие услуги по искусственному ИИ на основе количества обработанных токенов. Монирируя использование токенов, компании могут оптимизировать свои затраты на ИИ, определив области, где использование токенов может быть уменьшено без ущерба для производительности. Эта возможность также позволяет предприятиям принимать обоснованные решения о выборе и развертывании модели, обеспечивая, чтобы они выбрали наиболее экономически эффективные модели для своих приложений [5] [8].
Преимущества нового мониторинга ИИ RELIC для DeepSeek:
1. Обеспечение надежности и качество: New Relic обеспечивает полную видимость в результате эффективности приложений для искусственного интеллекта DeepSeek, позволяя предприятиям быстро выявлять и решать проблемы. Это гарантирует, что приложения выполняются надежно и поддерживают высокое качество [1] [4].
2. Оптимизация затрат: отслеживая использование токенов и другие показатели, связанные с затратами, предприятия могут оптимизировать свои затраты на разработку искусственного интеллекта. Это особенно важно при использовании экономически эффективных моделей, таких как DeepSeek, которые предлагают расширенные возможности рассуждений по более низкой стоимости [1] [5].
3. Уверенность в переключении модели: функции сравнения моделей New Relic позволяют предприятиям оценить влияние переключения между моделями искусственного интеллекта на производительность и затраты. Это помогает принимать обоснованные решения о том, какие модели развертывают и когда переключаться, гарантируя, что выбранные модели соответствовали потребностям бизнеса и ограничениям бюджета [4] [5].
4. Ускоренные инновации: сочетание мониторинга ИИ New Relic и открытых моделей Deepseek ускоряет инновации и развертывание ИИ. Это позволяет предприятиям более эффективно принимать и оптимизировать технологии ИИ, стимулируя более быстрые инновации и поддерживая конкурентное преимущество на рынке [1] [7].
В целом, мониторинг искусственного интеллекта New Relic для DeepSeek Applications обеспечивает надежное решение для оптимизации затрат ИИ с помощью отслеживания использования токенов, среди прочих преимуществ, помогая предприятиям эффективно ориентироваться в сложном ландшафте ИИ.
Цитаты:
[1] https://theexchangeasia.com/new-reelic-unveils-first-ever-ai-observability-for-deepseek/
[2] https://www.dqchannels.com/news/new-reelic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://ecommercenews.com.au/story/new-reelic-unveils-ai-monitoring-for-deepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large-large-models-d732363993fd
[7] https://www.computterweekly.com/news/366618774/new-reelic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-reelic/deploy-deepseek-models-locally-and-monitor-with-new-reelic-ai-monitoring