Настройка нового мониторинга ИИ RELIC для приложения DeepSeek включает в себя несколько ключевых шагов, которые помогут вам получить полную видимость в производительности, качество и стоимости вашего приложения для искусственного интеллекта. Вот подробное руководство о том, как его настроить:
Шаг 1: инструмент вашего приложения DeepSeek
Чтобы начать мониторинг вашего приложения DeepSeek с новой реликвией, вам сначала нужно придать приложение. Это включает в себя интеграцию новых агентов мониторинга производительности приложений RELIC (APM) в ваше приложение. Поскольку DeepSeek использует API-совместимый с OpenAI, вы можете использовать SDK OpenAI в своем приложении для более легкой интеграции с новой реликвией [2].1. Зарегистрируйтесь или входите в систему: Начните с регистрации на новую учетную запись Relic или вход в систему, если она уже есть.
2. Интеграции и агенты доступа: перейдите к разделу Integrations & Agents в вашей новой реликвической панели.
3. Выберите Integration Openai: В панели поиска введите Openai и выберите его. Это потому, что модели DeepSeek совместимы с API Openai.
4. Выберите язык программирования: выберите язык программирования, используемый вашим приложением (например, Python, node.js).
5. Следуйте управляемой взимании. Следуйте процессу управляемого взимания, предоставленного New Relic для инструмента вашего приложения. Этот процесс приведет вас к настройке необходимых конфигураций для мониторинга искусственного интеллекта [2].
Шаг 2.
После того, как ваше приложение будет предназначено, вы можете начать использовать новый мониторинг AI Relic:1. Перейдите к мониторингу искусственного интеллекта: перейдите на все возможности в вашей новой реликвии и нажмите «Мониторинг искусственного интеллекта».
2. Выберите свое приложение: в разделе «Мониторинг искусственного интеллекта» под всеми объектами выберите свое приложение DeepSeek (например, «DeepSeek-Local»), чтобы просмотреть его данные о производительности [2].
Шаг 3: Оценить производительность, качество и стоимость
При настройке вашего приложения вы можете оценить ключевые метрики:1. Резюме APM 360: Просмотрите резюме APM 360 для понимания таких показателей, как запросы, время отклика, использование токенов и частоту ошибок. Это помогает быстро определить проблемы [2].
2. Просмотр глубокого трассировки: нажмите на ответы AI в резюме APM 360, чтобы увидеть подробные следы от пользовательского ввода до окончательного ответа, включая количество метаданных, подобные количеству и информации модели [2].
3. Оценка качества модели: анализировать ответы на большую языковую модель (LLM) для определения таких проблем, как токсичность или негатив, хотя эта функция в настоящее время находится в ограниченном предварительном просмотре [2].
Шаг 4: Сравните модели
Новая реликвия позволяет сравнивать различные модели ИИ для оптимизации производительности и стоимости:1. Сравнение модели: используйте возможности сравнения моделей Relic для оценки того, как переключение между моделями влияет на производительность и затраты вашего приложения. Это помогает в выборе наиболее подходящей модели для ваших потребностей [3] [10].
Шаг 5: Убедитесь, что конфиденциальность и безопасность данных и безопасность
Чтобы защитить конфиденциальные данные, вы можете настроить фильтры Drop:1. Создать фильтры Drop: перейдите к Drop Filters и создайте фильтры, чтобы исключить конфиденциальные данные (например, личная идентифицируемая информация) из ваших запросов и ответов AI [2].
Следуя этим шагам, вы можете эффективно настроить новый мониторинг ИИ Relic для вашего приложения DeepSeek, получая ценную информацию о его производительности, обеспечивая при этом конфиденциальность и безопасность данных.
Цитаты:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-reelic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-reelic-annonces-the-industrys-only-observability-integration-with-deepseek-to-accelerate-ai-adoption-and-roi/
[4] https://newrelic.com/blog/how-to-reelic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-reelic-introduces-observability-solution-for-deepseek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-reelic/monitor-and-optimize-complex-web-apps-with-new-reelic
[7] https://newrelic.com/blog/how-to-reelic/ai-monitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203