Налаштування нового моніторингу AI для DeepSeek передбачає декілька ключових кроків, які допомагають отримати всебічну видимість у виконанні, якості та вартості програми AI. Ось детальний посібник про те, як його налаштувати:
Крок 1: Інструментуйте свій додаток DeepSeek
Щоб почати моніторинг вашої програми DeepSeek за допомогою нової реліквії, спочатку потрібно інструментувати свою програму. Це передбачає інтеграцію агентів моніторингу продуктивності програм (APM) New Relic (APM) у вашу програму. Оскільки DeepSeek використовує API, сумісний з OpenAI, ви можете використовувати SDK OpenAI у вашій програмі для легкої інтеграції з новою реліквією [2].1. Зареєструйтесь або увійдіть: Почніть з підписання на новий обліковий запис реліквії або увійдіть, якщо у вас вже є.
2. Доступ до інтеграції та агентів: перейдіть до розділу «Інтеграції та агентів» на вашій новій панелі реліквії.
3. Виберіть інтеграцію OpenAI: У панелі пошуку введіть OpenAI та виберіть її. Це тому, що моделі DeepSeek сумісні з API OpenAI.
4. Виберіть мову програмування: виберіть мову програмування, яка використовується вашою програмою (наприклад, Python, Node.js).
5. Дотримуйтесь керованих на борту: Дотримуйтесь керованого процесу на борту, який надається новою реліквією для інструменту вашої програми. Цей процес проведе вас шляхом налаштування необхідних конфігурацій для моніторингу AI [2].
Крок 2: Доступ до моніторингу AI
Після того, як ваша програма буде інструментальною, ви можете почати використовувати новий моніторинг AI Relic:1. Перейдіть до моніторингу AI: Перейдіть до всіх можливостей на своїй новій панелі реліквії та натисніть на моніторинг AI.
2. Виберіть свою програму: У розділі моніторингу AI у всіх об'єктах виберіть додаток DeepSeek (наприклад, "DeepSeek-Local"), щоб переглянути його дані про продуктивність [2].
Крок 3: Оцініть продуктивність, якість та вартість
За допомогою налаштування програми ви можете оцінити ключові показники:1. APM 360 Підсумок: Перегляньте резюме APM 360 для розуміння таких показників, як запити, час відповіді, використання токенів та показники помилок. Це допомагає швидко визначити проблеми [2].
2. Погляд глибокого відстеження: Клацніть на відповіді AI у резюме APM 360, щоб побачити детальні сліди від введення користувача до остаточної відповіді, включаючи метадані, як кількість токенів та інформацію про модель [2].
3. Оцінка якості моделі: проаналізуйте відповіді на велику мовну модель (LLM) для виявлення таких питань, як токсичність або негативність, хоча ця функція наразі перебуває у обмеженому попередньому перегляді [2].
Крок 4: Порівняйте моделі
Нова реліквія дозволяє порівнювати різні моделі AI для оптимізації продуктивності та витрат:1. Порівняння моделі: Використовуйте можливості порівняння моделі New Relic, щоб оцінити, як перемикання між моделями впливає на продуктивність та витрати вашої програми. Це допомагає вибрати найбільш підходящу модель для ваших потреб [3] [10].
Крок 5: Забезпечте конфіденційність та безпеку даних
Для захисту конфіденційних даних ви можете налаштувати фільтри Drop:1. Створіть фільтри Drop: Перейдіть до фільтрів та створення фільтрів, щоб виключити конфіденційні дані (наприклад, особиста ідентифікована інформація) із ваших запитів та відповідей AI [2].
Дотримуючись цих кроків, ви можете ефективно налаштувати новий моніторинг AI для вашої програми DeepSeek, отримуючи цінну інформацію про його ефективність, забезпечуючи при цьому конфіденційність та безпеку даних.
Цитати:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
.
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepeek-ai-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-new-relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
.
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/202502033