Інтеграція нового моніторингу AI реліквії з DeepSeek-R1 передбачає кілька кроків, які допомагають вам стежити за продуктивністю, якістю та вартістю ваших програм AI. Ось детальний посібник щодо досягнення цієї інтеграції:
Крок 1: Налаштування DeepSeek-R1 локально
По-перше, переконайтеся, що у вас є модель DeepSeek-R1, встановлену локально. Моделі DeepSeek відомі своєю інноваційною архітектурою, зокрема конструкцією суміші експертів (МО), що підвищує ефективність, активуючи лише відповідні підмоделі для конкретних завдань [1] [3].
Крок 2: Використання API, сумісного з OpenAI
Моделі DeepSeek використовують API, сумісний з OpenAI. Це означає, що ви можете інтегрувати їх у свою програму за допомогою SDK OpenAI, що спрощує процес моніторингу з новою реліквією [1].
Крок 3: Інтеграція з новим моніторингом AI RELIC
1. Зареєструйтесь або увійдіть у нову реліквію: Почніть з підписання на новий обліковий запис реліквії або увійдіть, якщо у вас вже є. New Relic пропонує безкоштовний варіант облікового запису, що робить його доступним для тестування та розробки [1].
2. Налаштуйте нову реліквію для OpenAI: Оскільки DeepSeek використовує API, сумісний з OpenAI, ви налаштуєте нову реліквію, як якщо б ви безпосередньо інтегрували OpenAI.
- Перейдіть до інтеграції та агентів у вашому новому обліковому записі реліквії.
- У панелі пошуку введіть OpenAI та виберіть його.
- Виберіть мову програмування програми (наприклад, Python, Node.js).
- Дотримуйтесь керованого процесу на борту, який надається новою реліквією для інструмента вашої програми AI, побудованої з DeepSeek [1].
3. Інструмент Ваша програма: Нова реліквія забезпечує агенти APM, які можна легко інтегрувати у вашу програму. Ці агенти збирають показники та дані про події з бібліотек та рамок AI, що дозволяє стежити за продуктивністю програми AI в режимі реального часу [2] [8].
4. Налаштування поведінки агента: Після того, як агент буде встановлений, ви можете налаштувати його поведінку відповідно до ваших потреб. Сюди входить вмикання або відключення таких функцій, як потокове та запис вмісту, які мають вирішальне значення для моніторингу взаємодій AI [5].
5. Моніторинг продуктивності та якості: за допомогою нового моніторингу AI реліквії ви можете отримати уявлення про ключові показники, такі як час реагування, якість, використані жетони та ефективність інфраструктури. Це допомагає визначити вузькі місця та оптимізувати загальну функціональність програми AI [10].
6. Порівняння та оптимізація моделі: функція порівняння моделі New Relic дозволяє оцінювати різні моделі AI на основі продуктивності, якості та витрат. Це особливо корисно, коли вирішує, чи перейти на нову модель, як DeepSeek-R1, оскільки це допомагає в оцінці впливу на вашу програму [4] [9].
Крок 4: Забезпечення конфіденційності та безпеки даних
Використовуючи новий моніторинг AI RELIC, переконайтеся, що ви дотримуєтесь правил конфіденційності даних. Оскільки моніторинг AI може записувати входи та результати, включаючи особисту інформацію, важливо отримати згоду користувачів та здійснити необхідні заходи захисту даних [2].
Крок 5: Використання розуміння інновацій
Нарешті, використовуйте розуміння, отримані від нового моніторингу AI реліквії, щоб сприяти інноваціям та вдосконалити свої програми AI. Оптимізуючи продуктивність та витрати, ви можете прискорити прийняття AI та досягти швидшої віддачі від інвестицій (ROI) [4] [7].
Ця інтеграція не тільки підвищує видимість у вашому стеку AI, але й підтримує економічно ефективну та ефективну природу моделей DeepSeek, що робить AI більш доступним та рушійним інноваціям.
Цитати:
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[2] https://docs.newrelic.com/install/ai-monitoring/
[3] https://618media.com/en/blog/integrating-deepseek-r1-into-Existing-systems-a-guide/
[4] https://newrelic.com/press-release/202502033
[5] https://docs.newrelic.com/docs/ai-monitoring/customize-agent-ai-monitoring/
[6] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-monitoring-to-support-deepseek-4237?mode=date
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/how-to-relic/ai-monitoring
[9] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-teepseek
[10] https://newrelic.com/platform/ai-monitoring