Integrácia nového monitorovania AI Relic AI s DeepSeek-R1 zahŕňa niekoľko krokov, ktoré vám pomôžu sledovať výkon, kvalitu a náklady na vaše aplikácie AI. Tu je podrobný sprievodca, ako dosiahnuť túto integráciu:
Krok 1: Nastavenie lokálne Deepseek-R1
Najprv sa uistite, že máte lokálne nastavený model Deepseek-R1. Modely DeepSeek sú známe svojou inovatívnou architektúrou, najmä pre návrh zmesi expertov (MOE), ktorý zvyšuje účinnosť aktiváciou iba relevantných submodelov pre konkrétne úlohy [1] [3].
Krok 2: Používanie API kompatibilného OpenAIA
Modely DeepSeek používajú API kompatibilné s OpenAI. To znamená, že ich môžete integrovať do svojej aplikácie pomocou OpenAi SDK, ktorý zjednodušuje proces monitorovania novým pamiatkou [1].
Krok 3: Integrácia s novým monitorovaním Relic AI
1. Zaregistrujte sa alebo prihláste sa do novej pamiatky: Začnite registráciou na nový účet Relic alebo sa prihlásiť, ak ho už máte. Spoločnosť New Relic ponúka voľnú možnosť účtu, vďaka čomu je prístupná na testovanie a vývoj [1].
2. Konfigurujte novú pamiatku pre OpenAI: Keďže Deepseek používa API kompatibilné s OpenAio, budete nakonfigurovať novú pamiatku, akoby ste integrovali OpenAI priamo.
- Prejdite na integráciu a agentov vo svojom novom účte Relic.
- Do vyhľadávacieho panela napíšte OpenAI a vyberte ho.
- Vyberte programovací jazyk svojej aplikácie (napr. Python, Node.js).
- Postupujte podľa procesu vedenia na palube, ktorý poskytuje spoločnosť New Relic a napodobňuje vašu aplikáciu AI postavenú pomocou DeepSeek [1].
3. Prístroj Vaša aplikácia: Nová pamiatka poskytuje agenti APM, ktoré sa dajú ľahko integrovať do vašej aplikácie. Títo agenti zhromažďujú metriky a údaje udalostí z knižníc a rámcov AI, čo vám umožňuje sledovať výkonnosť aplikácie AI v reálnom čase [2] [8].
4. Prispôsobte správanie agenta: Po nainštalovaní agenta si môžete prispôsobiť jeho správanie podľa vašich potrieb. Zahŕňa to povolenie alebo deaktiváciu funkcií, ako je streamovanie a nahrávanie obsahu, ktoré sú rozhodujúce pre monitorovanie interakcií AI [5].
5. Monitorujte výkon a kvalitu: S novým monitorovaním Relic AI môžete získať informácie o kľúčových metrikách, ako je čas odozvy, kvalita, použité žetóny a výkonnosť infraštruktúry. To pomáha pri identifikácii prekážok a pri optimalizácii celkovej funkcie aplikácie AI aplikácie [10].
6. Porovnanie a optimalizácia modelu: Funkcia porovnávania modelu nového reliktu vám umožňuje vyhodnotiť rôzne modely AI na základe výkonu, kvality a nákladov. Toto je užitočné najmä pri rozhodovaní o tom, či sa prepnúť na novší model, ako je Deepseek-R1, pretože pomáha pri posudzovaní vplyvu na vašu aplikáciu [4] [9].
Krok 4: Zabezpečenie ochrany osobných údajov a bezpečnosti údajov
Pri používaní nového monitorovania Relic AI sa uistite, že dodržiavate predpisy o ochrane osobných údajov. Pretože monitorovanie AI môže zaznamenávať vstupy a výstupy vrátane osobných údajov, je nevyhnutné získať súhlas od používateľov a implementovať potrebné opatrenia na ochranu údajov [2].
Krok 5: Využívanie poznatkov pre inovácie
Nakoniec použite poznatky získané z nového monitorovania Relic AI na riadenie inovácií a zlepšenie vašich aplikácií AI. Optimalizáciou výkonnosti a nákladov môžete urýchliť prijatie AI a dosiahnuť rýchlejšiu návratnosť investícií (NI) [4] [7].
Táto integrácia nielen zvyšuje viditeľnosť vo vašom zásobníku AI, ale tiež podporuje nákladovo efektívnu a efektívnu povahu modelov Deepseek, vďaka čomu je AI prístupnejšia a riadi rýchlejšie inovácie.
Citácie:
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-andonitor-with-new-new-relic-ai-monitoring
[2] https://docs.newrelic.com/install/aionitoring/
[3] https://618media.com/en/blog/integrater-deepseek-r1-into-existing-systems-a-guide/
[4] https://newrelic.com/press-rease/20250203
[5] https://docs.newrelic.com/docs/aionitoring/customize-agent-ai-monitoring/
[6] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-monitoring-to-support-deepseek-4237?mode=date
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/how-to-relic/aionitoring
[9] https://www.computerweekly.com/news/366618774/new-relic-extends-oSserability-to-deepseek
[10] https://newrelic.com/platform/aionitoring
