Zriadenie nového monitorovania Relic AI pre aplikáciu DeepSeek zahŕňa niekoľko kľúčových krokov, ktoré vám pomôžu získať komplexnú viditeľnosť vo výkone, kvalite a nákladoch aplikácie AI aplikácie AI. Tu je podrobný sprievodca, ako ho nastaviť:
KROK 1: Príspevok aplikácie Deepseek
Ak chcete začať monitorovať svoju aplikáciu DeepSeek s novým pamiatkou, musíte najprv napraviť svoju aplikáciu. Zahŕňa to integráciu nových agentov monitorovania výkonnosti aplikácií spoločnosti Relic (APM) do vašej aplikácie. Pretože DeepSeek používa API kompatibilné s OpenAio, môžete vo svojej aplikácii použiť SDK OpenAI na ľahšiu integráciu s novým pamiatkou [2].1. Prihláste sa alebo prihláste: Začnite registráciou na nový účet Relic alebo sa prihlásite, ak ho už máte.
2. Prístup integrácií a agentov: Prejdite do sekcie Integrations & Agents vo svojom novom relikvici.
3. Vyberte OpenAI Integration: Do vyhľadávacieho panela napíšte OpenAI a vyberte ju. Je to preto, že modely DeepSeek sú kompatibilné s API OpenAI.
4. Vyberte svoj programovací jazyk: Vyberte programovací jazyk používaný v aplikácii (napr. Python, Node.js).
5. Postupujte podľa riadeného palubu: Postupujte podľa procesu vedenia na palube, ktorý poskytuje spoločnosť New Relic a napodobňuje vašu žiadosť. Tento proces vás prevedie nastavením potrebných konfigurácií pre monitorovanie AI [2].
Krok 2: Prístup AI Monitorovanie
Akonáhle je vaša aplikácia vybavená, môžete začať používať nové monitorovanie AI Relic:1. Prejdite na monitorovanie AI: Prejdite na všetky schopnosti vo svojom novom panboju Relic a kliknite na monitorovanie AI.
2. Vyberte svoju aplikáciu: V sekcii monitorovania AI, v rámci všetkých entít, vyberte svoju aplikáciu DeepSeek (napr. „DeepSeek-Local“), aby ste si mohli prezrieť svoje údaje o výkonnosti [2].
Krok 3: Vyhodnoťte výkon, kvalitu a náklady
Vďaka nastaveniu vašej aplikácie môžete teraz vyhodnotiť kľúčové metriky:1. Zhrnutie APM 360: Zobraziť zhrnutie APM 360 pre poznatky o metrikách, ako sú požiadavky, časy odozvy, používanie tokenov a miera chybovosti. Pomáha to rýchlo identifikovať problémy [2].
2. Zobrazenie hlbokého sledovania: Kliknutím na odpovede AI v zhrnutí APM 360 zobrazíte podrobné stopy od vstupu používateľa po konečnú odpoveď, vrátane metadát, ako sú počty tokenov a informácie o modeloch [2].
3. Vyhodnotenie kvality modelu: Analyzujte reakcie veľkého jazykového modelu (LLM) na identifikáciu problémov, ako je toxicita alebo negativita, hoci táto funkcia je v súčasnosti v obmedzenom náhľade [2].
Krok 4: Porovnajte modely
Nová pamiatka vám umožňuje porovnávať rôzne modely AI na optimalizáciu výkonu a nákladov:1. Porovnanie modelu: Na posúdenie toho, ako prepínanie medzi modelmi ovplyvňuje výkon a náklady vašej aplikácie, použite možnosti porovnávania modelov spoločnosti Relic. Pomáha to pri výbere najvhodnejšieho modelu pre vaše potreby [3] [10].
Krok 5: Zaistite ochranu osobných údajov a bezpečnosti údajov
Na ochranu citlivých údajov môžete nakonfigurovať filtre DROP:1. Vytvorte filtre Drop: Prejdite na filtre, aby ste vynechali filtre a vytvorte filtre na vylúčenie citlivých údajov (napr. Osobné identifikovateľné informácie) z vašich požiadaviek a odpovedí AI [2].
Postupom týchto krokov môžete efektívne nastaviť nové monitorovanie AI Relic AI pre vašu aplikáciu DeepSeek, získať cenné informácie o jej výkone a zároveň zaistiť súkromie a bezpečnosť údajov.
Citácie:
[1] https://docs.newrelic.com/install/aionitoring/
[2] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-andonitor-with-new-new-relic-ai-monitoring
[3] https://cxotoday.com/press-release/new-relic-annunces-the-industrys-only-obserability-integration-with-deepseek-to-accelerate-ai-aadoption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/aionitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-obserability-solulice-for-deepseek-ai-Monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-ptimize-complex-web-Apps-with-with-new-lelic
[7] https://newrelic.com/blog/how-to-relic/aionitoring
[8] https://ecommercenews.com.au/story/new-relic-unveils-ai-Monitoring-for-deepseek-applications
[9] https://docs.newrelic.com/docs/aionitoring/intro-to-aionitoring/
[10] https://newrelic.com/press-rease/20250203