Nastavitev novega nadzora AI Relic za aplikacijo Deepseek vključuje več ključnih korakov, ki vam pomagajo pridobiti celovito prepoznavnost v uspešnosti, kakovosti in stroških aplikacije AI. Tu je podroben vodnik, kako ga nastaviti:
KORAK 1: Instrumentirajte svojo aplikacijo Deepseek
Če želite začeti spremljati svojo aplikacijo Deepseek z New Relic, morate najprej instrumentirati svojo aplikacijo. To vključuje vključevanje agentov za spremljanje uspešnosti aplikacije New Relic (APM) v vašo aplikacijo. Ker Deepseek uporablja API, združljiv z OpenAI, lahko v svoji aplikaciji uporabite OpenAI SDK za lažjo integracijo z New Relic [2].1. Prijavite se ali se prijavite: Začnite s prijavo na nov reliktni račun ali se prijavite, če ga že imate.
2. Dostopna integracija in agenti: Pomaknite se do razdelka Integrations & Agents na svoji novi nadzorni plošči Relic.
3. Izberite Integration OpenAI: V iskalno vrstico vnesite OpenAI in jo izberite. To je zato, ker so modeli Deepseek združljivi z API -ji OpenAI.
4. Izberite svoj programski jezik: izberite programski jezik, ki ga uporablja vaša aplikacija (npr. Python, Node.js).
5. Sledite vodenju na krovu: Sledite voden postopek nakrcanja, ki ga nudi New Relic, da instrumentirajte svojo aplikacijo. Ta postopek vas bo vodil z nastavitvijo potrebnih konfiguracij za spremljanje AI [2].
2. korak: Dostop do nadzora AI
Ko je vaša aplikacija instrumentirana, lahko začnete uporabljati New Relic AI spremljanje:1. Pomaknite se do nadzora AI: Pojdite na vse zmogljivosti na svoji novi relikvijski armaturni plošči in kliknite AI nadzor.
2. Izberite svojo aplikacijo: V razdelku za spremljanje AI pod vsemi entitetami izberite svojo aplikacijo Deepseek (npr. "Deepseek-Local"), da si ogledate njegove podatke o uspešnosti [2].
Korak 3: Ocenite uspešnost, kakovost in stroške
Z nastavitvijo aplikacije lahko zdaj ocenite ključne meritve:1. APM 360 Povzetek: Oglejte si povzetek APM 360 za vpogled v meritve, kot so zahteve, odzivni časi, uporaba žetona in stopnje napak. To pomaga hitro prepoznati težave [2].
2. Pogled globokega sledenja: Kliknite AI odgovore v povzetku APM 360 in si oglejte podrobne sledi od uporabnika do končnega odziva, vključno z metapodatki, kot so štetje žetonov in podatki o modelu [2].
3. Ocenjevanje kakovosti modela: analizirajte odzive velikega jezikovnega modela (LLM), da prepoznate vprašanja, kot sta toksičnost ali negativnost, čeprav je ta funkcija trenutno v omejenem predogledu [2].
KORAK 4: Primerjajte modele
New Relic vam omogoča primerjavo različnih modelov AI za optimizacijo zmogljivosti in stroškov:1. Primerjava modela: Za oceno, kako preklapljanje med modeli vpliva na uspešnost in stroške vaše aplikacije, uporabite nove zmogljivosti za primerjavo modela Relic. To pomaga pri izbiri najprimernejšega modela za vaše potrebe [3] [10].
5. korak: Zagotovite zasebnost in varnost podatkov
Za zaščito občutljivih podatkov lahko konfigurirate spustne filtre:1. Ustvari filtre spuščanja: Pomaknite se, da spustite filtre in ustvarite filtre, da izključite občutljive podatke (npr. Osebne identifikacijske podatke) iz vaših zahtev in odgovorov AI [2].
Z upoštevanjem teh korakov lahko učinkovito nastavite nov nadzor AI za svojo aplikacijo Deepseek in tako pridobite dragocen vpogled v njegovo uspešnost in hkrati zagotavljate zasebnost in varnost podatkov.
Navedbe:
[1] https://docs.newrelic.com/install/ai-monitoring/
[2] https://newrelic.com/blog/how-to-relic/Deploy-deepseek-models-docally-and-monitor-with-new-Relic-Ai-Monitoring
[3] https://cxotoday.com/press-release/new-relic-announces-the-industriys-only-observetabity-Entegration-with-deepseek-to-cecelerate-ai-doption-and-roi/
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
[5] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-aa-monitoring-8689063
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps-with-New-Relic
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
[8] https://ecomercenews.com.au/story/new-relic-unveils-ai-monitoring-for-reepseek-applications
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-ai-monitoring/
[10] https://newrelic.com/press-release/20250203