Novi nadzor AI je zasnovan tako, da zagotavlja celovito prepoznavnost v celotnem skladu AI, ki vključuje aplikacije, zgrajene z Deepseekom. Ta sposobnost lahko resnično pomaga pri prepoznavanju ozkih grl v aplikacijah Deepseek, tako da ponuja več ključnih funkcij:
1. Popolna vidljivost AI Stack: New Relic zagotavlja celovit pogled na aplikacijo, infrastrukturo in plast AI. To vključuje meritve, kot so odzivni časi, uporaba žetona in stopnje napak, ki so ključne za prepoznavanje ozkih grl v aplikacijah AI, kot so tiste, zgrajene z DeepSeekom [1] [4].
2. Deep Trace Insights: Platforma ponuja podrobne zmogljivosti sledenja, ki razvijalcem omogočajo, da spremljajo življenjski cikel zapletenih odzivov AI. Ta funkcija je še posebej uporabna za odpravljanje težav z zmogljivostjo v modelih Deepseek z analizo, kako se obdelujejo vhodi in se ustvarijo izhodi [7].
3. Vpogled v realni čas: AI Monitoring New Relic ponuja vpogled v realni čas v skladu z AI, ki segajo storitve, infrastrukturo in plast AI. To zagotavlja učinkovite, zanesljive in stroškovno učinkovite dejavnosti z zagotavljanjem celovitih meritev o pretoku, zamudah in stroških [2] [6].
4. Primerjava modela: Platforma omogoča primerjavo modela, kar omogoča razvijalcem, da ocenijo vplive učinkovitosti pri preklapljanju med modeli AI. Ta funkcija je koristna za optimizacijo aplikacij Deepseek z izbiro najučinkovitejših modelov, ki temeljijo na meritvah zmogljivosti in stroškov [5] [9].
5. Izboljšana varnost podatkov: Nadzor New Relic vključuje funkcije, kot so filtri spuščanja, ki omogočajo selektivno izključitev občutljivih vrst podatkov, kar zagotavlja skladnost in zaščito zasebnosti uporabnikov. To je pomembno za ohranjanje zaupanja v aplikacije AI in hkrati odpravljanje grl [1].
6. Zagotavljanje in kakovost zanesljivosti: Z zagotavljanjem popolne prepoznavnosti v uspešnosti aplikacije AI z AI z Deepseekom New Relic podjetjem pomaga hitro prepoznati in rešiti težave. To zagotavljanje zanesljivosti je ključnega pomena za ohranjanje kakovostnih storitev AI in takojšnje reševanje ozkih grl [2] [6].
Na splošno je spremljanje AI New Relic dobro opremljeno, da pomaga prepoznati in nasloviti ozka grla v aplikacijah Deepseek, saj ponuja obsežen nabor orodij za optimizacijo zmogljivosti, izbiro modelov in spremljanje v realnem času.
Navedbe:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-iamonitoringga/
[2] https://theexchangeasia.com/new-relic-Unveils-first-ever-ai-observability-for-reepseek/
[3] https://newrelic.com/blog/how-to-relic/Deploy-deepseek-models-docally-and-monitor-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-observenbility
[5] https://newrelic.com/press-release/20250203
[6] https://ecomercenews.com.au/story/new-relic-unveils-ai-monitoring-for-reepseek-applications
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extexends-observetabity-t-reepseek
[9] https://newrelic.com/platform/ai-monitoring