Az új Relic AI megfigyelése célja, hogy átfogó láthatóságot biztosítson az AI veremen keresztül, amely magában foglalja a DeepSeek -rel épített alkalmazásokat. Ez a képesség valóban segíthet a szűk keresztmetszetek azonosításában a DeepSeek alkalmazásokban azáltal, hogy számos kulcsfontosságú funkciót kínál:
1. Teljes AI verem láthatóság: Az új ereklye holisztikus képet nyújt az alkalmazáson, az infrastruktúrán és az AI rétegen. Ez magában foglalja a mutatókat, például a válaszidőket, a tokenhasználatot és a hibaarányokat, amelyek kulcsfontosságúak a teljesítmény szűk keresztmetszetek azonosításához az AI alkalmazásokban, mint például a DeepSeek [1] [4].
2. mély nyomkövetési betekintés: A platform részletes nyomkövetési képességeket kínál, amelyek lehetővé teszik a fejlesztők számára, hogy nyomon kövessék a komplex AI válaszok életciklusát. Ez a szolgáltatás különösen hasznos a DeepSeek modellekben a teljesítményproblémák hibaelhárításához a bemenetek feldolgozásának és a kimenetek előállításának elemzésével [7].
3. valós idejű betekintés: Az új Relic AI megfigyelése valós idejű betekintést nyújt az AI veremen, átfogó szolgáltatásokon, infrastruktúrán és az AI rétegben. Ez biztosítja a hatékony, megbízható és költséghatékony műveleteket azáltal, hogy átfogó mutatókat biztosít az átviteli sebességről, a késésről és a költségekről [2] [6].
4. Modell összehasonlítás: A platform lehetővé teszi a modell összehasonlítását, lehetővé téve a fejlesztők számára, hogy felmérjék a teljesítményhatásokat az AI modellek közötti váltás során. Ez a szolgáltatás hasznos a mélySeek alkalmazások optimalizálásához a teljesítmény és a költségmérők alapján a leghatékonyabb modellek kiválasztásával [5] [9].
5. Fokozott adatbiztonság: Az új Relic megfigyelése olyan funkciókat tartalmaz, mint például a cseppszűrők, amelyek lehetővé teszik az érzékeny adattípusok szelektív kizárását, biztosítva a megfelelést és a felhasználói adatvédelem védelmét. Ez fontos az AI -alkalmazásokban való bizalom fenntartása érdekében, miközben a szűk keresztmetszetek elhárítását elhárítják [1].
6. Megbízhatóságbiztosítás és minőség: Azáltal, hogy teljes láthatóságot biztosít a mélyöség-meghajtású AI alkalmazás teljesítményében, az új Relic segíti a vállalkozásokat a problémák gyors azonosításában és megoldásában. Ez a megbízhatóságbiztosítás kritikus fontosságú a magas színvonalú AI-szolgáltatások fenntartása és a szűk keresztmetszetek gyors kezelése érdekében [2] [6].
Összességében a New Relic AI megfigyelése jól felszerelt, hogy segítsen a szűk keresztmetszetek azonosításához és címezéséhez a DeepSeek alkalmazásokban azáltal, hogy átfogó eszközkészletet kínál a teljesítmény-optimalizáláshoz, a modell kiválasztásához és a valós idejű megfigyeléshez.
Idézetek:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-aimonitoringga/
[2] https://theexchangeasia.com/new-relic-utveils-first-ever-ever-bservability-for-reepseek/
[3] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[4] https://newrelic.com/blog/how-to-relic/ai-in-observabilitás
[5] https://newrelic.com/press-release/20250203
[6] https://ecommercenews.com.au/story/new-relic-utveils-ai-monitoring-for-reepseek-pplications
[7] https://newrelic.com/blog/ernlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observabilitási-deepseek
[9] https://newrelic.com/platform/ai-monitoring