Jaunā Relica AI uzraudzība ir paredzēta, lai nodrošinātu visaptverošu redzamību visā AI kaudzē, kas ietver lietojumprogrammas, kas veidotas ar DeepSeek. Šī spēja patiešām var palīdzēt identificēt sašaurinājumus DeepSeek lietojumprogrammās, piedāvājot vairākas galvenās funkcijas:
1. Pilna AI kaudzes redzamība: Jauna relikvija nodrošina holistisku skatu visā lietojumprogrammā, infrastruktūrā un AI slānī. Tas ietver tādus metrikus kā reakcijas laiks, marķiera izmantošana un kļūdu līmeņi, kas ir svarīgi, lai identificētu veiktspējas sašaurinājumus AI lietojumprogrammās, piemēram, tādos, kas būvēti ar DeepSeek [1] [4].
2. Deep Trace Insights: platforma piedāvā detalizētas izsekošanas iespējas, kas ļauj izstrādātājiem izsekot sarežģītu AI reakciju dzīves ciklu. Šī funkcija ir īpaši noderīga, lai novērstu veiktspējas problēmas DeepSEEK modeļos, analizējot, kā tiek apstrādāti ieejas un tiek ģenerētas izejas [7].
3. Reāllaika ieskats: New Relica AI uzraudzība piedāvā reāllaika ieskatu visā AI kaudzē, aptverot pakalpojumus, infrastruktūru un AI slāni. Tas nodrošina efektīvu, uzticamu un rentablu operāciju, nodrošinot visaptverošu metriku par caurlaidspēju, latentumu un izmaksām [2] [6].
4. Modeļa salīdzinājums: platforma ļauj salīdzināt modeli, ļaujot izstrādātājiem novērtēt veiktspējas ietekmi, pārslēdzoties starp AI modeļiem. Šī funkcija ir izdevīga, lai optimizētu DeepSeek lietojumprogrammas, izvēloties visefektīvākos modeļus, pamatojoties uz veiktspējas un izmaksu metriku [5] [9].
5. Uzlabota datu drošība: Jaunā Relic uzraudzība ietver tādas funkcijas kā Drop filtri, kas ļauj selektīvi izslēgt sensitīvus datu tipus, nodrošinot atbilstību un aizsargājot lietotāju privātumu. Tas ir svarīgi, lai saglabātu uzticību AI lietojumprogrammām, vienlaikus novēršot sašaurinājumu [1].
6. Uzticamības nodrošināšana un kvalitāte: nodrošinot pilnīgu redzamību DeepSeEK darbināmā AI lietojumprogrammu veiktspējā, jauna relikvija palīdz uzņēmumiem ātri identificēt un atrisināt problēmas. Šī uzticamības nodrošināšana ir kritiska, lai saglabātu augstas kvalitātes AI pakalpojumus un nekavējoties risinātu sašaurinājumus [2] [6].
Kopumā New Relics AI uzraudzība ir labi sagatavota, lai palīdzētu identificēt un adresēt sašaurinājumus DeepSeek lietojumprogrammās, piedāvājot visaptverošu rīku komplektu veiktspējas optimizēšanai, modeļa izvēlei un reāllaika uzraudzībai.
Atsauces:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-iaimonitoringga/
[2] https://theexchangeasia.com/new-relic-unveils-1
[3.]
[4] https://newrelic.com/blog/how-to-relic/ai-in-observability
[5] https://newrelic.com/press-rease/20250203
[6] https://ecommercenews.com.au/story/new-relic-unveils
[7] https://newrelic.com/blog/nerdlog/ai-monitoring-ga
[8] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-toefseek
[9] https://newrelic.com/platform/ai-onitoring