Jā, jauna Relic AI uzraudzība var izsekot marķiera izmantošanu izmaksu optimizēšanai DeepSeek lietojumprogrammās. Šī spēja ir daļa no New Relic visaptverošā novērojamības risinājuma, kas īpaši paredzēts DeepSeek, ģeneratīva AI (Genai) modeļa uzraudzībai. Integrējot New Relics AI uzraudzību ar DeepSeek, uzņēmumi var iegūt pilnīgu redzamību savās AI lietojumprogrammās, ieskaitot galvenos metrikus, piemēram, marķiera izmantošanu, caurlaidspēju, latentumu un izmaksas. Šī integrācija atbalsta DeepSeek un DeepSeek vietnē Microsoft Azure AI Foundry, nodrošinot vienkāršotu iestatījumu ar uzlabotu datu drošību [1] [2] [4].
Token lietošanas izsekošana izmaksu optimizācijai:
New Relic AI uzraudzība ļauj uzņēmumiem izsekot marķieru izmantošanu, kas ir būtiska AI attīstības izmaksu pārvaldīšanai. Žetonu lietošana ir nozīmīgs faktors, lai noteiktu AI modeļu vadīšanas izmaksas, jo daudzi AI pakalpojumu maksa, pamatojoties uz apstrādāto žetonu skaitu. Pārraugot marķieru izmantošanu, uzņēmumi var optimizēt savas AI izmaksas, identificējot apgabalus, kur marķieru izmantošana var tikt samazināta, neapdraudot veiktspēju. Šī spēja arī ļauj uzņēmumiem pieņemt apzinātus lēmumus par modeļa izvēli un izvietošanu, nodrošinot, ka viņi izvēlas visefektīvākos modeļus savām lietojumprogrammām [5] [8].
Jaunu relikviju AI monitoringa ieguvumi DeepSeek:
1. Uzticamības nodrošināšana un kvalitāte: Jauna relikvija nodrošina pilnīgu redzamību DeepSeEK darbināmā AI lietojumprogrammu veiktspējā, ļaujot uzņēmumiem ātri identificēt un atrisināt problēmas. Tas nodrošina, ka lietojumprogrammas darbojas droši un uztur augstas kvalitātes [1] [4].
2. Izmaksu optimizācija: izsekojot marķieru izmantošanu un citus ar izmaksu rādītājus, uzņēmumi var optimizēt savas AI attīstības izmaksas. Tas ir īpaši svarīgi, ja izmantojat rentablus modeļus, piemēram, DeepSeek, kas piedāvā uzlabotas spriešanas iespējas par zemākām izmaksām [1] [5].
3. Uzticība modeļa pārslēgšanai: New Relic modeļa salīdzināšanas funkcijas ļauj uzņēmumiem novērtēt pārslēgšanās starp AI modeļiem ietekmi uz veiktspēju un izmaksām. Tas palīdz pieņemt apzinātus lēmumus par to, kādus modeļus izvietot un kad mainīt, nodrošinot, ka izvēlētie modeļi atbilst biznesa vajadzībām un budžeta ierobežojumiem [4] [5].
4. Paātrinātais jauninājums: Jaunā Relica AI uzraudzības un DeepSeek atvērto modeļu kombinācija paātrina AI jauninājumus un izvietošanu. Tas uzņēmumiem ļauj efektīvāk izmantot un optimizēt AI tehnoloģijas, veicinot ātrāku inovāciju un saglabājot konkurences priekšrocības tirgū [1] [7].
Kopumā New Relics AI uzraudzība DeepSeek lietojumprogrammām nodrošina stabilu risinājumu AI izmaksu optimizēšanai, izmantojot marķieru izmantošanas izsekošanu, cita starpā, palīdzot uzņēmumiem efektīvi orientēties kompleksajā AI ainavā.
Atsauces:
[1] https://theexchangeasia.com/new-relic-unveils-1
[2] https://www.dqchannels.com/news/new-relic-introduces-observability-solūcija-for-depseek-ai-onitoring-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-reponses/
[4] https://newrelic.com/press-rease/20250203
[5] https://ecommercenews.com.au/story/new-relic-unveils-ai-onitoring-for-depseek-applications
[6.]
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-toepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-depseek-models-locally-and-monitor-with-new-relic-aionitoring