Sì, il nuovo monitoraggio di AI Relic può tenere traccia dell'utilizzo dei token per l'ottimizzazione dei costi nelle applicazioni DeepSeek. Questa capacità fa parte della soluzione di osservabilità completa di New Relic progettata specificamente per il monitoraggio di DeepSeek, un modello di AI generativo (GENAI). Integrando il monitoraggio dell'IA di New Relic con DeepSeek, le aziende possono ottenere la piena visibilità nelle loro applicazioni AI, comprese le metriche chiave come l'utilizzo dei token, il throughput, la latenza e i costi. Questa integrazione supporta DeepSeek e DeepSeek su Microsoft Azure AI Foundry, fornendo una configurazione semplificata con una sicurezza dati avanzata [1] [2] [4].
Tracciamento dell'utilizzo del token per l'ottimizzazione dei costi:
Il monitoraggio dell'IA di New Relic consente alle aziende di tenere traccia dell'utilizzo dei token, il che è cruciale per la gestione dei costi di sviluppo dell'IA. L'utilizzo dei token è un fattore significativo nel determinare il costo dell'esecuzione di modelli di intelligenza artificiale, poiché molti servizi di intelligenza artificiale addebitano in base al numero di token elaborati. Monitorando l'utilizzo dei token, le aziende possono ottimizzare i costi di intelligenza artificiale identificando le aree in cui l'utilizzo dei token può essere ridotto senza compromettere le prestazioni. Questa capacità consente inoltre alle aziende di prendere decisioni informate sulla selezione e la distribuzione dei modelli, garantendo che scelgano i modelli più convenienti per le loro applicazioni [5] [8].
Vantaggi del nuovo monitoraggio dell'IA Relic per DeepSeek:
1. Affidabilità Assicurazione e qualità: New Relic offre la piena visibilità nelle prestazioni delle applicazioni AI basato in profondità, consentendo alle aziende di identificare e risolvere rapidamente i problemi. Ciò garantisce che le applicazioni funzionino in modo affidabile e mantengano l'alta qualità [1] [4].
2. Ottimizzazione dei costi: monitorando l'utilizzo dei token e altre metriche relative ai costi, le aziende possono ottimizzare i costi di sviluppo dell'IA. Ciò è particolarmente importante quando si utilizzano modelli economici come DeepSeek, che offrono capacità di ragionamento avanzate a un costo inferiore [1] [5].
3. Fiducia nel cambio di modello: le funzionalità di confronto dei modelli di New Relic consentono alle aziende di valutare l'impatto del passaggio tra i modelli di intelligenza artificiale su prestazioni e costi. Questo aiuta a prendere decisioni informate su quali modelli distribuire e quando cambiare, garantendo che i modelli scelti si allineino con le esigenze aziendali e i vincoli di budget [4] [5].
4. Innovazione accelerata: la combinazione del monitoraggio AI di New Relic e dei modelli aperti di DeepSeek accelerano l'innovazione e la distribuzione. Ciò consente alle aziende di adottare e ottimizzare le tecnologie di intelligenza artificiale in modo più efficiente, guidando un'innovazione più veloce e mantenendo un vantaggio competitivo sul mercato [1] [7].
Nel complesso, il monitoraggio dell'intelligenza artificiale di New Relic per le applicazioni DeepSeek fornisce una solida soluzione per ottimizzare i costi di intelligenza artificiale attraverso il monitoraggio dell'utilizzo di token, tra gli altri vantaggi, aiutando le aziende a navigare efficacemente nel complesso panorama dell'intelligenza artificiale.
Citazioni:
[1] https://theexchangeasia.com/new-relic-unveils-first-ever-ai-observability-for-deepseek/
[2] https://www.dqchannels.com/news/new-relic-introduces-observability-solution-for-deepseek-aai-monitors-8689063
[3] https://docs.newrelic.com/docs/ai-monitoring/explore-ai-data/view-ai-responses/
[4] https://newrelic.com/press-release/20250203
[5] https://embimercenews.com.au/story/new-relic-unveils-ai-monitoring-for-deepseek-applications
[6] https://blog.devops.dev/aws-observability-tools-for-bedrock-large --guage-models-d732363993fd
[7] https://www.computerweekly.com/news/366618774/new-relic-extends-observability-to-deepseek
[8] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models--monitor-with-new-relic-ai-monitoring