Uusien jäännösten AI -seurannan perustaminen DeepSeek -sovellukselle sisältää useita avainvaiheita, jotka auttavat sinua saavuttamaan kattava näkyvyys AI -sovelluksen suorituskykyyn, laatuun ja kustannuksiin. Tässä on yksityiskohtainen opas sen asettamiseen:
Vaihe 1: Instrumentti DeepSeek -sovelluksesi
Aloitaksesi Deepseek -sovelluksen seuraamisen uudella jäännöksellä, sinun on ensin vältettävä sovelluksesi. Tähän sisältyy uuden jäännöksen sovelluksen suorituskyvyn seurannan (APM) agenttien integrointi sovellukseesi. Koska Deepseek käyttää OpenAI-yhteensopivaa sovellusliittymää, voit käyttää sovelluksessasi OpenAi SDK: ta helpommin integroimiseksi uuteen jäännökseen [2].1. Rekisteröidy tai kirjaudu sisään: Aloita kirjautumalla uuteen jäännöstiliin tai kirjautumalla sisään, jos sinulla on jo sellainen.
2. Pääsyintegraatiot ja agentit: Siirry uuden jäännöskokoonpanon integraatioihin ja agentteihin.
3. Valitse OpenAi -integrointi: Kirjoita hakupalkkiin OpenAi ja valitse se. Tämä johtuu siitä, että DeepSek -mallit ovat yhteensopivia OpenAi -sovellusliittymien kanssa.
4. Valitse ohjelmointikieli: Valitse sovelluksesi käyttämä ohjelmointikieli (esim. Python, Node.js).
5. Seuraa ohjattua ajoneuvoa: Noudata uuden jäännöksen tarjoamaa ohjattua ajoneuvoa koskevaa prosessia sovelluksen instrumenttiohjelman. Tämä prosessi opastaa sinut AI -valvontaan tarvittavien kokoonpanojen asettamiseen [2].
Vaihe 2: AI -valvonta
Kun sovelluksesi on instrumentoitu, voit aloittaa uuden jäännöksen AI -seurannan käytön:1. Siirry AI -valvontaan: Siirry kaikkiin uuden jäännöspaneelisi ominaisuuksiin ja napsauta AI -valvontaa.
2. Valitse sovelluksesi: Valitse AI-valvontaosiossa kaikkien yksiköiden alla Deepseek-sovelluksesi (esim. "DeepSek-local") nähdäksesi sen suorituskykytiedot [2].
Vaihe 3: Arvioi suorituskyky, laatu ja kustannukset
Kun sovelluksesi on asetettu, voit nyt arvioida keskeisiä mittareita:1. APM 360 -yhteenveto: Katso APM 360 -yhteenveto mittareista, kuten pyynnöt, vasteajat, merkinkäyttö ja virhetasot. Tämä auttaa tunnistamaan kysymykset nopeasti [2].
2. Syvä jäljitysnäkymä: Napsauta AI -vastauksia APM 360 -yhteenvedossa nähdäksesi yksityiskohtaiset jäljet käyttäjän syötteestä lopulliseen vastaukseen, mukaan lukien metatiedot, kuten merkkien määrät ja mallitiedot [2].
3. Mallin laadun arviointi: Analysoi suuren kielimallin (LLM) vastaukset sellaisten ongelmien tunnistamiseksi, kuten toksisuus tai negatiivisuus, vaikka tämä ominaisuus on tällä hetkellä rajoitetusti esikatselu [2].
Vaihe 4: Vertaa malleja
Uuden jäännös antaa sinun verrata erilaisia AI -malleja suorituskyvyn ja kustannusten optimoimiseksi:1. Mallivertailu: Käytä New Relicin mallin vertailuominaisuuksia arvioidaksesi, kuinka mallien välinen vaihtaminen vaikuttaa sovelluksesi suorituskykyyn ja kustannuksiin. Tämä auttaa valitsemaan sopivin malli tarpeisiisi [3] [10].
Vaihe 5: Varmista tietojen tietosuoja ja turvallisuus
Arkaluontoisten tietojen suojaamiseksi voit määrittää pudotussuodattimet:1. Luo pudotussuodattimet: Siirry pudota suodattimet ja luodaksesi suodattimia arkaluontoisten tietojen (esim. Henkilökohtaisten tunnistettavien tietojen) ulkopuolelle AI -pyynnöistä ja vastauksista [2].
Näitä vaiheita noudattamalla voit määrittää tehokkaasti uuden jäännöksen AI -seurannan Deepseek -sovelluksellesi, saamalla arvokkaita käsityksiä sen suorituskyvystä varmistaen samalla tietojen yksityisyyden ja turvallisuuden.
Viittaukset:
[1] https://docs.newrelic.com/install/ai-monitoring/
.
.
[4] https://newrelic.com/blog/how-to-relic/ai-monitoring-for-nvidia-nim
.
[6] https://newrelic.com/blog/how-to-relic/monitor-and-optimize-complex-web-apps
[7] https://newrelic.com/blog/how-to-relic/ai-monitoring
.
[9] https://docs.newrelic.com/docs/ai-monitoring/intro-to-aai-monitoring/
[10] https://newrelic.com/press-release/20250203