Az új Relic AI megfigyelés integrálása a DeepSeek-R1-rel több lépést foglal magában, amelyek segítenek figyelemmel kísérni az AI alkalmazások teljesítményét, minőségét és költségeit. Itt található egy részletes útmutató az integráció eléréséhez:
1. lépés: Helyileg beállítva a mélyszék-R1-et
Először győződjön meg arról, hogy egy mélymagos-R1 modellt helyben állít be. A DeepSeek modellek ismertek innovatív architektúrájukról, különösen a szakértők keverékének (MOE) kialakításáról, amely javítja a hatékonyságot azáltal, hogy csak a releváns almodelleket aktiválja az egyes feladatokhoz [1] [3].
2. lépés: Openai-kompatibilis API használata
A DeepSeek modellek Openai-kompatibilis API-t használnak. Ez azt jelenti, hogy integrálhatja őket az alkalmazásba az OpenAI SDK segítségével, amely egyszerűsíti a megfigyelési folyamatot az új emlékekkel [1].
3. lépés: Integrálás az új Relic AI monitorozással
1. Iratkozzon fel vagy jelentkezzen be az új Relic -be: Kezdje az új Relic -fiók regisztrációjával, vagy jelentkezzen be, ha már van ilyen. A New Relic ingyenes számlaopciót kínál, amely hozzáférhetővé teszi a teszteléshez és a fejlesztéshez [1].
2. Konfigurálja az új ereklyét az Openai számára: Mivel a DeepSeek OpenAI-kompatibilis API-t használ, az új ereklyét úgy konfigurálja, mintha közvetlenül integrálná az Openai-t.
- Keresse meg az integrációkat és ügynököket az új Relic -fiókjában.
- A keresősávban írja be az OpenAI -t, és válassza ki.
- Válassza ki az alkalmazás programozási nyelvét (például Python, Node.js).
- Kövesse a New Relic által biztosított vezetett fedélzeti beépítési folyamatot, amelyet a műszerhez a DeepSeek segítségével építettek [1].
3. Instrumentum Az alkalmazás: Az új Relic APM -ágenseket biztosít, amelyek könnyen beépíthetők az alkalmazásba. Ezek az ágensek az AI könyvtárakból és keretekből gyűjtik a mutatókat és az eseményadatokat, lehetővé téve az AI alkalmazásának valós időben történő figyelemmel kísérését [2] [8].
4. Az ügynöki viselkedés testreszabása: Az ügynök telepítése után testreszabhatja viselkedését az Ön igényeinek megfelelően. Ez magában foglalja az olyan funkciók engedélyezését vagy letiltását, mint például a streaming és a tartalomfelvétel, amelyek kulcsfontosságúak az AI interakciók megfigyeléséhez [5].
5. Figyelemmel kíséri a teljesítményt és a minőséget: Az új Relic AI megfigyeléssel betekintést nyerhet olyan kulcsfontosságú mutatókba, mint a válaszidő, a minőség, a használt tokenek és az infrastruktúra teljesítménye. Ez elősegíti a szűk keresztmetszetek azonosítását és az AI alkalmazás általános funkcionalitásának optimalizálását [10].
6. Modell összehasonlítás és optimalizálás: Az új Relic modell -összehasonlító funkció lehetővé teszi a különböző AI modellek értékelését a teljesítmény, a minőség és a költség alapján. Ez különösen akkor hasznos, ha eldönti, hogy vált-e olyan újabb modellre, mint a DeepSeek-R1, mivel ez segít felmérni az alkalmazásra gyakorolt hatás [4] [9].
4. lépés: Az adatok magánéletének és biztonságának biztosítása
Új Relic AI megfigyelés használatakor ügyeljen arra, hogy megfeleljen az adatvédelmi előírásoknak. Mivel az AI megfigyelés rögzítheti a bemeneteket és a kimeneteket, beleértve a személyes információkat, elengedhetetlen a felhasználóktól való hozzájárulás megszerzése és a szükséges adatvédelmi intézkedések végrehajtása [2].
5. lépés: Betekintés kihasználása az innovációhoz
Végül használja az új Relic AI megfigyelésből származó betekintést az innováció elősegítésére és az AI alkalmazások fejlesztésére. A teljesítmény és a költségek optimalizálásával felgyorsíthatja az AI elfogadását és elérheti a befektetés gyorsabb megtérülését (ROI) [4] [7].
Ez az integráció nemcsak javítja az AI-verem láthatóságát, hanem támogatja a DeepSeek modellek költséghatékony és hatékony természetét is, így az AI hozzáférhetőbb és gyorsabb innovációt vezet.
Idézetek:
[1] https://newrelic.com/blog/how-to-relic/deploy-deepseek-models-locally-and-monitor-with-new-relic-ai-monitoring
[2] https://docs.newrelic.com/install/ai-monitoring/
[3] https://618media.com/en/blog/integration-deepseek-r1-intoepisting-systems-a-guide/
[4] https://newrelic.com/press-release/20250203
[5] https://docs.newrelic.com/docs/ai-monitoring/customize-agent-ai-monitoring/
[6] https://learn.odoo.com/groups/in-5/new-relic-extends-its-ai-monitoring-to-support-deepseek-4237?mode=date
[7] https://radicaldatascience.wordpress.com/tag/deepseek/
[8] https://newrelic.com/blog/how-to-relic/ai-monitoring
[9] https://www.computerweekly.com/news/366618774/new-relic-extends-bservability-t--reepseek
[10] https://newrelic.com/platform/ai-monitoring