„New Relic AI“ stebėjimas suteikia išsamią platformą, skirtą palyginti ir optimizuoti AI modelius, įskaitant „Deepseek-R1“, siūlant gilias įžvalgas apie našumą, kokybę ir kainą visoje AI kaminoje. Štai kaip tai lygina „Deepseek-R1“ su kitais AI modeliais:
Pagrindinės naujos relikvijos AI stebėjimo ypatybės
1. Visas AI kamino matomumas: „New Relic“ suteikia holistinį programos, infrastruktūros ir AI sluoksnio vaizdą, leidžiantį kūrėjams stebėti AI metriką kartu su tradicinėmis APM (programų veikimo stebėjimo) auksiniais signalais. Tai apima atsako kokybę, žetonų skaičių ir kitą atitinkamą metriką [1] [4].
2. Modelio palyginimas: „New Relic“ AI stebėjimas suteikia vartotojams galimybę palyginti skirtingų AI modelių, įskaitant „Deepseeek-R1“, „Openai“ ir „AWS Bedrock“, našumą ir kainą. Tai padeda pasirinkti tinkamiausią konkrečių programų modelį, pagrįstą tokiais veiksniais kaip tikslumas, efektyvumas ir eksploatavimo išlaidos [1] [3] [9].
3. „Deep Trace Insights“: platforma siūlo išsamias sekimo galimybes, leidžiančias kūrėjams analizuoti sudėtingų AI atsakymų gyvavimo ciklą. Tai ypač naudinga pašalinant veiklos problemas ir kokybės problemas, tokias kaip šališkumas ar haliucinacija tokiuose modeliuose kaip „Deepseeek-R1“ [1] [7].
4. Patobulintas duomenų saugumas: „New Relic“ apima tokias funkcijas kaip „Drop“ filtrai, kad būtų galima selektyviai pašalinti neskelbtinus duomenis iš stebėjimo, atitikties užtikrinimo ir vartotojo privatumo apsaugos. Tai labai svarbu integruojant tokius modelius kaip „Deepseek-R1“, kurie tvarko sudėtingus ir potencialiai jautrius duomenis [1].
palyginimas su „Deepseek-R1“
„Deepseek-R1“ pasižymi savo pažangiomis samprotavimo galimybėmis, naudojant ekspertų (MOE) architektūros mišinį, kuris išvados metu suaktyvina tik jo parametrų pogrupį, todėl jis yra efektyvus ir ekonomiškai efektyvus, palyginti su daugeliu kitų didelių kalbų modelių [2] [5]. Čia gali padėti palyginti „Relic AI“ stebėjimą, palyginti su kitais modeliais: „Deepseek-R1“:
- Našumas ir ekonominis efektyvumas: „Deepseeek-R1“ pripažįstamas dėl didelio loginių samprotavimo užduočių tikslumo išlaikant mažesnę sąnaudų struktūrą, palyginti su tokiais modeliais kaip Openai O1 [3] [5]. Nauja relikvijos AI stebėjimas leidžia kūrėjams realiuoju laiku įvertinti šią metriką, padėdami jiems nuspręsti, ar „Deepseek-R1“ ar kitas modelis yra labiau tinkamas jų programoms, atsižvelgiant į našumo poreikius ir biudžeto apribojimus.
- Sudėtingas užklausų tvarkymas: „Deepseeek-R1“ puikiai tvarko sudėtingas užklausas ir pateikia niuansuotus atsakymus, tokiais scenarijais dažnai pralenkdami tokius modelius kaip „ChatGPT“ ir „Dvyniai“ [6]. „New Relic“ stebėjimas gali padėti įvertinti, kaip gerai „Deepseek-R1“ tvarko šias užduotis, palyginti su kitais modeliais, suteikiant įžvalgų apie reagavimo kokybę ir vartotojo atsiliepimus.
-Atviro kodo ir pritaikymas: Būdamas atviro kodo, „Deepseeek-R1“ kūrėjams siūlo lankstumą pritaikyti konkrečių programų modelį, kurį galima stebėti ir optimizuoti naudojant naują relikvijos AI stebėjimą [2] [3]. Tai leidžia labiau pritaikyti AI plėtrą, leidžiančią kūrėjams pritaikyti „Deepseek-R1“ ar kitus modelius, kad atitiktų unikalius reikalavimus.
Apibendrinant galima pasakyti, kad „New Relic AI“ stebėjimas suteikia patikimą sistemą, skirtą palyginti AI modelius, tokius kaip „Deepseek-R1“ su kitais, daugiausia dėmesio skiriant našumui, kainoms ir pritaikymo galimybėms. Tai padeda kūrėjams priimti pagrįstus sprendimus, kuriuos modelius naudoti skirtingoms programoms, užtikrinant optimalų našumą ir efektyvumą.
Citatos:
[1] https://docs.newrelic.com/whats-new/2024/03/whats-new-03-28-imoniringga/
[2] https://writesonic.com/blog/what-is-deepseek-r1
[3] https://newrelic.com/blog/how-to-trelic/depall-deepseek-models-locally-and-monitor-with-new-relc-ai-ai-onitorling
[4] https://newrelic.com/blog/how-to-trelic/ai-in-observability
[5] https://fireworks.ai/blog/deepseek-r1-deepdive
]
[7] https://newrelic.com/blog/nerdlog/ai-onitining-ga
[8] https://blogs.nvidia.com/blog/deepseek-r1-nim-microservice/
[9] https://newrelic.com/press-release/20250203