Spoločne.AI's API ponúka dve významné funkcie: režim JSON a volanie funkcií, ktoré môžu vylepšiť integráciu s modelom DeepSeek R1. Takto tieto funkcie ovplyvňujú integráciu:
JSON
Režim JSON umožňuje používateľom určiť schému pre výstup modelu, čím sa zabezpečí, že reakcie sú štruktúrované a dodržiavajú preddefinovaný formát. Toto je užitočné najmä pri integrácii s DeepSeek R1, pretože umožňuje vývojárom prijímať štruktúrované údaje, ktoré je možné ľahko spracovať a integrovať do aplikácií. Zadaním schémy môžu vývojári zabezpečiť, aby výstup modelu bol konzistentný a v súlade s požiadavkami ich aplikácie, čo uľahčuje automatizáciu úloh alebo extrahovanie konkrétnych informácií.
Napríklad pri použití DeepSeek R1 môže zadanie schémy JSON v výzve zabezpečiť, aby model vygeneroval výstup v platnom reťazci JSON podľa zadanej schémy. To sa dá dosiahnuť zahrnutím špecifickej výzvy, ktorá dáva modelu výstup vo formáte JSON a dodržiavať danú schému [4].
Volanie funkcie
Volanie funkcie umožňuje modelu navrhnúť a vyvolať externé funkcie na základe vstupu, ktorý prijíma. Táto funkcia je obzvlášť užitočná pri integrácii s externými zdrojmi alebo službami údajov, ako je napríklad načítanie údajov o počasí alebo vykonávanie výpočtov. Pri používaní DeepSeek R1 s volaním funkcie môže model inteligentne určiť, kedy sa má vyvolať funkciu, a navrhnúť príslušné parametre v objekte JSON. To umožňuje bezproblémovú integráciu s externými službami, čím sa zvyšuje schopnosti modelu nad rámec generovania textu.
Napríklad, ak budujete chatbot, ktorý musí poskytnúť predpovede počasia pomocou DeepSeek R1, môžete definovať funkciu ako `get_current_weather`, a nechať model navrhnúť, kedy zavolať túto funkciu s príslušnými parametrami polohy. Odpoveď z funkcie sa potom môže odovzdať späť do modelu, aby sa pokračovala v konverzácii [1].
Vplyv na integráciu
Integrácia DeepSeek R1 so spoločným režimom a funkciami volania JSOI a funkciami funkcií ponúka niekoľko výhod:
- Štruktúrovaný výstup: Režim JSON zaisťuje, že výstup z DeepSeek R1 je štruktúrovaný a sleduje preddefinovanú schému, čo uľahčuje integráciu do aplikácií.
- Vylepšené schopnosti: Volanie funkcií umožňuje Deepseek R1 využívať externé funkcie, čím sa zvyšuje jeho schopnosť interagovať s externými zdrojmi alebo službami údajov.
- Flexibilita a škálovateľnosť: Spoločne.
Celkovo tieto vlastnosti zvyšujú použiteľnosť a univerzálnosť Deepseek R1 poskytovaním štruktúrovaných výstupov a umožnením bezproblémovej integrácie s externými službami, vďaka čomu je vhodnejšia pre zložité aplikácie.
Citácie:
[1] https://www.together.ai/blog/function-calling-json-mode
[2] https://www.together.ai/models/deepseek-r1
[3] https://docs.together.ai/docs/prompting-deepseek-r1
[4] https://syntackle.com/blog/deepseek-ai-model-and-penrouter/
[5] https://www.reddit.com/r/localllama/comments/1aczp2r/togetherai_introduces_jsonfunction_calling_mode/
[6] https://www.together.ai/blog/deploy-deepseek-r1-at-scale-fast-secure-serverless-apis-and-le--large-scale-together-reasoning-clusterster
[7] https://azure.microsoft.com/en-us/blog/deepseek-r1-is-now-available-on--azare-ai-ai-foundry-and-github/
[8] https://community.openai.com/t/question-about-function-calling-json-mode/562940
[9] https://www.together.ai/blog/deploy-deepseek-r1-and-distille-models-securely-on-together-ai
[10] https://www.datacamp.com/tutorial/deepseek-api
[11] https://community.apsmith.com/content/guide/building-chat-appdeepseek-rl-and1-and-agetherai-under-5-minutes
[12] https://thinktank.ottomator.ai/t/together-ai-offering-100-free-credits-and-deepseek-r1/4892