Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Bagaimana mode panggilan JSON/fungsi di Together.


Bagaimana mode panggilan JSON/fungsi di Together.


Bersama. API's API menawarkan dua fitur penting: mode JSON dan panggilan fungsi, yang dapat meningkatkan integrasi dengan model Deepseek R1. Beginilah fitur -fitur ini memengaruhi integrasi:
Mode

JSON

Mode JSON memungkinkan pengguna untuk menentukan skema untuk output model, memastikan bahwa respons disusun dan melekat pada format yang telah ditentukan. Ini sangat berguna ketika berintegrasi dengan Deepseek R1, karena memungkinkan pengembang untuk menerima data terstruktur yang dapat dengan mudah diproses dan diintegrasikan ke dalam aplikasi. Dengan menentukan skema, pengembang dapat memastikan bahwa output model konsisten dan selaras dengan persyaratan aplikasi mereka, membuatnya lebih mudah untuk mengotomatisasi tugas atau mengekstrak informasi spesifik.

Misalnya, saat menggunakan Deepseek R1, menentukan skema JSON di prompt dapat membantu memastikan bahwa model menghasilkan output dalam string JSON yang valid, mengikuti skema yang ditentukan. Ini dapat dicapai dengan memasukkan prompt spesifik yang menginstruksikan model untuk output dalam format JSON dan mematuhi skema tertentu [4].

Panggilan fungsi

Panggilan fungsi memungkinkan model untuk menyarankan dan memohon fungsi eksternal berdasarkan input yang diterimanya. Fitur ini sangat berguna untuk berintegrasi dengan sumber atau layanan data eksternal, seperti mengambil data cuaca atau melakukan perhitungan. Saat menggunakan Deepseek R1 dengan panggilan fungsi, model dapat secara cerdas menentukan kapan harus meminta fungsi dan menyarankan parameter yang sesuai dalam objek JSON. Ini memungkinkan integrasi tanpa batas dengan layanan eksternal, meningkatkan kemampuan model di luar pembuatan teks.

Misalnya, jika Anda membangun chatbot yang perlu memberikan ramalan cuaca menggunakan Deepseek R1, Anda dapat mendefinisikan fungsi seperti `get_current_weather` dan minta model menyarankan kapan harus memanggil fungsi ini dengan parameter lokasi yang sesuai. Respons dari fungsi kemudian dapat disampaikan kembali ke model untuk melanjutkan percakapan [1].

Dampak pada integrasi

Integrasi Deepseek R1 dengan Together. Mode JSON dan Fitur Panggilan Fungsi menawarkan beberapa manfaat:

- Output terstruktur: Mode JSON memastikan bahwa output dari Deepseek R1 terstruktur dan mengikuti skema yang telah ditentukan, membuatnya lebih mudah untuk diintegrasikan ke dalam aplikasi.
- Kemampuan yang Ditingkatkan: Panggilan fungsi memungkinkan Deepseek R1 untuk memanfaatkan fungsi eksternal, meningkatkan kemampuannya untuk berinteraksi dengan sumber atau layanan data eksternal.
- Fleksibilitas dan skalabilitas: Bersama. API tanpa server untuk Deepseek R1 memberikan inferensi dan skalabilitas yang cepat, membuatnya cocok untuk aplikasi skala besar [6].

Secara keseluruhan, fitur -fitur ini meningkatkan kegunaan dan keserbagunaan Deepseek R1 dengan memberikan output terstruktur dan memungkinkan integrasi yang mulus dengan layanan eksternal, membuatnya lebih cocok untuk aplikasi yang kompleks.

Kutipan:
[1] https://www.together.ai/blog/function-calling-json-mode
[2] https://www.together.ai/models/deepseek-r1
[3] https://docs.together.ai/docs/prompting-deepseek-r1
[4] https://syntackle.com/blog/deepseek-ai-model-and-openrouter/
[5] https://www.reddit.com/r/localllama/comments/1aczp2r/togetherai_introduces_jsonfunction_calling_mode/
[6] https://www.together.ai/blog/deploy-deepseek-r1-at-sale-fast-secure-serverless-aPis-and-large-scale-cogeter-reasoning-clusters
[7] https://azure.microsoft.com/en-us/blog/deepseek-r1-is-now-available-on-azure-ai-foundry-and-github/
[8] https://community.openai.com/t/question-about-function-calling-json-mode/562940
[9] https://www.together.ai/blog/deploy-deepseek-r1-and-distilled-podels-securely-on-together-ai
[10] https://www.datacamp.com/tutorial/deepseek-api
[11] https://community.appsmith.com/content/guide/building-cat-app-deepseek-r1-and-togetherai-under-5-minutes
[12] https://thinktank.ottomator.ai/t/together-ai-bonding-100-free-credits-and-deepseek-r1/4892