AIA의 API는 JSON 모드와 기능 호출의 두 가지 중요한 기능을 제공합니다.이 기능은 DeepSeek R1 모델과의 통합을 향상시킬 수 있습니다. 이러한 기능이 통합에 어떤 영향을 미치는지는 다음과 같습니다.
JSON 모드
JSON 모드를 사용하면 사용자가 모델 출력에 대한 스키마를 지정하여 응답이 구성되어 사전 정의 된 형식에 부착 될 수 있습니다. 개발자는 DeepSeek R1과 통합 할 때 특히 유용합니다. 개발자는 쉽게 처리 및 응용 프로그램에 통합 할 수있는 구조화 된 데이터를 수신 할 수 있으므로 유용합니다. 스키마를 지정함으로써 개발자는 모델의 출력이 응용 프로그램의 요구 사항에 따라 일관되고 정렬되어 작업을 더 쉽게 자동화하거나 특정 정보를 추출 할 수 있도록 할 수 있습니다.
예를 들어, DeepSeek R1을 사용할 때 프롬프트에서 JSON 스키마를 지정하면 지정된 스키마에 따라 유효한 JSON 문자열에서 모델이 출력을 생성 할 수 있습니다. 이는 모델에 JSON 형식으로 출력하도록 지시하고 주어진 스키마를 준수하는 특정 프롬프트를 포함시킴으로써 달성 될 수있다 [4].
기능 호출
함수 호출을 통해 모델은 수신 한 입력에 따라 외부 기능을 제안하고 호출 할 수 있습니다. 이 기능은 특히 날씨 데이터 가져 오기 또는 계산 수행과 같은 외부 데이터 소스 또는 서비스와 통합하는 데 특히 유용합니다. 기능 호출과 함께 DeepSeek R1을 사용할 때 모델은 기능을 호출 할시기를 지능적으로 결정하고 JSON 객체에서 적절한 매개 변수를 제안 할 수 있습니다. 이를 통해 외부 서비스와 완벽하게 통합되어 텍스트 생성 이외의 모델의 기능을 향상시킵니다.
예를 들어, DeepSeek R1을 사용하여 일기 예보를 제공 해야하는 챗봇을 구축하는 경우`get_current_weather`와 같은 함수를 정의하고 적절한 위치 매개 변수 로이 기능을 호출 할 때 모델을 제안 할 수 있습니다. 그런 다음 함수로부터의 응답을 대화를 계속하기 위해 모델로 다시 전달 될 수있다 [1].
통합에 미치는 영향
DeepSeek R1을 함께 통합하면 AAI의 JSON 모드 및 기능 호출 기능이 몇 가지 이점을 제공합니다.
- 구조화 된 출력 : JSON 모드는 DeepSeek R1의 출력이 구조화되고 사전 정의 된 스키마를 따라 응용 프로그램에 쉽게 통합 할 수 있도록합니다.
- 향상된 기능 : 기능 호출은 DeepSeek R1을 사용하면 외부 기능을 활용하여 외부 데이터 소스 또는 서비스와 상호 작용하는 기능을 향상시킵니다.
- 유연성과 확장 성 : DeepSeek R1 용 AAI의 서버리스 API는 빠른 추론과 확장 성을 제공하여 대규모 응용 프로그램에 적합합니다 [6].
전반적으로 이러한 기능은 구조화 된 출력을 제공하고 외부 서비스와의 원활한 통합을 가능하게하여 DeepSeek R1의 유용성과 다양성을 향상시켜 복잡한 애플리케이션에 더 적합합니다.
인용 :
[1] https://www.together.ai/blog/function-calling-json-mode
[2] https://www.together.ai/models/deepseek-r1
[3] https://docs.together.ai/docs/prompting-deepseek-r1
[4] https://syntackle.com/blog/deepseek-ai-model-and-openrouter/
[5] https://www.reddit.com/r/localllama/comments/1aczp2r/togethai_introduces_jsonfunction_calling_mode/
[6] https://www.together.ai/blog/deploy-deepseek-r1-at-scale-fast-secure-serverless-apis-and-large-scale-together--reasoning-clusters
[7] https://azure.microsoft.com/en-us/blog/deepseek-r1-is-now-available-on-ai-foundry-and-github/
[8] https://community.openai.com/t/question-about-functing-calling-json-mode/562940
[9] https://www.together.ai/blog/deploy-deepseek-r1-and-distilled-models-securely-on-together-ai
[10] https://www.datacamp.com/tutorial/deepseek-api
[11] https://community.appsmith.com/content/guide/building-chat-app-deepseek-21-and-togethi-under-5-Minutes
[12] https://thinktank.ottomator.ai/t/together-ai-offering-100-free-credits-and-deepseek-r1/4892