The AsyncCallbackManagerForoolrun a CallbackManagerForoolRun sú komponenty používané v rámci Langchain na správu spätných volaní počas vykonávania nástrojov, ale líšia sa predovšetkým pri manipulácii s asynchrónnymi operáciami.
Kľúčové rozdiely
1. Asynchrónne vs. synchrónne vykonanie:
- AsynccallbackManagerForoolrun je navrhnutý špeciálne pre asynchrónne operácie. Umožňuje blokujúce vykonávanie, čo znamená, že zatiaľ čo jedna operácia čaká (napr. Na dokončenie úlohy I/O), ďalšie úlohy môžu pokračovať v spustení. Toto je užitočné najmä v scenároch, v ktorých sa môže vyskytnúť viac operácií súčasne bez toho, aby čakalo, až každá skončí postupne [1] [6].
- na druhej strane je synchrónny. To znamená, že vykonáva úlohy blokujúcim spôsobom, kde musí každá operácia dokončiť pred začiatkom ďalšej. To môže viesť k pomalšiemu výkonu v scenároch, v ktorých by úlohy mohli inak spustiť súčasne [5] [6].
2. Podpisy metód:
- Metódy v asynccallbackManagerForoolrun sú predpony s `async`, ako napríklad` async on_text` a `async on_tool_end`, čo naznačuje, že tieto metódy sú určené na použitie s` acat "a môžu sa vrátiť očakávané výsledky [1].
- Naopak, metódy CallbackManagerForoolrun nemajú predponu „async`, čo odráža ich synchrónnu povahu. Okamžite vykonávajú a nepodporujú mechanizmus „ACAIT“ [2] [5].
3. Prípady použitia:
- Asynchrónny manažér je vhodnejší pre aplikácie, ktoré si vyžadujú vysokú priepustnosť a reagujúcu, ako sú webové servery alebo aplikácie, ktoré spracovávajú súčasne viaceré žiadosti o používateľa [4] [6].
- Synchrónny manažér môže byť vhodnejší pre jednoduchšie aplikácie, v ktorých sú operácie jednoduché a nemusia spúšťať súčasne, čím sa zjednodušuje programovací model [5].
Stručne povedané, výber medzi používaním asynccallbackManagerForoolrun a callbackManagerfortoolrun vo veľkej miere závisí od toho, či vaša aplikácia vyžaduje asynchrónne schopnosti alebo či dokáže efektívne fungovať so synchrónnym spracovaním.
Citácie:
[1] https://api.python.langchain.com/en/latest/callbacks/langchain_core.callbacks.manager.asynccallbackmanagerForoolrun.html.html
[2] https://python.langchain.com/v0.1/docs/modules/tools/custom_tools/
[3] https://blog.langchain.dev/structured-tools/
[4] https://stackoverflow.com/questions/36213948/what-is-the-difference-between-asynchronous-calls-and-callbacks
[5] https://python.langchain.com/api_reference/core/callbacks.html
[6] https://www.mendix.com/blog/asynchronous-vs-synchronous-programming/
[7] https://github.com/langchain-ai/langchain/discussions/17591
[8] https://www.reddit.com/r/dotnet/comments/fr8hae/is_there_any_benefit_to_asyncawait_if_youre_just/